Peu après la formation, le groupe a signé Eyeball Records et a sorti son premier album I Brought You My Bullets, You Brought Me Your Love en 2002.
Elle s'intitulait I Brought You My Bullets, You Brought Me Your Love.