Les membres principaux étaient les frères auteurs-compositeurs Jim et William Reid, originaires d'East Kilbride en Écosse. Ils ont sorti régulièrement de nombreux albums et singles, de leur premier single en 1984 jusqu'à la séparation du groupe en 1999.

Tout comme le groupe The Smiths, Jesus and Mary Chain s'est construit autour de deux compositeurs. Pour constituer leur groupe, les frères Reid ont recruté le bassiste Douglas Hart et le batteur Murray Galglish. Ce dernier fut rapidement remplacé par Bobby Gillespie. Le groupe a enregistré son premier single, Upside Down, sorti en octobre 1984, pour le label Creation Records. Malgré un accueil élogieux du premier single par la presse musicale britannique et même si le groupe fut encensé par le magazine New Musical Express, ce fut surtout leurs prestations scéniques qui ont suscité l'attention.

Les premières apparitions de Jesus and Mary Chain deviennent l'objet d'une légende dans le milieu du rock indépendant (aussi appelé "indé"). En jouant devant un public peu nombreux, Jesus and Mary Chain gagne sa notoriété avec de très courts sets. Certains ne durent pas plus de 10 minutes et consistent en un mur de bruit constant composé de larsen et de distorsion, d'autres consistent à jouer dos au public en refusant de lui parler. Plusieurs concerts culminent avec les frères Reid détruisant leur matériel, ce qui fut souvent suivi par des émeutes du public. Tout ceci enchanta le manager et patron du label Creation Records, Alan McGee, qui manifestement trouva que le groupe savait facilement attirer l'attention. Il voulait simplement que les journalistes de la presse musicale soient présents lorsque ces événements survenaient naturellement, pour s'assurer de faire la couverture des magazines musicaux.

La violence qui suivait chaque action du groupe a atteint son sommet lors d'un événement qui fait maintenant partie du folklore indépendant. Le 15 mars 1985, Jesus and Mary Chain jouait à la North London Polytechnic devant une de leur plus grandes foules. La première partie Meat Whiplash avait créé l'agitation en renvoyant vers le public une bouteille qui leur avait été jetée. Au moment où Jesus and Mary Chain commence son concert, l'audience déjà très échauffée déclenche une émeute bien plus importante et sauvage que toutes celles qu'ait connu le groupe jusqu'à ce jour. La presse musicale était présente ce soir-là et cet événement s'appela par la suite "L'émeute Jesus and Mary Chain".

La même année, le groupe signe avec le label Blanco Y Negro et sort les singles You Trip Me Up et Never Understand qui seront bientôt suivis par leur premier album Psychocandy. Cet album mélange les deux influences principales des frères Reid, le son indé des guitares des Velvet Underground avec les tendances pop des années 60 de Phil Spector et des Beach Boys. On notera que le groupe était amateur de la drogue LSD et que la drogue influença le son perce-tympan et larsen grinçant qui deviendra plus tard leur marque de fabrique. Le disque reçut des critiques unanimement positives et est aujourd'hui considéré comme un enregistrement de référence.

Jesus and Mary Chain a été renvoyé de son label après qu'un combat a éclaté en Allemagne avec pour conséquence l'arrestation de Reid pour possession d'amphétamine. Cela leur a valu une comparaison disgracieuse aux Sex Pistols par la presse anglaise et les a conduits à apparaître dans plusieurs tabloïds. Comme ce fut le cas des concerts Anarchy des Sex Pistols, des concerts de Jesus and Mary Chain ont été interdits à Plymouth, Birmingham, Sheffield et supprimé d'un concert de Glasgow pour avoir blasphémé sur scène. La dernière date de concert a eu lieu à Brighton avec un public de 600 personnes et une armée impressionnante de police. Il n'y a pas eu d'accrochage.

Deux mois plus tard, la société de pressage de disque du label WEA a refusé la production du single You Trip Me Up parce qu'une partie de son personnel considérait comme obscène le morceau de la face B du single, Jesus suck. Même si le groupe avait à l'origine souhaité appelé le morceau Jesus Fucks, il a été forcé de le remplacer par Just Out of Reach.