Le groupe s'est ensuite tourné vers un style sensiblement différent de ses albums précédents à partir de l'album Mezmerize. Ses quatre membres sont d'origine arménienne, quoique nés au Liban, aux États-Unis ou en Arménie.

C'est en 1995 que Soil (qui n'avait produit aucun album et très peu de concerts), le groupe fondé par Daron Malakian, devient System of a Down. Le nom est tiré d'un poème de Daron : Victims of a down. Dès son premier album homonyme, en 1998, le groupe connut un certain succès. Leurs paroles engagées ont fait rapidement d'eux les porte-drapeaux de grandes causes, notamment la reconnaissance du génocide arménien. Des chansons comme Sugar (qui devient l'hymne du groupe avec Suite-Pee) et Spiders sortent en single.

System of a Down utilise de nombreux instruments différents, parmi lesquels guitares électriques, mandolines électriques, cithares, guitares classiques à 12 cordes, ou encore de nombreux instruments du Moyen-Orient. Black Sabbath ainsi que Slayer, vétérans du heavy metal, sont parmi leurs principales influences musicales, mais leur musique trouve aussi ses origines dans le jazz, la fusion, la musique traditionnelle arménienne, le rock classique, le blues, et le metal industriel.

Un débat récurrent parmi les fans du groupe et du heavy metal en général est de déterminer son genre musical : est-ce du nu metal ou est-ce plus correct de le qualifier de heavy metal ?

Les partisans de la première hypothèse font remarquer que System Of A Down n'effectue en effet que peu de solos de guitare et préfère utiliser des riffs de guitare simples. Leur structure musicale est également typiquement nu metal : couplet, refrain, couplet, refrain, pont musical, refrain. Le groupe participe aussi au Ozzfest, un festival où les groupes de nu metal sont nombreux à jouer. On peut remarquer que le groupe utilise le phrasé « rap » dans plusieurs de leurs chansons, ce qui est fréquent, mais pas systématique, dans le nu metal.

Le groupe est souvent étiqueté nu metal, aussi bien par les fans et les médias et ce depuis que le groupe existe. Ceux qui ne considèrent pas System of a Down comme un groupe de nu metal déclarent que cela est peut-être dû au fait que leur premier album est sorti en plein « boom » du nu metal, dans la deuxième moitié des années 1990. D'autres mentionnent le fait que System of a Down n'utilise pas de platines, chose qu'un bon nombre de groupes de nu metal font.

Daron Malakian travaille également avec le leader du groupe de rock Amen.