Valamikor 1993-ban, egy Los Angeles-i stúdióban meghallgatáson próbál két banda. Az egyikben Serj Tankian, örményi származású, folkon nevelkedett billentyűs, a másikban pedig Daron Malakian, egy fiatal, szintén örmény, a '80-as évek metálján felnőtt gitáros. A próba után (vagy alatt) ismerik meg egymást és rájönnek, hogy mennyi minden közös bennük. Habár két különböző együttesben játszottak, minkettőnek hasonló gondolataik voltak. Kis idő múlva összehaverkodnak, és hamarosan ez a két hasonló muzsikus lélek csatlakozik egymáshoz egy zenei létben, amit "Soil"-nak neveznek el. Serj mikrofon mögé áll, Daron pedig gitárt akaszt a nyakába. Időközben, gyakran meglátogatja őket a Kiss fanatikus, örmény Shavarsh (Shavo) Odadjian. Shavo-nak annyira megtetszik a zenéjük, és mert jobban is megismeri őket, úgy dönt, hogy elvállalja a banda menedzselését. Eredetileg már régebb óta ismerték egymást, hiszen mindhárman ugyanabba a hollywoodi Alex Pilibos örmény magániskolába jártak, csak nem voltak "annyira" jóbarátok. A Soil-nak pár dal után godjai akadtak, ezért kértek Shavo-tól segítséget.
Shavo: - "Megfordultam már más együttesekben is, de leginkább az ő bandájukat kedveltem, ezért sokat lógtam velük, ismertem valamennyiüket, Serj-et és Daron-t például abból a privát hollywoodi örmény iskolából, ahova én is jártam, és ahol mindenki ismert mindenkit. Mikor felkértek, hogy legyek a Soil menedzsere, nagyon büszke voltam magamra, mert iszonyúan bírtam őket"

1995-ben jelentős változások következtek be a banda sorsában; Shavo végleg hozzájuk nőtt, és elfoglalja méltó helyét a basszusgitár mellett; új dobosuk szerepét pedig Andarik "Andy" Khachaturian tölti be. Ezen kívül még közös megegyezés alapján nevet is változtatnak. Daron írt egy verset, aminek a címe; a "Victims of a down", volt az ihletadó. Szóval ez lett az új név, de Serj a "Victims" szavat kicsivel később lecseréli a "System"-re, mert az jobban hangzik, és nem csak az emberekre vonatkozik, hanem a társadalomra úgy általában. Végül is sokmindent lehet érteni alatta.
Serj: - "Azt gondolj bele a nevünkbe amit akarsz, más-más embernek más-más dolgokat jelent. És ez adja a szépségét. Ez olyan mintha egy festményről beszélnénk: Na mit gondolsz? Emberi és politikai szinten sokféle más dolog van. Úgy értelmezed ahogy akarod."
Ettől fogva már a banda System of a Down, de még nem a végleges.
Még 1995-ben kiadják első demókazettájukat a következő számaokkal: Suite-Pee, Sugar, Dam, P.L.U.C.K. '96-ban megjelenik a második demójuk a Honey, Temper, Soil, és '97-ben pedig a harmadik is, a Know, War?, Peep-hole számokkal.

1997-ben a banda életében még egy jelentős fordulat következik be. Andy, a dobos kilép az együttesből (azt nem tudom, hogy miért), és John Dolmayan kerül a helyére, akivel útközben ismerkedtek meg.
John: - "Apám is zenész, ezért a születésem óta klubokban időztem. Ő volt az egyedüli legnagyobb hatásom, bár sohasem akarta, hogy belekeveredjek ebbe a szakmába. Mindent elkövetett, hogy távol tartson tőle, és ebből adódóan egészen tizenötéves koromig nem is kezdtem el dobolni."
Az ex-dobos csatlakozik a The Apex Theory-hoz, mint énekes.
Valójában ekkor született meg a mostani System of a Down, akire csak ezután várnak az igazi kihívások.
A bandatagok új számaikkal, heavy és hardcore hangzásukkal elkezdenek koncertezni, különböző fellépéseket vállalnak el. Rövid idő múlva nagy hírnévre tesznek szert Los Angeles-ben és környékén. Még ebben az év szeptemberében egy klubban való fellépésük során, a Viper Room-ban (Hollywood) a közönség sorai között volt Rick Rubin (Slayer, RHCP, Danziggel, Johnny Cash, Public Enemy, Beastie Boys), az American Recordings igazgatója és producere is, akit barátja, Guy Oseary (a Maverick Records-tól) hozott el a bulira.
"Néztem Rubin-t, mikor a színpadon voltam és úgy tűnt hogy élvezi az előadásunkat." - mondja Shavo. "Később találkoztunk vele, és azt mondta, hogy a lélegzete is elállt tőlünk, és szerződést szeretne velünk kötni. Majdnem elájultunk. Látszott, hogy hisz bennünk, és különösen érdekli a zenénk."
Végül is ő lett a befutó, Rubin leszerződteti a bandát. A felvételekre '97 végén, és '98-ban kerül sor a Sound City stúdióban. Az első, az együttesről elnevezett (self-titled), album 1998. június 30-án jelenik meg. A bemutatkozó albumra tizenhárom dal került fel, és a lemez kilencszázezer példányban kelt el az Egyesült Államoban. Hamar felfigyelnek rájuk a metál-hatalmasok, és így lehetőségük nyílik arra, hogy példaképeikkel együtt lépjenek fel.
Ezt követően könyörtelen lemezbemutató vár rájuk. Rengeteg helyen megfordulnak, többek között részt vesznek a '98-as Ozzfest turnén, az Incubussal és az Ultraspankkal való turné, Fight Againts turnén (Slayer-rel és Sepultura-val), ekkor még (október 27-én) Magyarországon, pontosabban Budapesten is fellépnek a Petőfi Csarnokban, a Slayer előzenekaraként. Ezen kívül még a '99-es Ozzfesten is jelentkeznek.