A világ legnagyobb chipje

Aug 23, 2021

Hagyjon üzenetet

A mesterséges intelligencia felgyorsításáért folytatott versenyben a Szilícium -völgyi Cerebras cég szokatlan stratégiát választ: Menj nagyot.


Míg egy tipikus számítógépes chip akkora, mint egy köröm, addig Cerebras' a chip akkora, mint egy tányér.


A Deep Learning, a mesterséges intelligencia technológiája, amely hangsegédeket, önvezető autókat és Go-bajnokokat működtet, összetett&"neurális hálózaton &" alapul. szoftver rétegekben elrendezve. A mély tanulási rendszerek egyetlen számítógépen is futtathatók, de a legnagyobb rendszerek több ezer csatlakoztatott gépen találhatók, néha nagy adatközpontokban, például a Google által üzemeltetett rendszerekben. Egy nagy fürtben akár 48 pizza-doboz méretű kiszolgáló csúszhat egy ember magas állványokba; A polcok sorban állnak, és egy raktár méretű épületet töltenek be. Ezekben a rendszerekben a neurális hálózatok ijesztő problémákat oldhatnak meg, de nyilvánvaló kihívásokkal is szembesülnek. Egy hálózat, amely egy fürtben szaporodik, olyan, mint egy agy, amely szétszórt egy szobában, és össze van kötve. Az elektronok gyorsan mozognak, de a chipek közötti kommunikáció még így is lassú és sok energiát fogyaszt.


Eric Vishria, a San Francisco -i Benchmark kockázatitőke -társaság általános partnere először vette észre a problémát, amikor 2016 tavaszán meghallotta a Cerebras Systems nevű új számítógépes chipeket gyártó cég beszédét. Uber és ebay - vagyis szoftveresen, nem hardveresen. A társaság évente mintegy 200 induló vállalkozást vizsgál, és egybe fektet be.&"Ezt a játékot játszottuk, amikor ezer békát csókoltunk, &"; Vishria elmondta. Beszéde elején úgy döntött, hogy visszadobja a békát." Azt gondoltam, miért értettem egyet ezzel?" Mi' nem fogunk hardverbe fektetni,&" - emlékezett vissza a gondolkodásra.&"Ez' hülyeség."


A Cerebras társalapítója, Andrew Feldman a diafedéllel kezdte a csapat diaját, és felkeltette Vishria' figyelmét: tehetsége lenyűgöző volt. Feldman ezután összehasonlította a kétféle számítógépes chipet. Először a grafikus feldolgozó egységeket nézte, vagy a Gpus - chipeket, amelyeket kifejezetten 3D képek készítésére terveztek. Ma&gépi tanulási rendszerei számos okból támaszkodnak ezekre a grafikus chipekre. Ezután a központi feldolgozó egységeket vagy a CPU-t nézte meg, az általános célú chipeket, amelyek a legtöbb munkát elvégzik egy tipikus számítógépen.&"A harmadik dia körülbelül' Gpus,' amelyek valójában rosszak a mély tanuláshoz - véletlenül százszor jobbak, mint a cpus." A Cerebras új típusú chipet állított elő, amelyet nem grafikára terveztek, hanem kifejezetten mesterséges intelligenciára tervezték.


A Vishria megszokta, hogy olyan vállalatok hangjait hallják, amelyek mély tanulást terveznek használni a kiberbiztonságban, az orvosi képalkotásban, a chatbotokban és más alkalmazásokban. Cerebras [39] beszéde után beszélt a Benchmark által finanszírozott vállalatok mérnökeivel, köztük a Zillow, az Uber és a Stitch Fix; Azt mondták neki, hogy gondjaik vannak az AI -val, mert túl sokáig tartott a&"betanítása &"; a neurális hálózat. A Google szupergyors&"tenzorfeldolgozó egységeket kezdett használni, &"; vagy Tpus, speciális chipek, amelyeket ARTIFICIAL intelligenciára terveztek. Vishria tudta, hogy aranyláz folyik, és valakinek el kell készítenie a csákányt és lapátot.


Ebben az évben a Benchmark és a Foundation Capital, egy másik kockázati tőke cég 27 millió dolláros finanszírozási fordulót vezetett a Cerebras számára, amely közel 500 millió dollárt gyűjtött össze. Más cégek is készítenek úgynevezett mesterséges intelligencia-gyorsítókat; Cerebras' A Groq, a Graphcore és a Sambanova versenytársak több mint 2 milliárd dollár tőkét gyűjtöttek közöttük. De Cerebras' megközelítés egyedülálló. Ahelyett, hogy tucatnyi ostyát nyomtatna egy nagy szilíciumdarabra, levágná és összekapcsolná egymással, a cég óriási&"ostya szintet &" készített. Forgács. Míg egy tipikus számítógépes chip akkora, mint a körme, a Cerebras körülbelül akkora, mint egy tányér, és a világ legnagyobb számítógépes chipje.


Még a versenytársak is lenyűgözőnek találták a teljesítményt.&"Ez új tudomány, &"; Nigel Toon, a Graphcore [39] vezérigazgatója és társalapítója elmondta.&"Ez' hihetetlen mérnöki munka. Ez' remekmű." Eközben egy másik mérnök, akivel beszéltem, tudományos projektként írta le - nagy a nagyok kedvéért. A múltban a cég megpróbált óriási chipeket gyártani, de nem sikerült; Cerebras' terv olyan fogadást jelent, hogy a mérnöki kihívások leküzdése lehetséges és megéri.&"Őszintén szólva, számomra a tudatlanság előny, &"; - mondta Vishria." Nem tudom' nem tudom, ha tudnám, milyen nehéz megtenni azt, amit ők, akkor lenne bátorságom befektetni."


Könnyű természetesnek venni, hogy a számítógépek egyre gyorsabbak. Ezt gyakran megmagyarázza Moore törvénye: a félvezető úttörő, Gordon Moore által 1965 -ben kialakított minta, amely szerint a chipen lévő tranzisztorok száma évente vagy kétévente megduplázódik. Természetesen Moore&törvénye nem igazán törvény, és a mérnökök fáradhatatlanul dolgoznak azon, hogy zsugorítsák a tranzisztorokat, miközben javítják az&architektúráját&"; minden egyes chipből, hogy hatékonyabb és erőteljesebb terveket hozzon létre.


A chip-építészek régóta azon tűnődtek, vajon egyetlen nagyméretű számítógépes chip hatékonyabb lehet-e, mint egy csomó kisebb chip, mint ahogy a koncentrált erőforrásokkal és sűrű tömbökkel rendelkező város hatékonyabb, mint egy külváros. Az ötletet először az 1960 -as években próbálták ki, amikor a Texas Instruments korlátozta a néhány centiméter széles chipek gyártását. A vállalat mérnökei azonban hozamproblémákba ütköztek. Bármely adott szilíciumlapkán a gyártási hibák elkerülhetetlenül bizonyos számú áramkört veszélyeztetnek. Ha egy ostya 50 zsetont tartalmaz, a vállalat kidobhatja a rosszakat, és eladhatja a jókat. De ha minden sikeres chip egyetlen ostya működési áramkörétől függne, sok drága ostyát elvetnének. A Texas Instruments talált megoldást, de a technológia és az igény még nem állt rendelkezésre.


A nyolcvanas években egy Gene Amdahl nevű mérnök ismét megpróbálta megoldani a problémát egy általa alapított Trilogy Systems nevű céggel. Ez lett a Szilícium -völgy&történetének legnagyobb startupja, mintegy 250 millió dolláros finanszírozással. A hozamprobléma kezelésére a Trilogy redundáns alkatrészeket nyomtatott a chipre. Ez a módszer növeli a termelést, de csökkenti a chip sebességét. Eközben a Trilogy más módon küzd. Amdahl elgázolt egy motorost Royce tekercsével, jogi gondokat okozva; Elnöke agydaganatban halt meg; A heves esőzések késleltették a gyárak építését, a rozsdás klímaberendezéseket és a porgyűjtést a forgácson. 1984 -ben a Trilogy feladta.&"Nem tudtam, hogy milyen nehéz lesz, &"; Amdahl [39] fia elmondta a The Times -nak.


Ha a Trilogy [39] technológiája sikeres, most már mély tanulásra is használható. Ehelyett a Gpus (videojátékokban használt chipek) megoldja a tudományos problémákat a nemzeti laboratóriumokban. A gpus újrafelhasználása az AI számára attól függ, hogy a neurális hálózatok, bár nagyon összetettek, sok szorzásra és összeadásra támaszkodnak. Amikor a&", neuronok &"; a hálózatban tüzet adnak egymásnak, felerősítik vagy kicsinyítik&jeleit, megszorozzák azokat a kapcsolati súlyoknak nevezett együtthatókkal. Egy hatékony AI processzor számos aktivációt párhuzamosan számol ki; Ezeket egyesíti vektoroknak nevezett számok sorozatává, vagy mátrixoknak nevezett számrácsokká, vagy tenzoroknak nevezett magasabb dimenziós blokkokká. Ideális esetben az egyik mátrixot vagy tenzort egyszerre meg kell szorozni egy másikkal. A Gpus -t valami hasonlóra tervezték:


& "A Trilógia árnyéka olyan nagy, &"; Feldman nemrég azt mondta nekem,&", hogy az emberek abbahagyják a gondolkodást, és elkezdik azt mondani:' Ez' lehetetlen.'" A GPU -vállalatok, köztük az Nvidia, kihasználták a lehetőséget, hogy személyre szabják chipjeiket a mély tanuláshoz. 2015-ben Feldman és a számítógépes építészek egy csoportja a nagyobb chipek ötletéről kezdett tárgyalni, miután közösen megalapították a Seamicro számítógépes szervergyártót, amelyet 334 millió dollárért adtak el a chipgyártó AMD-nek. Négy hónapig dolgoztak a kérdésen egy kockázati tőketársaságtól kölcsönvett irodában. Amikor felvázolták az életképes megoldást, nyolc céggel beszéltek; A Benchmark, az Foundation Capital és az Eclipse finanszírozást kapott, és elkezdett felvenni.


Cerebras' Az első feladat a nagy forgácsokat sújtó gyártási problémák megoldása. A forgács eredetileg henger alakú kristályos szilíciumból készült rúd volt, körülbelül egy láb átmérőjű, és az acélöntvényt milliméternél kisebb vastagságú ostyákba vágták. Az áramkör ekkor&", nyomtatva [GG" "; a lemezre a litográfiának nevezett eljárással. Az UV-érzékeny vegyszereket óvatosan lerakják a felületre, majd egy UV-fénysugarat vetítenek ki egy részletes sablonon keresztül, amelyet maszknak neveznek. Ezek a vegyi anyagok áramkörökre reagálnak.


Általában a maszkon keresztül kivetített fény által lefedett terület forgáccsá válik. Ezután a chip megmozdul, és a fény ismét kivetül. Miután több tucat vagy száz forgácsot nyomtattak ki, lézerrel vágják ki az ostyából.&"; A legegyszerűbb módja annak, ha anyukája kivesz egy kerek süteménytésztát, &"; - mondta Feldman." Süti formája van, és óvatosan vágja a sütiket." A fizika és az optika törvényei lehetetlenné teszik egy nagyobb sütilevél készítését. Ennek eredményeként" kifejlesztettünk egy technológiát, amely lehetővé teszi, hogy egy kis tésztán keresztül kommunikáljon két süti között."


A nyomtatási rendszerben a Cerebras a TSMC -vel, a chipet gyártó céggel együttműködésben fejlesztett ki, a cookie -k szélei átfedik egymást, így a vezetékek össze vannak kötve. Az eredmény egyetlen&", ostyaméret &"; ostya, réz színű négyzet és 21 cm mindkét oldalon. (A legnagyobb Gpusok átmérője alig haladja meg a 3 cm-t.) A Cerebras 2019-ben gyártotta első chipjét, a Wafer-skála Motor 1-et. Az idén bemutatott Wse-2 sűrűbb áramkört használ, 2,6 billió tranzisztorral, 850 000 feldolgozó egységbe csomagolva vagy&"; magok &". (A Top Gpus csak néhány ezer magot tartalmaz, míg a legtöbb CPU kevesebb, mint 10 -et.)


& "; 2,6 billió tranzisztor elképesztő, &"; -mondta Aart de Geus, a Synopsys elnöke és társ-vezérigazgatója. A Synopsys néhány szoftvert kínál, amelyeket a Cerebras és más chipgyártók használnak a chipterveik elkészítéséhez és érvényesítéséhez. De Geus azt mondja, hogy a chipek tervezésekor a mérnököknek először két alapvető kérdést kell figyelembe venniük:&"Honnan származnak az adatok?" Hol kezelik?" Amikor a chipek egyszerűbbek voltak, a tervezők válaszolhattak ezekre a kérdésekre ceruzával a rajzasztalon; Amikor a mai'&"Gondolj csak bele, hogyan néz ki a ház a tetőről, &"; - mondta de Geus." A garázs a konyha közelében van? Vagy közel van a hálószobához? A konyha közelében szeretné - különben' élelmiszereket kell vinnie a ház minden sarkán." Az alaprajz megtervezése után elmagyarázta:&"; egyenletek segítségével leírhatja, mi történik a szobában."


A chipek tervezési összetettsége elképesztő.&"Sok réteg van itt, &"; - mondta de Geus, az áramkörök keresztezve és egymásra rétegezve, mint egy fő autópálya -felüljáró. A Cerebras mérnökei, akik egy ostya skáláján dolgoznak, a komplexitást fokozzák. Szinopszis' a szoftver mesterséges intelligencia formájában segít: a mintaegyezési algoritmusok azonosítják a gyakori problémákat és javaslatot tesznek a megoldásokra; Az optimalizáló program gyorsabb és hatékonyabb elrendezésre helyezi a helyiséget. Ha túl sok sáv próbál bepréselődni egy két blokkból álló épületbe, a szoftver lehetővé teszi a mérnökök számára Robert Moses játékát és a blokk mozgatását.


Végül Feldman szerint számos előnye van a túlméretezett lapkáknak. Amikor a magok ugyanazon a chipen vannak, gyorsabban kommunikálnak: a számítógép&agya most egyetlen koponyába van koncentrálva, nem pedig szétszórva egy szobában. A nagyobb chipek is jobban kezelik a memóriát. Általában egy kisméretű chipnek, amely készen áll egy fájl feldolgozására, először meg kell szereznie a fájlt az áramköri kártyán máshol található megosztott memóriachipről; Csak a leggyakrabban használt adatokat tárolja gyorsítótárban az otthonhoz közelebb. Az ostya szintű zsetonok hatékonyságának leírásakor Feldman analógiát kínált: Arra kért, képzeljek el egy szobatársak csoportját (mag), akik kollégiumban (chipben) élnek, és akik focimeccset szeretnének nézni (számítási munkát végezni). A játék nézéséhez, feldman szerint, a szobatársaknak a sört a hűtőszekrényben kell tárolniuk (az adatok a memóriában vannak tárolva); A Cerebras minden szobában hűtőszekrényt tart, így a szobatársaknak nem kell kockáztatniuk, hogy a hálóterem közös konyhájába vagy a Safeway -be menjenek. Ennek további előnye, hogy minden mag gyorsabban feldolgozhat különböző adatokat.&"Így Bud a kollégiumi szobámban lehet, &"; - mondta Feldman.&"; A kollégiumban lehet Schlitz."


Végül a Cerebrasnak le kell küzdenie a hozamproblémákkal. A cég mérnökei a Trilogy' trükkjét használják: redundancia. De itt előnyük van elődeikkel szemben. A Trilogy sok különböző komponenst tartalmazó generikus chipeket próbál készíteni, ezért egyetlen meghibásodott komponens körüli huzalozáshoz távoli cserére lehet szükség. A Cerebrason' chip, minden mag azonos. Ha egy keksz rossz, akkor a körülötte lévő is ugyanolyan jó.