Nieuw tijdperk Silicon Valley draait op netwerken – en niet op het soort dat je op LinkedIn aantreft.
Als technologie-industrie miljarden dollars naar AI-datacenters sluizenChipmakers, zowel grote als kleine, vergroten de innovatie rond de technologie die chips met chips en serverracks met serverracks verbindt.
Netwerktechnologie bestaat al sinds het ontstaan van computers en verbindt mainframes op een kritische manier zodat ze gegevens kunnen delen. In de wereld van halfgeleiders speelt netwerken een rol op vrijwel elk niveau van de stapel: van de onderlinge verbindingen tussen transistors op de chip zelf tot de externe verbindingen tussen dozen of rekken met chips.
Chipgiganten als Nvidia, Broadcom en Marvell beschikken al over bonafide netwerken. Maar te midden van de AI-hausse zijn sommige bedrijven op zoek naar nieuwe netwerkbenaderingen die hen helpen de stroom van grote hoeveelheden digitale informatie door datacenters te versnellen. Dit is waar deep-tech startups zoals Lightmatter, Celestial AI en PsiQuantum, die optische technologie gebruiken om high-speed computing te versnellen, een rol gaan spelen.
De optische technologie, oftewel fotonica, beleeft een hoogtijdagen. De technologie werd 25 jaar lang als ‘zwak, duur en van weinig nut’ beschouwd, totdat de AI-boom de belangstelling voor de technologie nieuw leven inblies, aldus medeoprichter en hoofdwetenschapper van PsiQuantum Pete Shadbolt. (Shadbolt verscheen vorige week op een panel, mede georganiseerd door WIRED.)
Sommige durfkapitalisten en institutionele investeerders, die hopen mee te kunnen liften op de volgende golf van chipinnovatie of op zijn minst geschikte acquisitiedoelen kunnen vinden, sluisden miljarden dollars naar startups als deze die nieuwe manieren hebben gevonden om de datadoorvoer te versnellen. Zij zijn van mening dat traditionele interconnectietechnologieën, die afhankelijk zijn van elektronen, de toenemende behoefte aan AI-workloads met hoge bandbreedte niet kunnen bijhouden.
“Als je historisch terugkijkt, waren netwerken echt saai om over te praten, omdat ze pakkethoppen”, zegt Ben Bajarin, een oude technologieanalist die als CEO fungeert bij onderzoeksbureau Creative Strategies. “Dankzij AI moet het nu behoorlijk zware werklasten verplaatsen, en daarom zie je innovatie rond snelheid.”
Grote chip-energie
Bajarin en anderen zeggen dat Nvidia het belang van netwerken heeft begrepen toen het enkele jaren geleden twee belangrijke overnames in de technologie deed. In 2020 heeft Nvidia bijna $ 7 miljard uitgegeven om het Israëlische bedrijf Mellanox Technologies over te nemen, dat snelle netwerkoplossingen maakt voor servers en datacenters. Kort daarna kocht Nvidia Cumulus Networks om het te runnen Op Linux gebaseerd softwaresysteem voor computernetwerken. Dit was een keerpunt voor Nvidia, dat er terecht op gokte dat zijn GPU’s en parallelle computermogelijkheden veel krachtiger zouden worden als ze werden gecombineerd met andere GPU’s en in datacenters zouden worden geplaatst.
Terwijl Nvidia de verticaal geïntegreerde GPU-stack domineert, is Broadcom een belangrijke speler geworden op het gebied van op maat gemaakte chipversnellers en snelle netwerktechnologieën. Het bedrijf met een waarde van $ 1,7 biljoen werkt samen met Google, Meta en meest recentelijk OpenAI aan chips voor datacenters. Het loopt ook voorop op het gebied van siliciumfotonica. En vorige maand berichtte Reuters daarover Broadcom bereidt een nieuwe netwerkchip voor genaamd Thor Ultra, is ontworpen om “een kritische link te bieden tussen AI-systemen en de rest van het datacenter.”
Tijdens zijn winstoproep vorige week kondigde halfgeleiderontwerpgigant ARM plannen aan om netwerkbedrijf DreamBig over te nemen voor $ 265 miljoen. DreamBig maakt AI-chiplets – kleine modulaire circuits die zijn ontworpen om samen in grotere chipsystemen te worden verpakt – in samenwerking met Samsung. De startup beschikt over “overtuigend intellectueel eigendom… dat van cruciaal belang is voor de uitbreiding en uitbreiding van het netwerk”, zei Rene Haas, CEO van ARM, tijdens de winstoproep. (Dit betekent het verbinden van componenten en het verzenden van gegevens op en neer in één chipcluster, en het verbinden van chiprekken met andere rekken.)
Licht op
Lightmatter-CEO Nick Harris heeft dat gedaan getoond dat de hoeveelheid rekenkracht die AI nodig heeft nu elke drie maanden verdubbelt – veel sneller in vergelijking De wet van Moore dicteren. Computerchips worden steeds groter. “Wanneer je gebruik maakt van de grootste chiptechnologie die je kunt maken, komen alle prestaties daarna voort uit het met elkaar verbinden van de chips”, zei Harris.
De aanpak van het bedrijf is baanbrekend en is niet afhankelijk van traditionele netwerktechnologie. Lightmatter maakt de siliciumfotonica die de chips met elkaar verbindt. Hij beweert dat hij het heeft gehaald ’s Werelds snelste fotonische motor voor AI-chipsis in wezen een 3D-siliciumstapel verbonden met op licht gebaseerde interconnect-technologie. De startup heeft de afgelopen twee jaar meer dan $500 miljoen opgehaald bij investeerders als GV en T. Rowe Price. Vorig jaar bereikte de waardering $4,4 miljard.
