David Lazovsky a Preet Virk, technologové se zkušenostmi v oblasti polovodičového inženýrství a fotoniky, dospěli před několika lety ke společnému zjištění, že pracovní zátěže umělé inteligence a strojového učení se rychle setkají s problémem „pohybu dat“. Předpovídali, že přesun dat do a z výpočetního hardwaru bude stále náročnější, protože modely umělé inteligence překonávají to, co lze uchovat na každém paměťovém čipu.

Jejich řešením, jehož architektem je Phil Winterbottom, dříve výzkumný pracovník v renomovaných laboratořích Bell Labs, byla technologie optického propojení pro přenos dat mezi počítači, z paměti a na čipu. Spolu s Winterbottomem založili Lazovsky a Virk startup, Celestial AI, za účelem komercializace této technologie. A nyní tento startup přitahuje velké podporovatele.

Společnost Celestial AI dnes oznámila, že získala 100 milionů dolarů v kole série B vedeném IAG Capital Partners, Koch Disruptive Technologies a fondem Xora Innovation společnosti Temasek. Podle generálního ředitele Lazovského bude tranše, která zvyšuje celkovou částku AI Celestial na více než 165 milionů dolarů, použita na podporu výroby fotonické platformy Celestial rozšířením inženýrského, obchodního a technického marketingového oddělení společnosti.

Společnost Celestial má v současnosti kolem 100 zaměstnanců — počet, který Lazovský očekává, že do konce roku vzroste na 130.

„Dnes jsou výpočetní technika a paměť úzce propojeny. Jediný způsob, jak přidat více paměti s velkou šířkou pásma, je přidat další výpočet, ať už je další výpočet vyžadován nebo ne,“ řekl Lazovský TechCrunch e-mailem. “Technologie Celestial umožňuje disagregaci paměti.”

V datovém centru je paměť často jedním z nejdražších zdrojů – částečně proto, že není vždy využívána efektivně. Vzhledem k tomu, že paměť je svázána s výpočtem, je pro operátory náročné – a někdy nemožné, kvůli omezení šířky pásma a nebetyčné latenci – „disagregovat“ a sdružit paměť napříč hardwarem v datovém centru.

Podle interní studie společnosti Microsoft je až 25 % paměti v Azure „uvázlé“ nebo zbylo poté, co byla jádra serverů pronajata virtuálním strojům. Snížení této uvázlé paměti by mohlo snížit náklady na datová centra o 4 až 5 %, odhaduje společnost – potenciálně významné úspory v kontextu operace v hodnotě mnoha miliard dolarů.

Společnost Celestial, která začala jako portfoliová společnost The Engine, společnost VC vyčleněná z MIT v roce 2016, vyvinula zdánlivé řešení ve své architektuře založené na fotonice, která se škáluje napříč systémy s více čipy. Pomocí světla k přenosu dat může technologie Celestial přenášet informace v rámci čipů a čipů na čip, čímž zpřístupňuje paměť i výpočet pro AI – a další – pracovní zátěže.

Poděkování za obrázky: Nebeský

Celestial také tvrdí, že jeho technologie může snížit množství elektřiny potřebné pro pohyb dat a nepřímo tak zvýšit výkon čipu. Čipy obvykle věnují část elektřiny, kterou odebírají, na pohyb dat mezi svými obvody, což odebírá elektřinu, kterou čip může nasměrovat na výpočetní úkoly. Fotonika Celestial snižuje výkon potřebný pro pohyb dat, což umožňuje čipu – alespoň teoreticky – zvýšit jeho výpočetní výkon.

Společnost Celestial tvrdí, že technologie fotoniky společnosti Celestial, která je kompatibilní s většinou průmyslových propojovacích standardů (např. CXL, PCIe), poskytuje 25x vyšší šířku pásma a 10x nižší latenci a spotřebu energie než optické alternativy.

„S růstem umělé inteligence, zejména velkých jazykových modelů (LLM) a pracovní zátěže doporučovacích motorů, dochází k posunu směrem ke zrychleným výpočtům,“ řekl Lazovský. “Klíčovým problémem do budoucna je kapacita paměti, šířka pásma paměti a pohyb dat – tj. propojení mezi čipy – což je to, co řešíme s fotonickou tkaninou Celestial.”

Společnost Celestial nabízí svůj propojovací produkt prostřednictvím licenčního programu a říká, že spolupracuje s několika zákazníky „první úrovně“, včetně hyperscalerů a společností zabývajících se procesory a paměťmi.

Propojovací produkt se zdá být pro Celestial prioritou číslo jedna. Společnost prodává svůj vlastní akcelerační čip AI, nazvaný Orion, postavený na fotonické architektuře Celestial. Ale jak investoři řekli TechCrunch v nedávném díle pro TC+, fotonické čipy AI musí ještě překonat technické problémy, které by je učinily praktickými ve velkém měřítku. Pokud Celestial nenarazí na průlomy v oblasti převodu dat na analog a regenerace signálu – což jsou hlavní kameny úrazu pro dnešní fotonické čipy – je nepravděpodobné, že by Orion byl mnohem dále než konkurence.

Čip stranou, Celestial má řadu konkurentů na trhu fotonických integrovaných obvodů, kteří by do roku 2027 mohli mít hodnotu 26,42 miliardy dolarů.

Společnost Ayar Labs, která vyrábí čipová řešení založená na principech optických sítí, získala od svého založení v roce 2015 více než 200 milionů dolarů rizikového kapitálu. Renovus, další soupeř, nedávno získal investici 73,9 milionů dolarů.

V širším prostoru optického propojení by však mohlo dojít ke konsolidaci. Zhruba před třemi lety koupil Marvell za 10 miliard dolarů Inphi, specialistu na optické sítě. Po období klidu Microsoft loni koupil Lumenisity, startup vyvíjející vysokorychlostní optické kabely pro datová centra a sítě operátorů.

Inphi i Lumenisity se svou technologií zaměřovaly na různé případy použití. Ale nadšení z Big Tech kolem optiky a fotoniky stojí za zmínku.

“Naše fotonická technologie je skutečně odlišná a je jedinečná s vynikajícími vlastnostmi,” řekl Lazovský. „Vzhledem k nárůstu generativních pracovních zátěží AI v důsledku LLM a tlaků, které to klade na současné architektury datových center, rychle roste poptávka po optické konektivitě na podporu přechodu od obecné infrastruktury výpočetních datových center k akceleraci výpočetní techniky.“

Samsung Catalyst, Smart Global Holdings, Porsche Automobil Holding SE, The Engine Fund, imec.xpand, M Ventures a Tyche Partners se také účastnily série B Celestial.

Read More

By admin

Leave a Reply

Your email address will not be published. Required fields are marked *