Úspěch velkých jazykových modelů, jako je GPT, vyvolal šílenství vývojářů, kteří touží vytvářet aplikace založené na umělé inteligenci. Budování služeb umělé inteligence však může být složité, zejména kvůli nedostatku kvalifikovaných vývojářů, kteří by v dnešní době dokázali uspokojit rostoucí poptávku.
To je místo, kde přichází Chaoyu Yang, raný softwarový inženýr v datovém megajednorožci Databricks. Spolu se svými spoluzakladateli vybudoval vývojový rámec AI BentoML, který právě oznámil kolo počátečního financování.
Yang v rozhovoru pro TechCrunch vysvětlil, že dnešní služby AI jsou často postaveny na více modelech strojového učení, což komplikuje jejich správu a provoz. Mnoho programátorů, kteří vstupují do boje, pochází z úplného vývoje nebo vývoje aplikací, což znamená, že jim často chybí dovednosti k vybudování požadované infrastruktury umělé inteligence, což má za následek zdlouhavý vývojový proces.
Ukázková aplikace umělé inteligence, jako je Visual ChatGPT od Microsoftu, upgradu na chatbota, který umožňuje například produkovat odpovědi z textových i obrazových výzev, může trvat nejméně tři až šest měsíců, než bude připravena k produkci, řekl Yang.
Zatímco techničtí giganti jako Microsoft si užívají finanční schopnosti a lidský kapitál k tomu, aby mohli trénovat modely umělé inteligence a používat je v reálném světě, menší podniky podle Yangových slov shromažďují „cenná data, která mohou z umělé inteligence ohromně těžit“, ale „postrádají zdroje“. vybudovat infrastrukturu pro rozvoj.”
BentoML, které poskytuje API na vysoké úrovni, které abstrahuje detaily infrastruktury potřebné pro provozování modelů AI v cloudu, patří do skupiny nástrojů, jako je SageMaker, které chtějí usnadnit vývoj služeb AI. Jde o takzvaný aplikační rámec umělé inteligence, sadu nástrojů, které usnadňují vytváření, dodávání a škálování aplikací umělé inteligence, jako je sada stavebních nástrojů, která se používá ke stavbě domu.
Konkrétně se BentoML zaměřuje na datové vědce, kteří školí modely umělé inteligence, na inženýry DevOp, kteří řídí jejich životní cyklus, a na vývojáře, kteří na modelech ve skutečnosti staví aplikace.
S BentoML mohou vývojáři učinit Visual ChatGPT škálovatelným a nákladově efektivním pro produkční použití za pouhé dva dny, řekl Yang. Uživatelé také použili rámec ke spuštění generátoru umění Stable Diffusion a open source LLM v cloudu.
Yang přirovnal svou společnost k Vercelu, který se zaměřuje na obsluhu front-end vývojářů a byl naposledy oceněn na více než 1 miliardu dolarů. BentoML chce být Vercel pro AI, řekl.
Zatímco Yang předpovídal, že AI bude nakonec připravenější na výrobu, připustil, že si nemyslel, že vlna aplikací AI přijde tak brzy. Zakladatel očekává, že vývojáři aplikací AI budou v budoucnu tvořit více než 90 % uživatelů platformy.
„Pokud se mě zeptáte před rokem, řekl bych, že pravděpodobně 90 % společností by trénovalo své vlastní modely, ale základní modely, které se nedávno objevily, jsou tak výkonné, že mohou fungovat dobře i s datovým souborem, který nikdy neměl. viděl předtím,“ řekl.
„Namísto zaměření na školení modelů nyní vývojáři potřebují pracovat pouze na dolaďování a produktovém inženýrství, které samy o sobě představují překážku kvůli nedostatku vývojářů zaměřených na umělou inteligenci.“
BentoML byl open source v roce 2019 a později představil podnikovým zákazníkům verzi SaaS s vlastním hostitelem. Uživatele získává organicky prostřednictvím své komunity s otevřeným zdrojovým kódem, která za poslední rok zčtyřnásobila počet členů na více než 3 000, přičemž mezi její první uživatele patří japonský gigant pro zasílání zpráv Line a jihokorejský internetový konglomerát Naver.
Yang odmítl zveřejnit výši příjmů společnosti.
Investoři berou na vědomí přitažlivost BentoML ve vývojářské komunitě. Startup nedávno získal 9 milionů dolarů ze svého počátečního kola financování vedeného společností DCM Ventures, na níž se podílel i Bow Capital. Generální partner DCM, Hurst Lin, se po kole připojil k představenstvu BentoML.
Bujný trh s umělou inteligencí byl pro BentoML požehnáním, ale rychle se měnící odvětví také ztěžuje týmu žonglovat s krátkodobými a dlouhodobými cíli, připustil Yang.
„Možná budete muset postavit věci, které se řídí současným trendem, ale z dlouhodobého hlediska samozřejmě chceme mít vlastní vodní příkop. Otázkou je, jak mezi nimi vyrovnáme náš čas a lidské zdroje.“
Aktualizace (28. června 2023): Článek dříve uváděl, že Line byla jihokorejská společnost. Line má sídlo v Japonsku a je dceřinou společností Z Holdings, společného podniku mezi japonskou SoftBank a jihokorejskou Naver.