Společnosti stále více využívají generativní AI. Nezbytně však nezvažují všechny překážky a výzvy, které přicházejí se začleněním technologie do jejich stávajících pracovních postupů.
V jednom nedávném průzkumu společnosti KPMG 90 % podniků uvedlo, že mají „střední až vysoce významné“ obavy z rizik používání generativní umělé inteligence a pochybují o tom, jak tato rizika zmírnit. Pouze 6 % mezitím uvedlo, že mají pocit, že jejich společnost má zaveden vyspělý program správy AI.
Částečně z těchto důvodů Neil Serebryany založil CalypsoAI, startup vyvíjející software pro testování, ověřování a monitorování interně vyvinutých aplikací i aplikací AI třetích stran před jejich nasazením.
„Platforma CalypsoAI podporuje sílu a konkurenční výhodu, kterou může používání AI přinést, ale bezpečným, bezpečným a spolehlivým způsobem,“ řekl Serebryany pro TechCrunch v e-mailovém rozhovoru.
To nastavuje laťku vysoko. Ale investoři evidentně věří ve schopnost CalypsoAI dodávat. Startup dnes oznámil, že získal 23 milionů dolarů v kole Series A-1 vedeném Paladin Capital Group za účasti Lockheed Martin Ventures, Hakluyt Capital a Expeditions Fund.
Do tranše A-1 přispěli také významní andělé, včetně bývalé generální ředitelky YouTube Susan Wojcicki a její sestry, spoluzakladatelky 23andMe Anne Wojcicki. CalypsoAI k dnešnímu dni vybrala 38,2 milionu dolarů.
CalypsoAI tvrdí, že její nástroje – nasazené jako kontejner v rámci infrastruktury organizace – umožňují podnikům monitorovat a utvářet používání velkých jazykových modelů, jako je ChatGPT, prostřednictvím řídicích panelů, které zobrazují statistiky související s toxicitou modelů, zapojením uživatelů a dalšími. Serebryany říká, že CalypsoAI může zabránit sdílení citlivých firemních dat na modelech a zároveň identifikovat útoky pocházející z generativních nástrojů AI.
„Zatímco každá společnost chce těžit z výhod generativních řešení AI – konkrétně z jasného zvýšení produktivity – chce se také ujistit, že nebude vystavena kybernetickým útokům a že zaměstnanci nevystavují citlivé informace veřejným modelům,“ dodal Serebryany. „Zavedením CalypsoAI mohou CISO a IT lídři začít vážně uvažovat o implementaci generativních řešení AI ve svých organizacích bezpečným a bezpečným způsobem – což jim umožní zavést efektivitu do jejich podnikání bez dalšího rizika.“
Jistě, v podnikovém sektoru existuje poptávka po nějakém druhu generativního řešení zábradlí AI. Ze strachu, že by zaměstnanci mohli náhodně odhalit proprietární informace, společnosti včetně Apple, JPMorgan Chase a Verizon interně zakázaly nebo omezily používání nástrojů podobných ChatGPT. Mnoho z těchto stejných společností si dává pozor na toxicitu a dezinformace generativní umělé inteligence, které nadále sužují i ty nejlepší modely, které jsou dnes k dispozici.
Odvětví, sledující obrovský potenciální adresný trh, se zvedlo, aby uspokojilo poptávku. Společnost Microsoft nabízí službu Azure OpenAI, která kromě generativních modelů umělé inteligence z OpenAI, včetně ChatGPT, poskytuje možnosti správy a dodržování předpisů. Jinde Salesforce nedávno spustil Einstein Trust Layer, který se pokouší zabránit modelům generujícím text v uchovávání citlivých dat.
Jak dobře tyto mantinely fungují v praxi, je však otevřenou otázkou. Výzkumníci zpochybnili tvrzení jednoho dodavatele a nedávno odhalili nedostatky v NeMo Guardrails, sadě nástrojů Nvidia zaměřené na zpřesnění a zabezpečení aplikací poháněných umělou inteligencí, která umožňuje obejít ochranu sady nástrojů.
Serebryany trval na tom, co stojí za to, že produkty CalypsoAI jsou odolné vůči útokům. Stejným dechem zdůraznil, že CalypsoAI neuchovává žádná data od svých zákazníků, místo toho pouze usnadňuje tok informací od zaměstnanců do modelu podle výběru společnosti.
„Zabezpečení LLM v podniku se stalo kritickým podnikem, což vedlo ke strategickému posunu CalypsoAI k řešení potřeb podniků, které chtějí používat řešení AI,“ řekl Serebryany. „S mnoha organizacemi, které chtějí bezpečně používat generativní řešení AI k tomu, aby posouvaly své podnikání vpřed, je CalypsoAI přesvědčena o naší schopnosti vyvinout nejlepší možný produkt a přilákat ty nejlepší talenty k zabezpečení podnikových organizací.“
Serebryany říká, že CalypsoAI použije finanční prostředky z nejnovější tranše k podpoře vývoje produktů, náboru a iniciativ společnosti v oblasti uvádění na trh. Aktuální počet zaměstnanců CalypsoAI je 35 zaměstnanců a startup nedávno otevřel kancelář v Dublinu – součást plánu CalypsoAI na zdvojnásobení počtu zaměstnanců během příštích dvou let.
„Jak naše společnost neustále roste a expanduje, uvědomujeme si hodnotu přivádění nových investorů na podporu našeho růstu,“ pokračoval. „Díky partnerství s investory, kteří sdílejí naši vizi a cíle, můžeme pokračovat v inovacích a posouvat naše podnikání vpřed.“