Evropský parlament odhlasoval potvrzení svého vyjednávacího mandátu pro zákon o umělé inteligenci – což představuje významný milník, který odemyká další fázi vyjednávání směrem k celoevropské knize pravidel pro umělou inteligenci.
Poslanci podpořili pozměněnou verzi návrhu Komise, která rozšiřuje soubor pravidel způsobem, který je podle nich zaměřen na zajištění toho, aby umělá inteligence, která je vyvinuta a používána v Evropě, byla „plně v souladu s právy a hodnotami EU včetně lidského dohledu, bezpečnosti, soukromí, transparentnosti, -diskriminace a sociální a environmentální blahobyt“.
Mezi změny, které poslanci podpořili, je úplný zákaz dálkového biometrického sledování a prediktivní policie. Přidali také zákaz „necíleného seškrabávání obrázků obličeje z internetu nebo záběrů CCTV za účelem vytváření databází rozpoznávání obličejů“ – takže v podstatě tvrdý zákaz Clearview AI a podobných.
Navrhovaný zákaz biometrického sledování na dálku by se vztahoval na aplikace technologií, jako je rozpoznávání obličeje, v reálném čase nebo post (později), s výjimkou v druhém případě pro vymáhání práva pro stíhání závažných trestných činů se soudním povzdechem.
Poslanci také přidali zákaz používání technologie rozpoznávání emocí, kterou používají orgány činné v trestním řízení, pohraniční úřady, pracoviště a vzdělávací instituce.
Poslanci také rozšířili klasifikaci vysoce rizikových systémů umělé inteligence o ty, které významně poškozují lidské zdraví, bezpečnost, základní práva nebo životní prostředí, a také systémy umělé inteligence používané k ovlivňování voličů a výsledků voleb.
Poslanci EP také přidali na seznam vysoce rizikových větší platformy sociálních médií, které používají k doporučování obsahu algoritmy.
Hlasování v plénu následuje po podpoře výboru pro pozměněný návrh minulý měsíc poté, co poslanci EP z různých politických skupin uvedli, jak chtějí upravit text Komise, včetně přidání povinností pro tvůrce takzvané obecné umělé inteligence.
V reakci na rychlý vývoj v oblasti generativní umělé inteligence europoslanci podpořili zavedení souboru povinností na základní/univerzální modely umělé inteligence, jako je technologie, která je základem chatbota ChatGPT společnosti OpenAI pro umělou inteligenci, který vyžaduje, aby tyto systémy před umístěním identifikovaly a zmírnily rizika. trh, stejně jako uplatňování zveřejňování transparentnosti na obsah generovaný umělou inteligencí a zavádění záruk proti vytváření nelegálního obsahu.
Tvůrci univerzálních AI musí také zveřejňovat „podrobné souhrny“ informací chráněných autorským právem používaných k výcviku jejich modelů podle návrhu poslanců EP.
Během cesty po evropských hlavních městech, kde se minulý měsíc setkal se zákonodárci, byl generální ředitel OpenAI Sam Altman kritický k tomuto aspektu návrhu EU. Navrhl, že společnost možná bude muset zrušit službu v regionu, pokud nebude schopna vyhovět, a řekl novinářům, že doufá, že závazky budou zrušeny.
V tomto případě dnešní hlasování v plénu ukazuje drtivou podporu poslanců pro pozměněnou verzi návrhu zákona – včetně navrhovaných povinností pro obecné umělé inteligence – 499 hlasy pro a pouze 28 proti (plus 93 se zdrželo hlasování).
Hlasování o schválení mandátu znamená, že diskuse mezi parlamentem a vládami členských států EU mohou nyní začít – první trilog se má konat dnes večer.
Protože nemáme čas ztrácet čas, trilogy o #AIAct začnou dnes večer ve Štrasburku 🇪🇺
Budu vás informovat. pic.twitter.com/FTq1uf0N4l
— Thierry Breton (@ThierryBreton) 14. června 2023
Spoluzpravodaj Brando Benifei v prohlášení po hlasování uvedl:
Všechny oči jsou dnes na nás. Zatímco velké technologické společnosti bijí na poplach nad svými vlastními výtvory, Evropa pokročila a navrhla konkrétní reakci na rizika, která AI začíná představovat. Chceme, aby byl využit pozitivní potenciál umělé inteligence pro kreativitu a produktivitu, ale budeme také bojovat za ochranu naší pozice a čelit nebezpečím ohrožujícím naše demokracie a svobody během jednání s Radou.
V dalším podpůrném prohlášení spoluzpravodaj Dragos Tudorache dodal:
Zákon o umělé inteligenci udává celosvětový tón ve vývoji a správě umělé inteligence a zajistí, že tato technologie, nastavená tak, aby radikálně transformovala naše společnosti prostřednictvím obrovských výhod, které může nabídnout, se vyvíjela a byla používána v souladu s evropskými hodnotami demokracie, základními práva a právní stát.
Verze zákona o umělé inteligenci, kterou dnes poslanci podpořili, také přidává výjimky pro výzkumné činnosti a komponenty umělé inteligence poskytované na základě licencí s otevřeným zdrojovým kódem, což podle poslanců zajistí podporu inovací – spolu s regulačními sandboxy pro testovací systémy, které mají být v rámci tohoto rámce zřízeny.
Návrh poslanců také přidává sadu práv spotřebitelů ohledně rozhodování o umělé inteligenci – včetně možnosti spotřebitelů požádat o kolektivní odškodnění, pokud jim systém umělé inteligence způsobil škodu.
Evropská spotřebitelská organizace BEUC tyto změny uvítala, ale kritizovala parlament za to, že nepodpořil úplný zákaz používání AI pro rozpoznávání emocí (protože návrh neomezuje komerční využití takového hadího oleje).
Domnívá se také, že europoslanci dali vývojářům příliš velkou volnost při rozhodování, zda jejich systémy spadají do kategorie vysokého rizika či nikoli, což by podle ní mohlo podkopat účinnost rámce založeného na riziku.
To se může ukázat jako jablko sváru během třístranných diskusí, které potřebují najít kompromis mezi postojem Rady EU, což je orgán složený z vlád členských států, a zákonodárců v parlamentu, aby se dosáhlo potřebné politické dohody o konečném znění a zapečetit soubor.
Rada EU obvykle zaujímá spíše proprůmyslovou linii, zatímco parlament se více zabývá základními právy. Takže kde se obě strany setkají uprostřed na regulaci AI, se teprve uvidí.
Pokud se nedokážou dohodnout, proces tvorby právních předpisů EU se může zastavit – nebo dokonce selhat. Ale v Bruselu je impuls, aby se tento soubor dostal přes čáru vzhledem k tomu, jak velká globální pozornost je nyní věnována regulaci umělé inteligence. (Být první, kdo udeří s demokratickými pravidly pro AI, představuje pro blok příležitosti k uplatnění vlivu za svými hranicemi, zatímco jiné jurisdikce se snaží přijít na své vlastní přístupy k regulaci složité oblasti rychle se rozvíjejících technologií.)
Rada přijala svůj postoj ke spisu již v prosinci. V té době členské státy do značné míry upřednostňovaly odložení toho, co dělat s AI pro obecné účely – na dodatečné prováděcí právní předpisy. Ale vzhledem k tomu, co se mezitím stalo, s generativními nástroji umělé inteligence, jako je střelba ChatGPT, středem dění diskuse o technologii a generováním četných výzev k regulaci (včetně od mnoha typů samotných technologických odvětví), bude zajímavé sledovat, zda členské státy se s poslanci Evropského parlamentu dohodne na nutnosti doplnit do textu zákona o umělé inteligenci povinnosti pro tuto třídu systémů umělé inteligence.
Exekutiva EU představila původní návrh rámce pro umělou inteligenci založenou na rizicích již v dubnu 2021. Zatímco první návrh textu Komise se tématem umělé inteligence pro obecné účely tak intenzivně nezabýval, navrhl ustanovení o transparentnosti pro chatboty a technologii deepfake. Již tehdy tedy zákonodárci EU zastávali názor, že spotřebitelé by měli být informováni o interakci se strojově generovaným obsahem.
I když Komise nadále doufá, že třístranné rozhovory o spisu o AI Act přinesou politickou dohodu do konce tohoto roku, bude ještě existovat prováděcí období – takže právní předpisy pravděpodobně nebudou platit před rokem 2026.
To je důvod, proč EU také pracuje na několika dobrovolných iniciativách, jejichž cílem je přimět společnosti AI, aby mezitím samoregulovaly bezpečnost.