Evropská unie se při označování deepfakes a dalšího obsahu generovaného umělou inteligencí opírá o signatáře jejího Kodexu chování v oblasti online dezinformací.

Ve včerejších poznámkách po schůzce s více než 40 signatáři kodexu komisařka EU pro hodnoty a transparentnost Věra Jourová uvedla, že ti, kdo se přihlásili k boji proti dezinformacím, by měli zavést technologii, která rozpozná obsah AI a jasně jej uživatelům označí.

„Nové technologie umělé inteligence mohou být silou dobra a nabídnout nové cesty pro vyšší efektivitu a kreativní vyjádření. Ale jako vždy musíme zmínit stinné stránky této věci a představují také nová rizika a potenciál negativních důsledků pro společnost,“ upozornila. „Také pokud jde o vytváření a šíření dezinformací.

„Pokročilí chatboti, jako je ChatGPT, jsou schopni vytvořit komplexní, zdánlivě dobře podložený obsah a vizuální prvky během několika sekund. Generátory obrázků mohou vytvářet autenticky vypadající obrázky událostí, které se nikdy nestaly. Software pro generování hlasu dokáže napodobit hlas osoby na základě vzorku několika sekund. Nové technologie také přinášejí nové výzvy pro boj proti dezinformacím. Dnes jsem tedy požádal signatáře, aby v rámci kodexu vytvořili vyhrazenou a samostatnou skladbu, abychom o tom diskutovali.“

Současná verze kodexu, kterou EU posílila loni v létě – kdy také potvrdila, že má v úmyslu stát se dobrovolným nástrojem zmírňujícím opatřením, které se započítává do souladu s (právně závazným) zákonem o digitálních službách (DSA) – v současnosti nezavazuje k identifikaci a označování deepfakes. Komise však doufá, že to změní.

Komisař EU uvedl, že vidí dva hlavní úhly diskuse o tom, jak zahrnout opatření ke zmírnění obsahu generovaného umělou inteligencí do kodexu: Jeden by se zaměřil na služby, které integrují generativní umělou inteligenci, jako je New Bing od Microsoftu nebo vyhledávací služby Bard AI od Googlu – což by se měla zavázat k zabudování „nezbytných záruk, že tyto služby nemohou být zneužity zlomyslnými aktéry k vytváření dezinformací“.

Druhá by zavázala signatáře, kteří mají služby s potenciálem šířit dezinformace generované umělou inteligencí, aby zavedli „technologii k rozpoznání takového obsahu a jasně jej označili pro uživatele“.

Jourová uvedla, že mluvila se Sundarem Pichaiem z Google a bylo jí řečeno, že Google má technologii, která dokáže detekovat textový obsah generovaný umělou inteligencí, ale také pokračuje ve vývoji této technologie, aby zlepšil své schopnosti.

V dalších poznámkách během tiskových otázek a odpovědí komisařka řekla, že EU chce, aby štítky pro deepfakes a další obsah generovaný umělou inteligencí byly jasné a rychlé – takže normální uživatelé budou okamžitě schopni pochopit, že část obsahu, který jim je prezentován, má vytvořil stroj, ne člověk.

Upřesnila také, že Komise chce, aby platformy zavedly označování nyní – „okamžitě“.

DSA obsahuje některá ustanovení, která vyžadují, aby velmi velké online platformy (VLOP) označovaly zmanipulovaný zvuk a snímky, ale Jourová uvedla, že myšlenkou přidat označování do kodexu dezinformací je, že k tomu může dojít ještě dříve, než je lhůta pro splnění 25. srpna pro VLOP podle DSA. .

„Mnohokrát jsem řekl, že naším hlavním úkolem je chránit svobodu slova. Ale pokud jde o produkci AI, nevidím žádné právo, aby stroje měly svobodu slova. A tak se také vrací ke starým dobrým pilířům našeho práva. A proto na tom chceme dále pracovat i v rámci Kodexu na základě této zcela zásadní myšlenky,“ dodala.

Komise také očekává, že příští měsíc uvidí opatření týkající se hlášení rizik dezinformací generovaných umělou inteligencí – s tím, že podle Jourové by příslušní signatáři měli červencové zprávy využít k tomu, aby „informovali veřejnost o ochranných opatřeních, která zavádějí, aby se zabránilo zneužití generativní umělé inteligence k šíření“. dezinformace”.

Dezinformační kodex má nyní celkem 44 signatářů – což zahrnuje technologické giganty jako Google, Facebook a Microsoft, stejně jako menší adtech entity a organizace občanské společnosti – což je nárůst oproti 34, kteří závazky podepsali k červnu 2022.

Koncem minulého měsíce však Twitter učinil neobvyklý krok a odstoupil od dobrovolného kodexu EU.

Mezi další velké problémy, které Jourová upozornila na včerejší schůzce se zbývajícími signatáři – vyzvala je, aby podnikli další kroky – byla ruská válečná propaganda a prokremelské dezinformace; potřeba „důsledného“ moderování a ověřování faktů; úsilí o bezpečnost voleb; a přístup k datům pro výzkumné pracovníky.

„Na platformách stále koluje příliš mnoho nebezpečného dezinformačního obsahu a příliš málo kapacit,“ varovala a zdůraznila dlouhodobou stížnost Komise, že iniciativy pro ověřování faktů nejsou komplexně uplatňovány u obsahu zaměřeného na všechny jazyky, kterými se mluví v EU. členské státy, včetně menších národů.

“Zejména země střední a východní Evropy jsou pod neustálým útokem zejména ruských dezinformačních zdrojů,” dodala. “Je toho hodně co dělat.” Je to o kapacitách, o našich znalostech, o našem porozumění jazyku. A také pochopení důvodů, proč je v některých členských státech živná půda nebo půda připravena na absorpci velké části dezinformací.

Přístup pro výzkumné pracovníky je stále nedostatečný, zdůraznila také – naléhá na platformy, aby zvýšily své úsilí o data pro výzkum.

Jourová také přidala několik varovných slov o cestě, kterou zvolil Elon Musk, což naznačuje, že Twitter se dostal do hledáčku EU pro vymáhání práva jako označený VLOP v rámci DSA.

DSA klade právní požadavek na VLOP, aby vyhodnotily a zmírnily společenská rizika, jako jsou dezinformace, takže Twitter vyzývá k odsouzení a sankcím tím, že přehodí kodex EU (pokuty podle DSA mohou dosáhnout až 6 % celosvětového ročního obratu).

„Od srpna letošního roku budou naše struktury, které budou hrát roli vymahačů DSA, zkoumat výkon Twitteru, zda jsou v souladu, zda přijímají nezbytná opatření ke zmírnění rizik a zasahují proti… zejména nezákonnému obsahu, “ varovala dále.

„Evropská unie není místem, kde bychom chtěli vidět importovaný kalifornský zákon,“ dodala. „Říkali jsme to mnohokrát, a proto se také chci vrátit a ocenit spolupráci s… bývalými lidmi pracujícími na Twitteru, kteří s námi spolupracovali [for] již několik let o Kodexu chování proti projevům nenávisti a Kodexu chování [on disinformation] také. Tak to nás mrzí. Myslím, že Twitter měl velmi dobře informované a odhodlané lidi, kteří pochopili, že na stránkách platforem jako Twitter musí existovat určitá odpovědnost, mnohem větší odpovědnost.“

Na otázku, zda přístup komunitních poznámek Twitteru – který crowdsourcing (tedy v podstatě outsourcing) ověřování faktů pro uživatele Twitteru, pokud se zváží dostatek lidí, aby ke sporným tweetům přidal konsenzus kontextu – by mohl sám o sobě stačit k tomu, aby vyhověl právním požadavkům na řešení dezinformací podle DSA, Jourová řekla, že bude na donucovacích orgánech Komise, aby posoudily, zda jsou či nejsou v souladu.

Poukázala však na odstoupení Twitteru od Kodexu jako na významný krok špatným směrem a dodala: „Kodex bude uznán jako velmi závažné a důvěryhodné zmírňující opatření proti škodlivému obsahu.“



Read More

By admin

Leave a Reply

Your email address will not be published. Required fields are marked *