SAN FRANCISCO, 17. srpna (Reuters) – Americká kyberbezpečnostní firma Mandiant vlastněná společností Google ve čtvrtek uvedla, že v posledních letech zaznamenala rostoucí využívání umělé inteligence (AI) k provádění manipulativních informačních kampaní online, i když se tato technologie používala i v jiných digitálních průnikech. zatím omezené.
Výzkumníci ze společnosti se sídlem ve Virginii našli od roku 2019 „četné případy“, kdy byl obsah generovaný umělou inteligencí, jako jsou vymyšlené profilové obrázky, použit v politicky motivovaných online kampaních zaměřených na vliv.
Ty zahrnovaly kampaně skupin napojených na vlády Ruska, Číny, Íránu, Etiopie, Indonésie, Kuby, Argentiny, Mexika, Ekvádoru a Salvadoru, uvádí zpráva.
Přichází v době nedávného boomu generativních modelů umělé inteligence, jako je ChatGPT, které výrazně usnadňují vytváření přesvědčivých falešných videí, obrázků, textu a počítačového kódu. Bezpečnostní úředníci varovali před podobnými modely, které používají kyberzločinci.
Generativní umělá inteligence by umožnila skupinám s omezenými zdroji produkovat kvalitnější obsah pro kampaně vlivu ve velkém měřítku, uvedli výzkumníci z Mandiant.
Například pročínská informační kampaň s názvem Dragonbridge se od svého prvního zahájení „exponenciálně“ rozšířila na 30 sociálních platforem a 10 různých jazyků tím, že se v roce 2019 zaměřila na prodemokratické demonstranty v Hongkongu, řekla Sandra Joyce, viceprezidentka Mandiant Intelligence. .
Dopad takových kampaní byl však omezený. “Z hlediska efektivity tam není mnoho výher,” řekla. “Skutečně zatím nezměnili směr hrozeb.”
Čína v minulosti odmítla obvinění USA z účasti na takových ovlivňovacích kampaních.
Společnost Mandiant, která pomáhá veřejným a soukromým organizacím reagovat na digitální narušení, uvedla, že dosud neviděla umělou inteligenci hrát klíčovou roli v hrozbách z Ruska, Íránu, Číny nebo Severní Koreje. Očekává se, že využití umělé inteligence pro digitální průniky zůstane v blízké budoucnosti nízké, uvedli vědci.
“Dosud jsme nezaznamenali jedinou reakci na incident, kde by hrála roli umělá inteligence,” řekl Joyce. “Ve skutečnosti nebyly uvedeny do žádného druhu praktického použití, které by převážilo to, co by bylo možné udělat s normálními nástroji, které jsme viděli.”
Ale dodala: “Můžeme si být velmi jisti, že to bude problém, který se časem zvětší.”
Reportáž Zeby Siddiqui v San Franciscu; Střih Alexandra Hudson
Naše standardy: Thomson Reuters Trust Principles.
Získat licenční práva, otevře novou kartu
Read More