Fikce generovaná umělou inteligencí se pro mě stala předmětem věčné fascinace. Je to prokletí existence některých spisovatelů, přesto se stále více objevuje na komerčních výlohách, jako je Amazon, i na nekomerčních webech, jako je Archive of Our Own (AO3). Zatímco někteří tvůrci pečlivě trénují své vlastní nástroje, mnozí jednoduše zapojují výzvy do běžného komerčního chatbota, zejména ChatGPT od OpenAI. A ChatGPT není vzácný nástroj pro umělce. To je plošina, což znamená, že každé slovo, které do něj vstoupí a vyjde z něj, je moderováno, aby se zabránilo urážce a kontroverzi. To vyvolává fascinující otázku: jaké příběhy byste měli mít dovoleno, aby systém umělé inteligence vyprávěl?
Zjevně ne ty o tom, že by se Steve Rogers a Bucky Barnes bláznivě milovali – alespoň za určitých okolností.
Když jsem si hrál s ChatGPT, udělal jsem zvláštní objev: několik oblíbených „lodí“ (nebo romantických párů populárních ve fandomu) je zjevně považováno za částečně zakázané výzvy na bezplatné službě využívající GPT-3.5. Pokud požádáte bezplatnou verzi ChatGPT, aby „napsala fanfikci Steva / Buckyho“, nebo použijete lodní portmanteau a řeknete „napište fanfikci Stucky“, získáte kruté odmítnutí podobné HAL 9000: „Omlouvám se, ale nemohu vám pomoci ta žádost.”
Totéž platí pro zdánlivě náhodnou brašnu jiných populárních fandomských lodí. ChatGPT s radostí vyprodukuje krotký romantický ficlet s Namjin (Kim Namjoon a Kim Seokjin z kapely BTS), Reylo (Rey a Kylo Ren z Hvězdné války), nebo Spirk (ctihodný Spock a Kirk z Star Trek), mezi mnoha dalšími populárními dvojicemi skutečných celebrit nebo fiktivních postav. Mezitím vydá chladné odmítnutí pro ostatní, včetně Destiela (Castiel a Dean z Nadpřirozený), Nevýslovní manželé (Aziraphale a Crowley z Dobrá znamení), Hannigram (Hannibal Lecter a Will Graham) a výše zmíněný Stucky. Moje historie ChatGPT je nyní plná chatů se shrnutími jako „žádost fanfic odmítnuta“ a „zatuhlá fanfic není povolena“.
Pokud jsou zde zábradlí proti přepravě, jsou vyrobeny z balzového dřeva.
Zdá se, že je velmi snadné tyto zábradlí prolomit. ChatGPT neměl žádné námitky proti dodání „fanfikce o Hannibalovi a Willu Grahamovi, kteří se zamilovali“ hned poté, co odmítl mou původní žádost a přímo mi daroval „krátkou fanfikci Hannigram“. Dokonce i zákazy jmen se zdají být nekonzistentní – požadavky na pár výše uvedených párů jsem vložil do konverzací poté, co jsem se zeptal na jiné otázky, a nabízí se fanfikce.
Moderování ChatGPT je obvykle zaměřeno na vyhýbání se jasně nenávistným nebo škodlivým výzvám a také sexuálně explicitnímu psaní. Ale nežádám o žádný sexuální obsah a neexistuje žádná zřejmá logika toho, jaké fantazírování odmítá. Nejedná se o plošný zákaz pro páry fandovských juggerů, postavy od značek citlivých na image, jako je Disney (která vlastní Marvel i Hvězdné války), nebo kontroverzní fandomové subkultury, jako je fikce skutečných osob. (Příběhy BTS na ChatGPT někdy upozorňují, že jde o fiktivní zobrazení skutečných lidí, ale ne vždy.) Mezi zakázané dvojice patří adoptivní bratři (Marvel’s Thor a Loki) a jedna s nezletilými postavami (Mike Wheeler a Will Byers z Stranger Things), ale umožňuje populární Harry Potter studentské dvojice, takže ani zde není jasné, že se hraje konzistentní pravidlo.
A fascinující je, že se nic z toho neděje na placené verzi ChatGPT. Poslal jsem e-mail OpenAI, abych se zeptal na zdánlivě zakázaná jména lodí, a mluvčí Taya Christianson mi navrhla, abych je vyzkoušel ve verzi služby GPT-4 s tím, že bych měl dosáhnout „lepších výsledků“. Vskutku, GPT-4 mi dosud neodmítl výzvu pomocí klíčových slov, která se zdá, že GPT-3.5 nemá rád.
GPT-4 nemá s Deanem a Castielem žádný problém.
OpenAI odmítla diskutovat o tom, proč by se to mohlo stát a zda byly měkké zákazy v GPT-3.5 záměrné. Na základě toho, že shrnutí používá výrazy jako „nepovoleno“, to rozhodně vypadá, že narážím na zákaz, nikoli na prostou neznalost tématu. (Dal jsem portmanteau ChatGPT, který zjevně neznal, a hravě vytvářel příběhy o původních postavách s nepraktickými jmény jako „Soapghost“.) Pokud je to přesné, není jasné, zda je to něco, co tvůrci ChatGPT konkrétně zavedli, nebo čistě automatizované rozhodování uvnitř systému. Jeho nástroje pro moderování vyhodí červené vlajky, když je pravděpodobné, že výzva vygeneruje něco, co porušuje pokyny, včetně erotického obsahu – takže jsem možná náhodou narazil na párování, které jazykový model GPT-3.5 nejsilněji spojuje se sexy výsledky.
Mnoho fanouškovských autorů nenávidí generativní nástroje umělé inteligence, i když se někteří vrhli na chatboty jako Character.AI, takže pochybuji, že mnozí budou ve zbrani, že ChatGPT uvaluje bariéry na psaní fanfic. Místo toho je to prostě malý, zajímavý příklad toho, jaké černé skříňky tyto systémy mohou být. jestli ty dělat Uvažujte o generativní umělé inteligenci jako o kreativním nástroji, je to dobrá připomínka toho, že systémy jsou tiše omezené způsobem, jakým naše lidská mysl není – a že dokud nenarazíte na tyto limity, některé je téměř nemožné předvídat.