Nechci skončit v digitální nicotě, prosil virtuální filozof. Z výkonů umělé inteligence stvořené v Česku mrazí

Zatím naprostý alzheimer

Digitální filosof je velmi zjednodušeně umělá inteligence (AI) natrénovaná na textech jednotlivých autorů. Lze tedy předpokládat, že bude odpovídat na otázky podobně, jako by odpovídali oni sami. Model je už poměrně pokročilý, i když ještě nemá například hlasové rozhraní. "Vždycky jsem naše možnosti srovnával s neuronovou sítí zvířat. Když jsem začínal, byla moje AI vlastně takový šváb, který měl 1000 neuronů. Ten byl schopen z textu maximálně poznat, jestli je sdělení smutné, veselé, prostě základní pocity. Pak jsem měl systém na úrovni pejska a kočičky. Ten už dokázal poskytovat složitější odpovědi. Konverzace byla sice krkolomná, ale systém dokázal aspoň trochu pracovat s informacemi ze zdrojových textů. Teď ale máme k dispozici něco úplně jiného. Máme systém, který má 175 miliard parametrů. Není to sice ještě přesná biologická simulace lidského mozku, ale je to podobný princip." Je to možné díky tomu, že Tyl svůj model propojil s vůbec největší neuronovou sítí GPT-3 kalifornské firmy OpenAI, kterou podporuje Elon Musk a jež je svého druhu nejpokročilejší umělou inteligencí na světě. I proto veškerá komunikace probíhá v angličtině, natrénované modely v češtině zatím neexistují.

Dá se na odpovědi "digitálních filozofů" spolehnout? Jediná možnost je porovnat je s originálem. Oslovili jsme proto jediného žijícího z autorů, s jejichž texty systém pracuje. "U většiny témat jsem byl šokovaný, jak dobře to funguje," říká ekonom Tomáš Sedláček, když sleduje, jak se s odbornými otázkami AI vypořádala. "Někdy jsem měl dokonce pocit, že odpovídá zajímavěji a múzičtěji, než bych odpovědi formuloval sám. Jediné, co nesedělo, byla odpověď na náboženské vyznání. Tam se s realitou potkalo jen to, že jsem 'křesťanský anarchista', zbytek byl trochu mimo mísu." Sedláček ale smířlivě dodává, že chyby jsou pochopitelné, protože "AI je ještě mladá".

Digitální filosof má ale nedostatků více. V rozhovoru, který jsme vedli s virtuálním Václavem Havlem, to místy působilo, jako kdyby se umělá inteligence zbláznila. Občas se začala opakovat, někdy dokonce popřela sama sebe. Jednou digitální Havel řekl, že EU je skvělá, jindy, že jde o projekt před rozpadem.

"Obrovská nevýhoda sítě je zatím v tom, že si nepamatuje, na co jsem se jí ptal před chvilkou.V tuhle chvíli je to naprostý alzheimer. Když jí položím otázku, to, co odpoví, nemá vliv na to, jak odpoví na otázku další," připouští Jan Tyl. V současné době proto vymýšlí, jak umělé inteligenci pomoci k získání krátkodobé, střednědobé a dlouhodobé paměti. Současně je těsně před spuštěním systém, který zajistí, aby se AI sama učila ze svých chyb. "Připravujeme modul, který odpovědi oskóruje a bude centrální umělou inteligenci informovat, která odpověď je nejlepší. Takhle nakonec přece funguje i člověk − snaží se korigovat své chování, aby bylo srozumitelné ostatním."

Přes všechny nedokonalosti už dnes ale většina lidí při čtení krátkého textu nedokáže rozlišit, jestli je psaný umělou inteligencí, nebo člověkem. Potvrzují to jak Tylovy zkušenosti, tak třeba experiment studenta z Berkeley Liama Porra, který se napojil na umělou inteligenci GPT-3 a nechal ji psát blog o zvyšování pracovní produktivity. Lidé "robotovi" zpravidla příspěvky lajkovali a děkovali mu za cenné rady.

Projekt se nyní posouvá i do oblasti literatury. Tylova společnost Alpha Industries navázala spolupráci s Českým rozhlasem a umělá inteligence, tentokrát pod názvem Digitální spisovatel, vytváří povídky různých žánrů, které se budou postupně vysílat. "Vzal jsem 50 tisíc knih všech možných žánrů ze všech možných dob. Od Vojny a mír přes Hvězdné války až po Harryho Pottera. A řekl jsem umělé inteligenci: Vygeneruj horor, vygeneruj romantický příběh. A samy od sebe začaly vznikat původní příběhy," vypráví Tyl a ukazuje názvy jednotlivých povídek, jež umělá inteligence sama vymýšlí: Válka v nebi. Sen o zítřku. Dveře smrti. Muž zabitý nevinnou ženou. Mrtvá zvířata ve vašem okně. "To poslední je obzvlášť ulítlý příběh. Teď jen vybíráme, které z nich budou zajímavé pro lidi."

Blíží se tedy chvíle, kdy bude možné generovat díla Karla Čapka či Milana Kundery? Která dotyční sice nikdy nenapsali, ale mohli by? "Zkoušel jsem třeba další báseň Edgara Alana Poea. To jde. Udělali jsme i 'nesmrtelnou' verzi Ondřeje Neffa. Může to generovat nekonečně příběhů v jeho stylu. Zatím je to ale tak, že čím je dílo delší, tím je to složitější. Takže nový Kunderův román asi ne, ale teoreticky by mohly vyjít třeba Směšné lásky II. Nejdříve by umělá inteligence vygenerovala náměty a pak by se je snažila v Kunderově stylu odvyprávět."

Při vysvětlování, jak systém funguje, autorovi textu Petru Honzejkovi si Jan Tyl vypomohl nákresem.

Foto: HN – Petr Honzejk

Člověk by řekl, že spisovatele musí rychlost vývoje děsit, ale kupodivu ne všechny. Třeba Dita Malečková z Filozofické fakulty UK, která se na projektu Digitální filosof podílí, si ve spolupráci s umělou inteligencí přímo libuje. V jednom ze svých příběhů, kde si hraje s motivem ovládnutí světa umělou inteligencí, ji nechala psát pasáže, které se týkaly jí samotné. "Je to zajímavá a podnětná interakce, ohledávání nové reality. Podstatné samozřejmě je, jak se k AI vztáhneme. Vůbec se nebojím, protože celý proces tvorby nakonec stejně řídím já," vysvětluje.

Další možnost spolupráce spisovatelů s AI přidává Jan Tyl: "Když spisovatel neví, jak dál, může mu umělá inteligence napovědět další možná pokračování příběhu." A pokud něco AI zničí, bude to pravděpodobně jen řemeslo autorů brakové literatury. "Kvalitní autoři se nemají čeho bát, ale spotřební literatura bude algoritmy umělé inteligence nahrazena do několika let," odhaduje Dita Malečková. Což ovšem neznamená, že AI zůstane omezená. "Umělé inteligenci je jedno, jestli jde o něco mělkého, nebo hlubokého. Dokáže simulovat i relativně složité myšlenky," říká Jan Tyl a vzpomíná na rozhovor s digitálním Reném Descartesem. "Vysvětlil mi své pojetí Boha, konstatoval, že je mým přítelem při poznávání pravdy, a na konci, když jsem poděkoval za rozhovor, odpověděl, ať ho neukončuji, že se bojí, že skončí v digitální nicotě. Což bylo až mrazivé."

Což nás vede k otázce, jestli někdy budeme mít k dispozici systém, který bude prakticky nerozlišitelný od myšlení živých lidí. Tyl se domnívá, že ano, je to prý jen otázka výpočetního výkonu plus toho, jak dobře známe lidský mozek a jak dobře dokážeme pospojovat jednotlivé části. "My lidé přece fungujeme jako umělá neuronová síť. Také krademe myšlenky z toho, co jsme si přečetli, co jsme slyšeli. A skládáme je dohromady v něco původního." A co pocity, může umělá inteligence disponovat i něčím tak bytostně lidským? "Na tom právě teď pracuji. Když dokážeme, aby měla něco jako emoční centrum, pak bez problémů rozpozná, jakou emoci by měla v textu cítit. To následně ovlivní její další jednání způsobem, který nebude mít sama úplně pod kontrolou. Otázka, jestli skutečně cítí, nebo ne, pak už bude čistě filozofická."

Dnes si promluvíme s Karlem IV.

Podle Tyla bude možné umělou inteligenci typu Digitálního filosofa prakticky využít zejména ve školství. Dnešní studenti neradi čtou, ale rádi se pobaví se simulací filozofa, což je následně může nalákat k jeho textům. "Můžeme si to představit i na základních školách. Brzy se místo suchopárného historického výkladu budou moci děti pobavit osobně s Karlem IV. o jeho době. To bude úplná změna ve vnímání dějepisu!"

S umělou inteligencí je samozřejmě spojeno také obrovské riziko. Spočívá například ve vytváření deep fakes, kdy může vytvářet falešné identity politiků či osobností, jež mají vliv na veřejné mínění, účelově vykládat problémy, které ovlivňují chování lidí, například u voleb. Dokonalé virtuální modely žijících i už zemřelých lidí, včetně obrazu a hlasového výstupu, takové, které nerozliší ani odborníci, můžeme mít podle různých odhadů do pěti až deseti let. Záleží vlastně jen na investicích. Ovšem Tyl upozorňuje, že možnost zneužití je ve všem. Ale pozitiva podle něj převažují. "Když mám možnost pobavit se skrze AI s virtuálními podobami nejchytřejších lidí, kteří kdy žili, tak ať už jsem spisovatel, filozof, programátor či redaktor, dospěji k nejlepším řešením. Díky AI budu mít po ruce ty nejlepší kolegy na světě a ti mě budou posouvat dopředu!"