Internet je plný obrázků, u kterých lidé s jistotou tvrdí, že je vytvořila AI. A často se mýlí. Pravda je, že už to nepoznáte. Ne proto, že by umělá inteligence byla dokonalá, ale proto, že my sami jsme si někdy až příliš jistí svým úsudkem. V následujícím textu popisuji experiment, který by klidně mohl vejít do učebnic. Nikdy se to ale nestane – i proto, že jsem při něm několikrát vědomě porušil autorská práva. (Tyvole, pomlčka! To mu určitě psala AI!) Rozhodně by ale měl vejít do vaší výuky a bude moc dobře, když s ním seznámíte svou rodinu, přátele a známé.
Abych zachoval co největší autenticitu, budu citovat komentáře pokud možno doslova, ale zachovám anonymitu většiny jejich autorů.
Náš příběh začal příspěvkem profilu Česko ve fotografii na síti X. Hned na začátek uvedu, že se jedná o pravý snímek, který si můžete prohlédnout v digitálním archivu Spolkové vysoké technické školy v Curychu.
Jenže čtvercový formát fotografie, její barevnost, ostrost, celková kvalita a převaha zahraničních vozů vedly mnoho lidí k tomu, že ji označili jako výtvor umělé inteligence.
Potkalo se zkrátka příliš mnoho faktorů a věcí, které většina lidí dnes nezná, nebo si je pamatuje jinak. To je v kombinaci s velkým sebevědomým problém, jak jsme se mohli několikrát přesvědčit. Přesně tak začal i jeden z nejznámějších případů z roku 2023, kdy „odborník z lidu“ označil složenku za podvod slovy:
Dělal jsem dost dlouho v tiskárně na to, abych viděl, že s tímhle si někdo pohrál v PhotoShopu.
Odkazovaný článek končí větou: „Za chybnou analýzu v původním článku se omlouváme.“ Ta skvěle vystihuje, že podobná věc se může i při nejlepší snaze stát každému. V roce 2023 bych v předchozí větě napsal skoro každému, ale dnes je umělá inteligence v některých ohledech tak dokonalá, a my jsme už ze záplavy generovaného obsahu tak zblblí a otupělí, že naletět můžeme všichni.
A přesně to se taky stalo. Je užitečné si projít všechny komentáře, ale tenhle je dokonale reprezentativní. Pán to prostě nezná a nepamatuje, tak je to umělá inteligence a basta!
Na celé věci je zajímavé a zároveň děsivé to, že někteří lidé svůj omyl neuznali, ani když jim autor příspěvku vše vysvětlil a dal odkaz na originální fotografii v archivu celosvětově uznávané univerzity. V tu chvíli mi úplně nedocházelo proč, ale po experimentu, který dále popíšu, v tom mám docela jasno. A hlavně jsem si to změřil.
Ring volný: příprava
Začalo to nevinně: nasdílel jsem původní příspěvek s vlastním komentářem, ve kterém jsem naprosto upřímně přiznal, že bych sám nepoznal, jestli je fotografie pravá nebo ji vytvořila umělá inteligence. V tu chvíli jsem vůbec neměl v plánu nějaký experiment provádět. Zkrátka jsem jen přiznal, že je to pro mě složité poznat a že když čtu komentáře pod původním příspěvkem, přijde mi, že největší překážkou je při ověřování informací často pocit vlastní neomylnosti.
Jenže i u mého příspěvku začali lidé zpochybňovat pravost fotografie. Dokonce i po tom, co jsem přidal komentář s odkazem do digitálního archivu. Následující komentář jako by vypadl z klávesnice autora jiného komentáře, který kdysi spustil případ se složenkou.
Na tý fotce jsou velký divnosti. Může být pravá, ale byla upscaloná do vyššího rozlišení pomocí AI, která občas i při obyčejném upscalingu vyvede kraviny a zmrší originál.
Všimněte si, že ani tady není vůbec nic konkrétního. Autor se snaží působit jako odborník, který by nám to sice možná mohl vysvětlit, ale je to tak složité, že bychom tomu stejně nejspíš nerozuměli. Zkrátka, jeho roky zkušeností nemůžeme jen tak dohnat.
A podobné komentáře začaly přibývat. V tu chvíli se zrodil plán na jednoduchý experiment.
Získáváme důvěru
V archivu jsem našel fotografii ze stejné série, na které byly automobily typické pro východní blok. Tím jsem vytvořil dojem, že teď už je to reálnější a na auta se nemusíme soustředit, ale určitě tam budou nějaké nesmysly, když to vygenerovala umělá inteligence. Hodně lidem tahle informace od cizího chlapa, o kterém předtím nikdy neslyšeli, úplně stačila. Algoritmus jim předhodil můj příspěvek s celkem uvěřitelným textem. A protože lidé milují, když mohou hledat chyby někoho jiného, jejich touha byla silnější než chuť něco ověřovat.
Pod příspěvek jsem přidal komentář, který pro jistotu zmiňuji i v textu příspěvku.
Použil jsem v něm odkaz vman.cz/praha, který funguje pouze jako přesměrování na stránku s fotografií v digitálním archivu. Stačilo jen kliknout a každý, kdo považuje švýcarskou vysokou školu za důvěryhodnou, mohl mít hned jasno. Použil jsem platformu Dub, která umožňuje sledovat počet kliknutí na odkaz s přesměrováním. Zatímco příspěvek měl 8 000 zobrazení a lidé ho začali sdílet a komentovat, odkaz si zobrazilo 109 lidí.
S tím jsem ale počítal a přiznávám, že mě to moc nepřekvapilo. Zajímavé bylo, že někteří lidé pod dojmem toho, že se jedná o umělou inteligenci, začali ignorovat i zcela zjevné detaily.
Nejezdí tramvaje po kolejích?
Hodně lidí komentovalo také „divné lampy“. Což je stejný případ, jako zrcátka na původní fotce: když něco neznáme a nezapadá to do našich představ či vzpomínek, je to zkrátka „divné“.
Co by mi přišlo divné:
- podivná lampa vpravo nahoře
- chrysler v hasičských barvách a s houkačkou
Tohle je pro mě jeden z nejcennějších komentářů. Díky němu jsem definitivně pochopil, že i když auto vypadá jako Volha a je na něm dokonce nápis Volha, tedy že není potřeba někam klikat nebo to složitě ověřovat jinak než pozorným zkoumáním té fotografie, stejně na tom nezáleží a pokud jsme přesvědčeni o tom, že vidíme výtvor umělé inteligence, nepřesvědčí nás o opaku nic. Právě naopak, začneme se navzájem ve svém přesvědčení utvrzovat, podobně jako v konverzaci, ze které jsem vybral dva úryvky.
AI se fakt vylepšuje. Jen je třeba znát třeba historii těch budov a ještě třeba takový detail, že i pojednání fasád podléhá módě.
Netěším se na dobu, kdy už nebude dělat tak viditelné chyby.
Čas na pořádnou manipulaci
Tohle měl být původně poslední krok. Zakončení experimentu, ve kterém jsem si myslel, že už mě nic nepřekvapí. Také jsme se mylně domníval, že teď už mi stejně nikdo nebude věřit ani dobrý den. Vybral jsem ze stejné série fotografii, která působila na první pohled nelogicky a ze všech tří nejméně autenticky. Zato nejvíc připomínala výstup umělé inteligence.
Pod příspěvkem najdete komentáře, které je v podstatě možné rozdělit do dvou skupin. Ta první, méně početná, je od lidí, kteří pochopili vtip a začali ho rozvíjet. Krásný příklad je komentář níže, který dokonale vystihuje manipulativní nostalgii, se kterou se často setkáváme v komentářích u podobných fotografií.
Jo, to byly časy, ne jako teď, lidi k sobě blíže měli, v obchodech hlavně lidi, krásná doba, ta paní v šátku je moje maminka, ráda jsem sní do toho obchodu chodila.
Většina je ale od lidí, kteří mě buď uráželi, nebo kritizovali nedokonalost umělé inteligence. V podstatě byly všechny hodně podobné, ale protože už je náš text dlouhý, vybral jsem komentář, který ho trochu oživí a navíc kombinuje obojí. 🙂
Tam je špatně hodně věcí.
Oblečení jako na ruské vesnici, žádný obchod takto nevypadal, OZ určitě ne a maso taky ne…..
Co zkusit nejdřív nějaké foto z té doby?
A blb (jako to gemini) jste od narození? Nebo po nějakém školení?
Jen se ptám….
Opět se potvrdilo, že i když jsem lidem odpovídal a dával jim odkazy na originál, nemělo to ve většině případů žádný účinek. Podobní lidé chtějí spíš psát než číst. Jde jim hlavně o to, vyklopit svůj názor, ulevit si a jít zase jinam. Nemám to jak změřit, ale podle reakcí/nereakcí mi přijde, že na odkazy v odpovědích většina z nich vůbec neklikla.
Tohle už nemůže vyjít!
Byl jsem spokojený, že mám skvělou výukovou pomůcku, která pomůže mně i dalším učitelům. Den se chýlil ke konci, když mi Honza Šindelář, učitel a pomníkolog, napsal:
Vygeneruj konečně něco v opravdový AI, abych to mohl použít ve výuce.
A tak mě jako Trutnováka napadlo, že zkusím zkombinovat novodobou fotografii náměstí s těmi ze série, kterou jsem využil u předchozích příspěvků. Aby to bylo na první pohled jasné, umístil jsem do ní postavy z fotografie, která stála u zrodu řetězce manipulací.
Počet zobrazení a lajků překonal moje očekávání. Komentáře si můžete přečíst pod příspěvkem, ale nejspíš vás nepřekvapí. Najdete v nich ale i moc pěkné vtipy.
Nedělám z vás blbce, rozhodně ne za prachy
Hodně z vás mi více či méně agresivně psalo, že jsem z vás chtěl udělat blbce. Je mi to úplně jedno a počítal jsem s tím. Kdyby mi záleželo na názorech ostatních lidí, nikdy bych žádnou pomůcku nepublikoval. Moc bych si přál, abyste podobnou energii a komentáře věnovali lidem, kteří se z vás snaží dělat blbce za peníze. Sociální sítě jsou jich plné.
