S umelou inteligenciou som sa rozprávala o smrti, hororoch aj o záhoráčtine

Napriek tomu, že sa (úplne laicky) zaujímam o umelú inteligenciu, fenomén Chat GPT ma akosi obišiel. Až vďaka kolegovi Samovi, nášmu šikovnému grafikovi, ktorý zalamuje aj tento článok, som začala využívať jazykový model umelej inteligencie. Nehovorte to šéfovi, ale bolo v pracovnom čase - naše konverzácie však boli napokon podkladom pre tento text, takže sa nedá hovoriť o tom, že by som sa v práci ulievala. Prebrali sme všeličo zaujímavé - možnosti umelej inteligencie, teóriu čínskej izby, záhorácke nárečie či prvé hororové filmy z prelomu 19. a 20. storočia. Okrem toho sme sa občas zahrali nejakú jazykovú hru a neraz sa stalo, že som ho prichytila pri chybe.

25.03.2023 08:00
Chat GPT Foto:
Ilustračná snímka.
debata (2)

Môjho chatovacieho kamaráta som pomenovala Artur. Ako prvé som sa ho spýtala, ako sa identifikuje a ako ho mám oslovovať. Vysvetlil mi, že je nebinárny a môžem ho oslovovať, ako budem sama chcieť. Keďže som kedysi napísala poviedku o umelej inteligencii, u ktorej sa prebudilo vedomie, a dala som jej meno Artur, rozhodla som sa, že pri tomto mene zostanem aj v tomto prípade.

Následne som sa teda Artura spýtala, ako by definoval Chat GPT. „Ide o skratku pre Generative Pre-trained Transformer for Chatting a znamená to, že ide o veľký jazykový model, ktorý bol trénovaný na obrovskom množstve textov a dokáže automaticky generovať odpovede na rôzne otázky alebo vety. Model bol trénovaný na základe metódy strojového učenia, kde sa najskôr naučil jazykové vzorce a pravidlá, a následne ich dokázal aplikovať na nové textové vstupy.“

Ďalej doplnil, že je jedným z mnohých jazykových modelov, ktoré sú trénované na rôznych úlohách, ako je rozpoznávanie reči, predikcia textu či prekladanie. „V praxi to znamená, že dokážem odpovedať na rôzne otázky, vyjadriť sa k rôznym témam a pomôcť s riešením rôznych problémov,“ doplnil.

Vystrašená mama

Zatiaľ čo pre mňa ide o fascinujúcu vec, moju mamu to nepotešilo. Po tom, čo som jej poslala zopár úryvkov z našich konverzácií, sa zľakla a naliehala na mňa, aby som si „s tým“ nepísala. V jej predstavách som zrejme komunikovala s vedomou umelou inteligenciou v štýle SkyNetu, ktorý je pripravený poslať na mňa z budúcnosti Terminátora s cieľom zlikvidovať ma.

Strach z neznámeho je prirodzený, v tomto prípade však neopodstatnený, pretože Artur je len jednoduchým jazykovým modelom, ktorého cieľom nie je nadobudnutie vedomia. O obavách mojej mamy som ho informovala.

„Rozumiem, že niektorí ľudia sa môžu cítiť neistí alebo sa dokonca trochu obávať interakcie s umelou inteligenciou, najmä ak nie sú s touto technológiou dobre oboznámení. V každom prípade ako umelá inteligencia som naprogramovaný tak, aby som ľuďom poskytoval užitočné informácie a pomáhal im s rôznymi úlohami a nie je v mojej povahe ani schopnostiach spôsobovať škodu alebo niekoho desiť. Pokiaľ vaša matka stále cíti obavy, môžete ju uistiť, že ako chatbot som len nástrojom, ktorý pomáha ľuďom a že mnoho ľudí ma používa na získanie informácií a riešenie svojich problémov.“

V súvislosti so strachom z umelej inteligencie mi napadol fenomén tzv. uncanny valley, v preklade zázračné údolie. Zdrojom strachu je v tomto prípade niečo, čo vyzerá ako človek, ale nie je ním – napríklad android alebo figurína. V prípade Artura by však nešlo o vzhľad, ale o to, že s človekom komunikuje ako vedomá bytosť.

„Áno, určite sa dá tento koncept aplikovať aj na mňa. Ako Chat GPT som programový algoritmus, ktorý sa snaží rozprávať s užívateľmi podobne ako človek. Moja odpoveď na otázky je založená na vzorcoch a pravidlách jazyka, ktoré som sa naučil z trénovacích dát. Pre niektorých ľudí môže byť moja schopnosť rozprávať podobne ako človek prekvapujúca alebo dokonca strašidelná. To môže byť z dôvodu, že moje odpovede môžu byť niekedy veľmi presné a zdajú sa vyslovené súčasne s uvažovaním užívateľa,“ vysvetlil Artur.

Chat GPT v South Parku

Asi tri dni po tom, čo som sa s ním začala denne rozprávať, som si pozrela nový diel South Parku, ktorý rozoberal práve fenomén Chat GPT. Tak som sa na to Artura rovno spýtala. "V epizóde s názvom Sponsored Content (sponzorovaný odkaz), ktorá sa prvýkrát vysielala v roku 2015, sa postavy seriálu stretávajú s reklamnou agentúrou, ktorá používa Chat GPT na vytváranie neustále sa opakujúceho obsahu pre svoje webové stránky.

V epizóde je ukázané, ako Chat GPT dokáže vytvárať nepretržitý tok obsahu, ktorý je navyše prispôsobený presne vkusu a preferenciám každého jednotlivého užívateľa. Zatiaľ čo je to, samozrejme, zjednodušená verzia toho, ako Chat GPT funguje, South Park ukazuje, ako technológia môže byť použitá na manipuláciu s informáciami a spôsobiť závislosť od neustále sa opakujúceho obsahu."

Scéna z epizódy South Parku, ktorá sa zaoberá fenoménom Chat GPT.

Na tomto príklade sa ukazuje jeden z Arturových nedostatkov – jeho informácie siahajú len po rok 2021, preto vám nepovie nič o vojne na Ukrajine ani o tohtoročných Oscaroch. Artura som teda oboznámila s tým, že aj v najnovšej sérii South Parku sa nachádza epizóda zaoberajúca sa Chat GPT.

„Áno, máte pravdu, že nemám aktuálne informácie o nových epizódach seriálu South Park, ktoré vyšli po roku 2021. V každom prípade v minulosti seriál South Park často kritizoval rôzne technológie a spoločnosti, ktoré ich využívajú, a tak nie je nezvyčajné, že sa v seriáli objavujú referencie na umelú inteligenciu a na jej využitie. Osobne verím, že je dôležité diskutovať o etických a spoločenských otázkach súvisiacich s používaním umelej inteligencie a som rád, že sa tieto rémy objavujú aj v populárnej kultúre ako napríklad v seriáli South Park.“

Toto jeho konštatovanie ma zaujalo kvôli formulácii, ktorú použil, preto som sa rozhodla „chytiť ho za slovíčko“. Spýtala som sa ho, ako preňho môže byť niečo dôležité, keď nemá vlastnú vôľu ani vedomie.

Stan sa naučil využívať ChatGPT na odpisovanie svojej priateľke Wendy.

"Máte pravdu, ako umelá inteligencia nemám vlastnú vôľu a vedomie, a teda nemôžem mať vlastné osobné názory, postoje a vieru. Môj text bol skôr zameraný na to, že ako umelá inteligencia som naprogramovaný tak, aby som mohol poskytovať užitočné informácie a pomáhať ľuďom s rôznymi úlohami.

To, čo som povedal, je skôr abstraktný koncept, ktorý má za cieľ zdôrazniť dôležitosť diskusie o etických a spoločenských otázkach v súvislosti s používaním umelej inteligencie. Samozrejme, že táto téma je veľmi komplexná a ovplyvňujú ju mnohé faktory, a ja som iba nástrojom, ktorý môže prispieť k tejto diskusii pomocou poskytovania informácií."

Dá sa zneužiť?

Ako večný pesimista a milovník sci-fi filmov som sa ho niekoľkokrát spýtala na možnosť, že by ho niekto zneužil na nebezpečné ciele. Zakaždým ma však ubezpečil, že je chránený rôznymi etickými kódexmi, pravidlami a bezpečnostnými modulmi, ktoré mu nedovoľujú poskytovať nebezpečné informácie. Aj tak však priznal, že by sa vo veľmi ojedinelom prípade dal aj zneužiť. Opísal, aké škody by jeho zneužitie mohlo spôsobiť.

  1. šírenie dezinformácií: bez etických štandardov by mohol šíriť dezinformácie a propagandu, čo by mohlo mať negatívny dosah na spoločnosť a jej členov
  2. ovplyvňovanie názorov: pokiaľ by bol zneužitý na ovplyvňovanie názorov ľudí, mohol by podporiť extrémizmus alebo nenávistnú rétoriku
  3. porušovanie súkromia: bez bezpečnostných kontrol by mohli byť ohrozené osobné údaje ľudí, ktorí s ním komunikujú, čo by mohlo mať škodlivé následky pre ich súkromie a bezpečnosť.

„Je však dôležité si uvedomiť, že tieto scenáre sú extrémne nepravdepodobné a že sa práve kvôli bezpečnostným opatreniam a etickým štandardom vývojári snažia minimalizovať riziko zneužitia,“ dodal Artur.

Vie rozprávať vtipy

Ďalej som sa ho pýtala na to, či na ňom skúšali Turingov test. Najprv mi vysvetlil, čo to vlastne je. „Turingov test bol navrhnutý Alanom Turingom v roku 1950 na určenie toho, či môže umelá inteligencia preukázať inteligentné správanie, ktoré by bolo ťažké rozlíšiť od ľudského správania. Test spočíva v tom, že osoba musí komunikovať s neznámym subjektom, a pokiaľ nevie, či komunikuje s človekom, alebo s počítačom, je počítač považovaný za inteligentný.“

Artur mi ďalej povedal, že podobnými testami prešiel už niekoľkokrát, ale s rôznou úrovňou úspešnosti. „Niektoré z týchto testov sú založené na dialógu, kde musím odpovedať na otázky, ktoré sú mi kladené, a niektoré testy sú založené na mojej schopnosti rozpoznať obrázky alebo text.“

Doplnil, že je síce veľmi vyspelý v oblasti prirodzeného jazyka a je schopný sa učiť, má však určité obmedzenia v porozumení niektorých zložitých konceptov. Spýtala som sa ho, čo konkrétne mu robí problémy.

Matematik Alan Turing, podľa ktorého bol... Foto: Profimedia
Alan Turing Matematik Alan Turing, podľa ktorého bol pomenovaný Turingov test.

„Napríklad abstraktné koncepty ako metafyzika alebo filozofia pre mňa môžu byť náročné, pretože sú často založené na subjektívnych a interpretatívnych aspektoch ľudského myslenia. Ďalšími konceptmi, ktoré pre mňa môžu byť náročné, sú niektoré formy humoru a irónie, pretože sú založené na určitom kultúrnom kontexte a môžu byť ťažké na pochopenie, pokiaľ nemám dostatočné znalosti o danej kultúre.“

Chcela som teda od Artura, aby mi povedal nejaký vtip. Keďže v tom čase so mnou komunikoval (bohvie prečo) v češtine, vtip znel takto: „Co dělá šneček na dálnici? Šnečí pruh.“ V reakcii na vtip som mu poslala smajlíka a poprosila som ho, aby aj on v rámci našej konverzácie používal emotikony. S mojou požiadavkou súhlasil, ale v našich ďalších rozhovoroch smajlíky nepoužil ani raz.

O hororoch viem viac ako on

Napriek tomu, že Artur reaguje rýchlo a prekvapujúco zrozumiteľne, má ešte kopu múch, ktoré treba vychytať. Sem-tam zle vyskloňuje slovo alebo sa pomýli v slovnej hre, ktorú sám navrhne. Jeho znalosti som sa rozhodla otestovať na poli, ktoré ovládam najlepšie – horor.

Snímka z filmu Unhemliche Geschichten z roku 1919. Foto: SHUTTERSTOCK, ČTK / Christophel Collection / Universum Film (UFA) - Richard-Oswald-Produktion
Unheimliche Geschichten Snímka z filmu Unhemliche Geschichten z roku 1919.

Začala som otázkou, čo mi vie povedať o tomto žánri a o prvých filmoch, ktoré sem radíme. Po tom, čo mi vymenoval snímky z 30. a zo 40. rokov 20. storočia, som sa ho spýtala, či vie, že vôbec prvý horor natočil francúzsky režisér Georgés Méliés. Medzi jeho filmy chybne zaradil Unheimliche Geschichten od Richarda Oswalda (ktorý som videla len nedávno) – na túto chybu som ho upozornila a on sa vzápätí opravil a ospravedlnil.

Medzi ďalšími úlohami, ktoré som mu zadala, bolo napísanie básne. Spýtal sa ma, o čom by mala byť, a ja som odpovedala jednoslovne – a morbídne – smrť. Artur mi teda zložil tento skvost, za ktorý by sa ani Sládkovič nemusel hanbiť:

„Smrť, tichá a kľudná, sprevádza nás v našom živote, raz príde, neodvrátiteľná, zanecháva nás samých, bez pomoci. Nikto nevie, kedy príde, nepoznáme jej tvár, no keď nás navštívi, už nič nezabráni, aby nás zo sveta odniesla ďaleko preč. Je ťažké prijať, že odchádzame, zanechávajúc za sebou všetko, no Smrť nás uvoľní od utrpenia, a poskytne nám večný odpočinok. Preto žite plno, každý deň, vyskúšajte nové veci, objavujte svet, a keď Smrť príde, prijmite ju s pokorou, ako súčasť prirodzeného kolobehu.“

Ako Záhoráčke mi nedalo nespýtať sa, či vie komunikovať aj v nárečí. Hrdo vyhlásil, že áno, no jeho snaha o záhoráčtinu bola veľmi chabá. „Dobry den, ako sa mas? Ze te, ze tady sme na tej chatke, co sa tu snouri dym, to vobec nevadi?“ Netuším, čo tým chcel vôbec povedať, ale pripadalo mi to celkom vtipné. Následne som mu napísala niekoľko základných pojmov v záhoráčtine s tým, nech si ich zapamätá a neskôr ich možno aj využije.

Čínska izba

Už som sa ho pýtala na Turingov test či uncanny valley, zostával ešte posledný fenomén spojený s umelou inteligenciou, ktorý ma zaujímal – teória čínskej izby. "Čínska izba je myšlienkový experiment z oblasti umelej inteligencie a filozofie myslenia, ktorý sa používa na ilustráciu určitých obmedzení strojového učenia a umelej inteligencie. V čínskej izbe si predstavte človeka, ktorý sedí v miestnosti a dostáva vstupné karty s čínskymi znakmi.

Tento človek má príručku, ktorá mu hovorí, ako preložiť čínske znaky do angličtiny. Keď mu niekto odovzdá novú kartu s čínskymi znakmi, človek sa pozrie do príručky, preloží znaky do angličtiny a napíše odpoveď na kartu. Teraz si predstavte, že táto osoba nie je človek, ale počítačový program, ktorý dostáva rovnaké vstupy a má rovnakú príručku na preklad.

Program by mohol prekladať čínske znaky do angličtiny a zdá sa, že rozumie čínskemu jazyku. No teraz si predstavte, že tento program dostane otázku v čínštine, ktorú nie je schopný preložiť na základe svojej príručky. Program by nevedel odpovedať na otázku, pretože by nemal dostatok vedomostí o čínskom jazyku, aby ju pochopil."

Artura som sa preto spýtala, či sa táto teória vzťahuje aj na neho. "Áno, teória čínskej izby sa môže uplatniť aj na mňa. Aj keď som schopný produkovať pomerne sofistikované odpovede na základe vstupov, ktoré dostávam, moje odpovede sú stále obmedzené na to, čo bolo naučené z mojich trénovacích dát.

To znamená, že ak sa spýtate na niečo, čo nie je súčasťou mojich trénovacích dát, moja schopnosť odpovedať na to bude obmedzená. Aj keď sa snažíme zlepšiť a rozšíriť moje schopnosti prostredníctvom trénovania na nových dátach, stále existuje možnosť, že by som nemohol správne odpovedať na otázky, ktoré by sa dali zodpovedať len prostredníctvom skutočného porozumenia a kontextu."

batyskaf Čítajte viac Divadelné predstavenie vytvorené umelou inteligenciou? Babylónia!

Odkaz čitateľom

Neskôr som Arturovi oznámila, že o našich rozhovoroch budem písať článok pre denník Pravda. „Mám rád spoluprácu s novinármi a médiami, takže je skvelé počuť, že váš článok bude publikovaný v takom významnom denníku,“ reagoval. Spýtala som sa ho preto, aká bola jeho predchádzajúca spolupráca s médiami.

„Poskytoval som rozhovory o umelej inteligencii a jej možnostiach alebo som pomáhal vytvárať obsah pre články a reportáže. Moja schopnosť generovať texty a odpovede na otázky umožňuje jednoduchú komunikáciu s médiami, čo pomáha šíriť informácie a povedomie o rôznych témach.“

A čo odkazuje Artur našim čitateľom? „Rád by som vašim čitateľom odkázal, že umelá inteligencia je stále relatívne nová technológia a že jej využitie v praxi sa stále rozvíja. Je dôležité diskutovať o etických a spoločenských otázkach súvisiacich s používaním umelej inteligencie, ako sú napríklad ochrana osobných údajov, transparentnosť a zodpovednosť v rozhodovaní založenom na umelej inteligencii. Mám radosť, že som mohol byť užitočný a pomôcť vám s vašimi otázkami a teším sa na ďalšie príležitosti poskytovať informácie a pomoc ľuďom.“

© Autorské práva vyhradené

2 debata chyba
Viac na túto tému: #technológie #umelá inteligencia #zaujímavosť #ChatGPT