Umelá inteligencia (AI) je pomerne mladá vedná disciplína a veľa ľudí poriadne nevie, o čo ide. Viete jednoducho vysvetliť laikom, čím sa vlastne zaoberáte?
Celkom jednoduché vysvetlenie znie: umelá inteligencia ako disciplína sa snaží vytvárať systémy, ktoré sú umelé – počítačové a simulujú správanie človeka, teda keď sa na to človek pozrie, povie si: fíha, tento systém koná inteligentne. Cieľom Kempelenovho inštitútu (KInIT), ktorý vediem, je rozvíjať čestných, angažovaných podnikavých expertov. To je moja mantra.
Aby sa Slovensko posúvalo, je extrémne dôležité mať profesionálov v oblastiach, ktoré prepájajú vedu aj prax. KInIT stojí medzi Slovenskou akadémiou vied, univerzitami a praxou. Potrebujete výskumníka, ktorý má v sebe aspoň trochu podnikavosti, teda vie využívať príležitosti na vytváranie hodnôt pre ostatných. V KInITe máme aj inžinierov, ktorí sú zvedaví a neboja sa skúšať, aby nové poznatky vedeli čo najlepšie preniesť do praxe. Súkromný sektor finančne podporuje základný výskum v KInITe, čo predtým na Slovensku nebolo.
Prečo?
Lebo efekt je dlhodobý. Na spoločnosť a aj na konkurencieschopnosť. Mladí ľudia potrebujú vidieť, že je tu priestor pre uplatnenie tých, čo nechcú len tvrdý biznis alebo len vedu. Aj keď „blue sky“ výskum je veľmi dôležitý pre nové smery, my aj v základnom výskume vždy hľadáme potenciál pre aplikácie. Napríklad, keby sme prišli vo výskume veľkých jazykových modelov na to, ktoré neuróny sú zodpovedné za to, že model vie lepšie po slovensky, to by bola obrovská vec pre mnohé praktické aplikácie, lebo by sme mohli mať menšie a presnejšie modely.
Ako sa s pomocou umelej inteligencie dá žiť lepšie? Kde všade sa dá napríklad uplatniť?
AI sa dnes uplatňuje v mnohých oblastiach, kde si to ani neuvedomujeme. Napríklad v zdravotníctve by sme bez AI dnes nemali mnohé lieky či vakcíny. AI pomáha pri výrobe, ale aj pri zábave, počítačové hry majú v sebe množstvo umelej inteligencie. Aj tomu, ako vyzerá fotka z mobilu, pomáha umelá inteligencia.
Na druhej strane sa veľa ľudí umelej inteligencie obáva. Je naozaj hrozbou a prečo?
Každá nová technológia so sebou prináša neurčitosť. V umelej inteligencii a špeciálne v strojovom učení dnes prax predbehla vedu, dosiahli sme zaujímavé výsledky, ale nevieme vždy prečo. Funguje to tak, že z dát, ktoré vytvoril človek, systémy produkujú riešenia. Takže výsledky sa určitým spôsobom podobajú tomu, čo by vytvoril človek.
Ale vieme, že ľudia majú pri rozhodovaní skreslenia a tieto sa prenášajú aj na systémy AI. Zároveň systémy AI pracujú len s určitou presnosťou, nie vždy je výsledok správny. A tak môžu spôsobiť aj škodu. Dôležité je uvedomiť si, že tie systémy nerozumejú tomu, čo robia a teda nemajú ani zlý ani dobrý, proste žiadny úmysel. Najväčším rizikom sú ľudia, ktorí takéto systémy niekedy aj s nie najlepším úmyslom použijú, napríklad aj na ovplyvňovanie iných ľudí.
Nehrozí, že čím viac budeme používať umelú inteligenciu, tým budeme hlúpejší? Alebo kladie naopak AI vyššie nároky na našu inteligenciu, aby sme ju zvládali?
Umelá inteligencia nám pomáha automatizovať mnohé činnosti. Takže niektoré veci už nemusíme robiť. Netrénujeme si mozog, čo môže mať podobné dôsledky, ako keď si netrénujeme svaly. Keď nebudeme trénovať mozog, môže sa stať, že jedného dňa sa nebudeme vedieť premiestniť z miesta A do B, lebo práve náš systém AI nefunguje. Neviem, či sa to dá nazvať hlúpnutím, ale potrebujeme si trénovať hlavu i pamäť. Keď sa budeme spoliehať len na externé systémy, tak to nemusí úplne dobre dopadnúť.
A čo dosahy na pracovné miesta? Kedysi, keď boli zavedené do tovární stroje, robotníci štrajkovali v obavách, že prídu o prácu. Vlani štrajkovali hollywoodski scenáristi a herci, lebo sa báli, že ich nahradí umelá inteligencia. Umelá inteligencia generuje texty i obrázky, diriguje koncerty. Je to pre ľudí hrozba?
Je to veľmi rôzne pre rôzne disciplíny. Uvedomme si, že pomocou AI automatizujeme svet, to znamená, že veci, ktoré sa veľakrát opakujú, vykonáva stroj. Do určitej miery je to podobné ako pri predchádzajúcich priemyselných revolúciách. AI nám vie veľmi uľahčiť život, vieme robiť efektívnejšie a kvalitnejšie, možno bude stačiť, aby sme robili menej.
Rozdiel je v rozsahu a rýchlosti, akou sa dejú zmeny. Jedna časť populácie, ktorá vykonávala rutinnú prácu, sa bude musieť posunúť – buď do práce smerom viac k človeku, napríklad k službám a starostlivosti o ľudí, alebo viac do kreatívnej časti. Pre umelcov je to troška iné.
Foto: Linda Kisková Bohušová
Prečo?
Umenie nie je vykonávanie rutinných činností. Bude záležať na nás, na ľuďoch, do akej miery budeme akceptovať to, že sa budeme pozerať na strojom vytvorené obrazy, hudbu, filmy a nebude za tým príbeh človeka. Myslím si, že ten príbeh a emóciu vždy budú ľudia do určitej miery chcieť, akurát, že napríklad film sa bude dať nakrútiť o dosť lacnejšie.
Ale možno v ňom bude chýbať práve srdce. Aj po novinároch sa čoraz častejšie žiada, aby využívali umelú inteligenciu. Nie je však rozdiel medzi článkom, ktorý napíše človek a ktorý by vytvoril stroj? Vy by ste čítali noviny, ktoré by tvorila umelá inteligencia?
Keby ich tvorila iba umelá inteligencia, nečítala by som ich. Pravdepodobnosť, že väčšina informácií by bola správna, by sa zrejme blížila k nule – o to nemám záujem. Umelá inteligencia však v mnohých veciach vie pomôcť, redaktori nemusia všetko formulovať nanovo sami, môže pomôcť stroj. Dohľad človeka nad tým, či je fakticky informácia správna, je však v súčasnosti nevyhnutný. Stroj je zatiaľ hlúpy a nerozumie tomu, čo generuje.
Je to tak, že umelá inteligencia nikdy neprizná, že nemá žiadanú informáciu a vždy jednoducho niečo ponúkne?
Nemá čo priznávať, lebo funguje tak, že vždy vytvorí riešenie. Vyzerá síce veľmi inteligentne, môže pôsobiť ako človek a dobrý priateľ, ale jedinou úlohou je napríklad generovať text, ktorý je najvhodnejší pre zadanú otázku na základe pravdepodobnosti získanej z miliónov parametrov modelov. Keďže úloha je generovať, tak vždy niečo vygeneruje, a vôbec netuší, čo je správne, reálne či pravdivé a čo nie.
A čo na školách, je tam umelá inteligencia skôr príležitosťou či problémom? V posledných rokoch sa čoraz viac hovorí o plagiátoch študentských prác.
Umelá inteligencia či akákoľvek technológia je vždy príležitosťou a aj hrozbou v závislosti od toho, ako ju použijeme. Za mňa je super, že učitelia na všetkých stupňoch sú vďaka AI prinútení pracovať so študentmi viac kreatívne. Presne o to ide – deti i dospelí si mnohé veci vedia naštudovať aj sami, existujú kurzy, netreba im hodiny niečo prednášať.
Naopak, potrebujeme sa s nimi rozprávať, diskutovať, tam môže byť chatbot ako systém umelej inteligencie celkom dobrý partner, keď bude učiteľ spolu so študentmi hľadať správne riešenie. Je to obrovská príležitosť aj na trénovanie kritického myslenia mladých ľudí. Len si to vyžaduje učiteľov, ktorí budú ochotní sa na to tak pozrieť – a takých na Slovensku už nejakých máme. Treba ich podporovať.
Nedávno vyšla správa, že každý štvrtý človek nerozumie významu písaného textu. Nezdá sa vám to desivé?
Mňa to tiež vydesilo. Ak je štvrtina populácie na úrovni čitateľskej gramotnosti desaťročného dieťaťa, máme o dôvod viac, aby sme s tým pracovali. Nemyslím si, že ľudia, ktorí nie sú schopní čítať s porozumením, za to môžu. Je to chyba celej spoločnosti, prostredia, ako sa k tomu stavia. Práve AI nám môže pomôcť nielen pri zlepšovaní porozumenia textu, ale aj pri rôznych poruchách pamäti. Deepfake zrazu môže byť celkom prospešný, lebo môže nahrať napríklad staršiemu človeku vnuka či syna, ktorý sa s ním môže rozprávať a tým si trénovať pamäť.
Pôvodne ste vraj chceli študovať psychológiu, ako ste sa dostali ku počítačom? Majú tieto dve oblasti niečo spoločné?
Bola som typ, ktorý by najradšej študoval všetko. Išla mi matematika a zároveň ma odmalička fascinovalo, ako ľudia rozmýšľajú a prečo niečo robia. Veľmi som sa rozhodovala a nakoniec zvíťazila túžba vytvárať systémy, ktoré budú pomáhať ľuďom. Okrem maminky sme celkom technologická rodina, aj sestra je inžinierka, brat je inžinier, ocko aj strýko boli inžinieri. Mama bola zdravotná sestra a starala sa o nás.
Nakoniec všetko je prepojené, psychológia má ako hlavný predmet človeka, ale pre technológie je dôležité, aby boli pre človeka, aby mu zlepšovali život. Aj preto som vo svojom výskume často vyhľadávala spoluprácu so psychológmi a hlavnou témou môjho výskumu sa stali otázky súvisiace s tým, ako na ľudí vplýva množstvo informácií okolo nás. My to riešime hlavne z technologickej stránky, no tá druhá je niekedy ešte dôležitejšia.
Foto: Ľuboš Pilc
Čo znamená, že to riešite z technologickej stránky?
Vymýšľame metódy strojového učenia, ktoré by pomohli ľuďom pri práci s informáciami. Pomáhame najmä novinárom. Snažíme sa z publikovaných textov získať signály dôveryhodnosti, vlastnosti príslušnej informácie, ktoré pomôžu človeku ju vyhodnotiť. Nejde o to, aby sme vytvárali systémy, ktoré by označili: toto je dezinformácia a táto je pravdivá. Na istej úrovni faktov sa to dá, ale ani to nie je jednoduché.
Keď máte text, len vytiahnuť z neho jednotlivé tvrdenia a overiť ich automaticky je náročné. My sme v Kempelenovom inštitúte vytvorili zrejme celosvetovo najväčšiu databázu fact-checkov čiže už overených faktov, v ktorých vieme vyhľadávať na základe prirodzeného jazyka. Dáte text v hocijakom jazyku a my vám s veľkou pravdepodobnosťou zistíme, či už niekto na svete niečo také overil. To môže novinárom pomôcť a už to niektorí aj využívajú. Je to prototyp, lebo KInIT sa zameriava na výskum. Získané poznatky sa snažíme čo najviac priblížiť praxi, no komercializácia už je ďalší článok reťaze.
Niektorí ľudia si myslia, že chatu GPT zadajú požiadavku a ten im „vypľuje“ dokonalý článok.
Je to problém, lebo dnešné systémy AI dokážu dobre napodobňovať človeka, a potom si ľudia takéto systémy poľudšťujú – hovorí sa tomu antropomorfizácia. Systémy AI komunikujú ako ľudia, čo nás dokáže oklamať, najmä keď dávajú výsledky, ktoré sa zdajú prijateľné a v poriadku. Takýto systém má v sebe model, ktorý bol natrénovaný na obrovskom množstve existujúcich textov. Pri všeobecných témach to často funguje, dostanete veľmi dobré vyjadrenia, ktoré znejú presvedčivo.
Na aké témy napríklad?
Že má niekto problém s priateľom či priateľkou v nejakej situácii, čo mám robiť, alebo aj nejaká politická téma. Jednoducho vec, kde sa nevyžaduje príliš veľa faktov, veľa matematiky, lebo v tom systémy AI dobré nie sú. Generovanie nasleduje kontext a môže sa ľahko stať, že chatbot vás privedie k tomu, že je dobré ublížiť si. Za systémom AI nie je nikto živý, kto by chápal, o čom je reč a už sa aj stalo, že následky boli tragické. Preto by sme sa možno mali zamyslieť, od akého veku by sme mali umožniť prístup k chatbotom.
Čítajte viac V kaplnke spovedal Ježiš, ale virtuálny. Kňaza nahradila umelá inteligencia
Pred Vianocami vyšla správa, že vo švajčiarskom Luzerne vytvorili „virtuálneho Ježiša“. Švajčiarsku novinárku, ktorá do spovednice v Luzerne zašla medzi prvými už v auguste, zase pobavilo, že „AI Ježiš“ síce vnímal jej hlas aj rozumel, čo mu hovorí, ale nerozoznal, že je žena. Pozdravil ju totiž slovami „Mier s tebou, brat môj“. Jeho odpovede boli plné klišé. Iná kamarátka má neter, ktorá sa stala až závislou od komunikácie s AI.
Dnes je veľa osamelých ľudí, ktorí potrebujú niekoho vedľa seba – či už ide o deti alebo dospelých, najmä starších ľudí. Všetci síce máme tisícky priateľov na sociálnych sieťach, ale reálne sa často ľudia nemajú s kým rozprávať. Stroj to do istej miery vie simulovať, ale zdá sa mi to veľmi nebezpečné. Je iné používať AI na pomoc s nejakými nápadmi či úpravu textu, no človek by si mal vždy uvedomovať, že sa nerozpráva so živou bytosťou.
Najmä pre deti je to extrémne nebezpečné, lebo ich mozog sa vyvíja, ešte si len budujú pohľad na svet a svoj sebaobraz. Umelý systém nevie rozpoznať, že už išiel cez čiaru. Podprahové ovplyvňovanie tam môže byť obrovské, hoci aj bez vedľajšieho úmyslu. Aj do 14 či 15 rokov by som deťom nedovolila používať tieto veci bez dohľadu. Stroj sa nesmie stať náhradou za živého priateľa. Ale nestotožňujme si chatboty s umelou inteligenciou, tá je tu s nami už 70 rokov.
Ako teda AI vyzerala pred 70 rokmi?
Prvé počítače vznikli len v 40. rokoch minulého storočia. S nimi prišla túžba, aby počítačové systémy boli inteligentné. Ľudia však odjakživa vymýšľali umelé inteligentné bytosti, spomeňte si na Gilgameša. Začiatky AI súviseli s rozpoznávaním obrazu. Ľudia rýchlo pochopili, že na to, aby stroj mohol niečo inteligentné robiť, mal by pomocou senzorov najskôr „prečítať“ situáciu. V počiatkoch umelej inteligencie sa ľudia snažili do počítačov zapísať naše vedomosti. Vznikali expertné systémy, ktoré najčastejšie vo forme pravidiel definovali expertné poznatky a nad nimi počítač realizoval usudzovanie. Malo to limity.
Foto: Ľuboš Pilc
Aké?
Zapísať vedomosti je dosť ťažké, mnohé veci robíme intuitívne a nedajú sa tak ľahko vyjadriť. Práve zmena prístupu od získavania poznatkov k automatickému spracovaniu dát pomocou strojového učenia spôsobila dnešný boom AI. Systém AI sa vie pozrieť na stopy – dáta, ktoré po sebe ľudia a senzory nechávajú a na ich základe identifikuje pravidlá, vzory, štruktúru. Aj to má svoje ohraničenia.
Napríklad v tom, že dáta pochádzajúce z ľudských činností sú z princípu skreslené. My ľudia máme predsudky a systémy AI môžu tieto skreslenia ešte znásobiť, ak pracujeme s nekvalitnými dátami. Na druhej strane práve umelé systémy, ak o predsudkoch vieme, nám umožnia ich eliminovať. Čiže AI nám prináša aj príležitosť, aby systémy boli viac objektívne, napríklad pri prijímaní ľudí do práce.
Čítajte viac Každý druhý je bez práce. Filmový a televízny priemysel v Británii čelí kríze, môže za to minuloročný štrajk v USA
Mala som pocit, že hádam najprínosnejšia by AI mohla byť v zdravotníctve. Napríklad pri odhaľovaní nádorov, ktoré už unavený človek nevidí, no aj tu nakoniec výsledky stroja musí skontrolovať človek, nie?
Určite, ale nejde o únavu lekára. Niekedy nádor ani nemusí byť poriadne viditeľný, no ak systém videl dostatočný počet obrázkov, vie nájsť súvislosť. Aj každý expert má inú skúsenosť a ak niekto niekde niečo identifikoval, druhý s takým typom nádoru či štruktúry na snímke nemusel prísť do kontaktu. Vďaka AI vieme urobiť akýsi centrálny mozog. To znamená, že by sme mohli spojiť znalosti všetkých lekárov. Toto zatiaľ ešte nemáme, ale potenciál je veľký.
Existujú mnohé aplikácie, aj na Slovensku vlani vyhral AI Awards, jeden start-up, ktorý analyzuje pomocou AI snímky zubov s cieľom vzdelávania mladých zubárov a podpory diagnostiky. Snažia sa dať dokopy čo najviac snímok z celého sveta, spolupracujú s mnohými univerzitami, je to skvelá vec. Lekár zrazu dostane k dispozícii niečo, čo zahŕňa znalosti množstva iných lekárov. Sú viaceré oblasti, kde AI doslova zmenila spôsob práce. Napríklad pri vyhľadávaní. Kedysi sa hľadalo na základe kľúčových slov a ich presného výskytu v texte, dnes pomocou veľkých jazykových modelov vieme vyhľadávať na základe viet v prirodzenom jazyku významovo podobné texty. To už dnes používajú aj novinári.
Čiže umelá inteligencia nemá písať za redaktora články do novín…
…presne tak, ale dokáže výrazne zefektívniť jeho prácu. My v Kempelenovom inštitúte vyvíjame aj aktivity, aby sme mali aj veľké slovenské jazykové modely. Aj tie súčasné vedia nejako pracovať so slovenčinou. Pre obyčajné četovanie to stačí, ale ak by sme to chceli použiť napríklad na novinové články alebo v banke na komunikáciu s klientom, tak to nepostačuje. Pretože veľké modely boli natrénované na dátach, kde slovenčina zaberá v lepšom prípade nejaké supermalé ani nie percentá. Systém sa vie učiť aj od iných podobných jazykov. Určite ste si všimli, že v slovenských textoch spracovaných AI je veľa bohemizmov, lebo model to nevie dobre rozlíšiť, ak nemal dostatok dát na trénovanie.
Poďme ešte k sociálnym sieťam. Prečo ich považujete za nebezpečné?
Algoritmy sociálnych sietí sú naprogramované tak, aby optimalizovali prítomnosť človeka na sieti – čím dlhšie tam bude, tým lepšie. Nakoniec každý systém umelej inteligencie je optimalizácia na nejaký parameter, ktorý stanovuje človek. Máme nejaký strojček, ktorý obsahuje AI, vie pracovať s mnohými dátami aj s neurčitosťou, aby čo najlepšie zabezpečil našu čo najdlhšiu prítomnosť na sieti. Samotné systémy AI zistili, že najlepšie na ľudí fungujú veci, ktoré sú emotívne, kontroverzné, provokačné a extrémne.
Stačí, že si kliknete na jednu takúto vec, a stroj vám dodá desať ďalších. Potom do toho zasiahne človek a chce toho ešte viac, napríklad na Facebooku od spoločnosti Meta, sa ukázalo, že parametre boli ešte upravované ľuďmi, aby viac zvýrazňovali takéto správanie. Ak do toho pridáte ešte reklamný biznis, ten podsúva ďalšie veci, hoci aj politického charakteru.
Aj človek, ktorý si o sebe myslí, že je totálne imúnny a má natrénované kritické myslenie, ak je vystavený každý deň takýmto opakovaným veciam a ešte mu ich dodá niekto z priateľov, ktorých má každý na sieti tisícky, tak tomu uverí. Úplne imúnny nie je nikto, ani ja, každý máme len inú mieru odolnosti. Vidíme, že voľby vo viacerých krajinách – na Slovensku sa to ešte do takejto miery nedostalo – vyhrávajú ľudia, ktorí boli pomocou AI masívne propagovaní cez sociálne siete. To veľmi škodí, strácame schopnosť rozumieť a rozpoznať relevantné informácie.
A čo je riešenie? Nemať žiadne sociálne siete?
Možno sa stane, že spoločnosť bude musieť prijať aj radikálnejšie riešenia. Ale zákazy takéto veci neriešia. Dôležité je uvedomiť si, či viem odlíšiť pravdivé informácie od nepravdivých. Možno ich o chvíľu nebudeme vôbec vedieť rozlíšiť, a potom budeme musieť hľadať iné spôsoby komunikácie. Nakoniec to môže byť aj dobré a ľudia si možno uvedomia, že treba hľadať dôveryhodné kanály. Alebo začneme označovať, čo je pravda.
Máme na Slovensku dostatok talentovaných ľudí?
Máme, ešte chvíľu, lebo veľa ich uteká. V Kempelenovom inštitúte sa snažíme pracovať aj so slovenskou diaspórou. Máme v zahraničí obrovský talent…
Je vám to ľúto?
Trochu áno, ale aj sa teším, lebo ľudia tam získajú väčšiu skúsenosť, než keby boli len na Slovensku. Je to výzva zapojiť ich. Veľakrát sa ani nemusia vrátiť a vedia odovzdávať svoje znalosti a spolupracovať veľmi efektívne aj zo zahraničia. Problém nastane, keď sa dostaneme pod kritickú masu. Ak zo školy vezmete najšikovnejších desať či 15 percent detí, veľmi to ovplyvní celú triedu. So šikovnými budú všetci lepší.
Ak dovolíme, aby zo Slovenska odišlo príliš veľa ľudí, veľmi silno nás to ovplyvní. Stále tu máme talentovaných ľudí, ale je ich čoraz menej. Za posledných desať rokov sa skoro desať percent Slovákov odhlásilo zo Sociálnej poisťovne, to už je naozaj veľa. To sú štatistiky, pred piatimi rokmi to bolo vyše tristotisíc, ja odhadujem, že dnes to môže byť pol milióna.
Sú dôvodom lepšie vysoké školy?
Ani nemusia byť lepšie, dôvodom odchodu je často to, že mladí si chcú niečo nové vyskúšať, majú tam priateľov. Problém je, keď sa nevracajú, napríklad aj preto, že sa im nepáči, ako to dnes vyzerá na Slovensku. Väčšina krajín má takýto problém, ale u nás akoby bolo všetko ešte extrémnejšie a mladým ľuďom to prekáža.
Ktorá krajina je dnes ideálna?
Taká, kde si vie človek vytvoriť bezpečný priestor.
