Neurovedec Peter Jedlička Mozgová bunka dokáže oveľa viac ako počítačový neurón. Nekontrolovanej umelej inteligencie sa neobávam

Peter Jedlička je neurovedec pôsobiaci na Univerzite Justusa Liebiga v Giessene a Goetheho univerzite vo Frankfurte. Venuje sa neurovede a vývoju počítačových modelov nervových systémov.

Rozprávali sme sa o rozdieloch medzi neurónovými sieťami v mozgu a tými v počítači, o tom, v ktorých oblastiach nás už umelá inteligencia predbehla a v ktorých nás zrejme neprekoná, ako aj o tom, čo nás ako spoločnosť v najbližších rokoch čaká a ako sa na to pripraviť.

S Petrom Jedličkom sme sa rozprávali aj v roku 2016 o slobodnej vôli.

Rozhovor vznikol pri príležitosti Bratislavských Hanusových dní 2025, na ktorých bol jedným z rečníkov.

Dnes sa čoraz častejšie hovorí o umelých neurónových sieťach, vďaka ktorým fungujú napríklad veľké jazykové modely ako ChatGPT. Sú podobné ako neurónové siete v ľudskom mozgu?

Aj v jedných, aj druhých sieťach sú neuróny, sú si v niečom podobné a v niečom odlišné.

V oboch druhoch sietí sú neuróny základné výpočtové jednotky, ktoré spracúvajú vstupné signály, samy vytvárajú signál a posielajú ho k ďalším neurónom. Tie v umelých sieťach môžu byť buď hardvérové, teda vyrobené inžiniermi, ale vo väčšine prípadov, ako je to aj pri jazykových modeloch, ide o softvérové alebo virtuálne neuróny naprogramované na počítačoch.

Je to určitá metafora výpočtov, ktorá je však prekvapivo silná. Dlho sa myslelo, že jednoduché siete umelých neurónov – kedysi sa im hovorilo perceptróny – veľa nezmôžu, no potom sa v osemdesiatych rokoch zistilo, že keď máme v sieti viacej vrstiev umelých neurónov, dokážu robiť veľmi veľa. Síce nerozumieme, čo presne to robí, ale má to veľký výkon a dokáže to klasifikovať trebárs rôzne obrázky alebo výborne spracovávať texty.

Sú si ešte v niečom podobné?

Neuróny sú v oboch druhoch sietí – teda v biologických aj umelých – spojené, čo nazývame synapsy. V umelých sieťach sa sile synáps hovorí váhy spojení, ktoré sa rôzne menia. V neurovede sa tomu hovorí synaptická plasticita a aj my ľudia sa takýmto spôsobom učíme, teda že sa nám menia synapsy.

No medzi umelými a biologickými neurónovými sieťami existujú aj veľké rozdiely.

Aké sú to?

Napríklad že pravé neuróny majú komplexnú anatomickú štruktúru – majú telo bunky a rozsiahle stromovité výbežky zvané dendrity, ktorými vytvárajú synapsy s ostatnými neurónmi. V skutočnom mozgu už aj jediný neurón dokáže veľa vypočítať a táto jediná bunka je sama osebe akoby sieť.

Ale tiež na to potrebuje byť spojená s inými neurónmi, nie?

Áno, je vnorená do siete, čiže dostáva vstupy z rôznych buniek. Ale nie je to tak, ako sa kedysi aj v neurovede myslelo, že vstupy sa iba spočítajú – podobne ako v umelých neurónoch – a to je celé. Už v tých samotných dendritoch sú zložité mechanizmy založené na iónových kanáloch, ktoré samy osebe vedia robiť výpočty.

A to nie iba lineárne, ako napríklad že jeden plus jeden je dva, ale prebiehajú tam nelinearity, takže so vstupom sa môže diať všeličo možné. Už v samotných dendritoch môžu byť napríklad implementované logické funkcie, ako napríklad „a“ či „alebo“.

Dokonca sa dokázalo, že jedna nervová bunka dokáže so svojimi dendritmi robiť v podstate to isté, čo robili prvé umelé neurónové siete – spomínané perceptróny –, ktoré sa objavili v štyridsiatych a päťdesiatych rokoch. Biologické neurónové siete majú teda omnoho väčšiu výpočtovú silu než tie umelé.

Ďalší rozdiel je v tom, že náš mozog potrebuje príkon energie asi iba 20 wattov, čo je ako jedna žiarovka. To je menej ako počítač a zásadne menej ako veľké neurónové siete, ktoré žerú obrovské množstvá energie – hlavne pri trénovaní, ale aj keď do jazykového modelu opakovane vložíme nejaké vstupy. Kým dostaneme výstup, spotrebuje to za deň v priemere oveľa viac energie ako ľudský mozog.

Foto: Postoj/Jakub Lipták

Nie je to len tým, že technológia je ešte mladá a o pár rokov bude jej energetická účinnosť celkom inde?

To si nemyslím. Tieto siete sú síce stále lepšie a lepšie, ale prečo je to tak? Lebo sa do nich pridáva stále viac a viac neurónov, kŕmia sa stále väčšími objemami dát, počítače sú stále rýchlejšie – ale to všetko aj žerie viac energie.

Znamená to, že umelé neurónové siete nevieme – aspoň zatiaľ – zdokonaľovať kvalitatívne, ale len tým, že v nich zväčšujeme počet neurónov?

V podstate áno, stále to funguje na tom istom princípe, len sa to nafukuje. Softvér ako ChatGPT prišiel vďaka tomu, že sme dokázali vytvoriť obrovskú sieť s veľkým množstvom vrstiev a že máme počítače schopné to počítať. Trochu zjednodušujem, ale v podstate nič nové ani objavné sme od Rosenblattovho perceptrónu z roku 1958 nevymysleli.

Na to, aby sa zlepšila energetická účinnosť tohto systému, by sme doň museli vložiť nejaký nový princíp, zrejme niečo z biológie. To je predmetom vednej oblasti, ktorej sa hovorí neuro-AI. Skúma sa v nej, ako sa môže umelá inteligencia učiť z neurovedy, respektíve aké mechanizmy z neurovedy vieme aplikovať v umelých neurónových sieťach na zlepšenie ich účinnosti či výkonnosti.

Aké zistenia už táto nová oblasť výskumu priniesla?

Napríklad poznatok, že keď sa do umelých sietí pridajú mechanizmy, ktoré poznáme z neurovedeckého výskumu, napríklad už spomínané výbežky – dendrity – z biologických neurónov, tak sa tie umelé siete učia rýchlejšie.

Alebo keď sa do umelých sietí pridajú vlny (oscilácie aktivity), ktoré poznáme z výskumu mozgovej aktivity, tak sú tieto umelé siete výpočtovo aj energeticky účinnejšie. Podobne ak do umelých sietí pridávame rôzne vlastnosti synaptických zmien (synaptickej plasticity), ktoré poznáme z biológie, väčšinou to učenie a výkon zlepšuje. Ale dá sa povedať, že neuro-AI výskum je ešte len v začiatkoch.

V čom už umelá inteligencia prekonala ľudský mozog?

Jeden z prvých takých prípadov je z roku 2016, keď umelá neurónová sieť AlphaGo porazila špičkového hráča hry go. Ale už aj veľkým jazykovým modelom ako ChatGPT sa napríklad z hľadiska pamäti nemáme šancu rovnať. Nemáme šancu zapamätať si také množstvo informácií a hľadať v nich tak rýchlo ako umelá neurónová sieť.

Lepšia je teda v pamäti a rýchlosti?

Dá sa to tak povedať, aj keď štýl učenia máme iný ako neurónová sieť a niekedy ju vieme predbehnúť. Napríklad keby teraz na nás zrazu vybehol tiger, tak si to okamžite zapamätáme možno na celý život – ide o takzvaný one-shot learning. Ale neurónovú sieť treba dlho kŕmiť veľkým množstvom dát a zatiaľ nie je vyriešeným problémom, ako ju niečo naučiť hneď.

No a potom je tu trochu filozofická otázka, či tieto neurónové siete vôbec rozumejú tomu, čo robia. Teda či napríklad spomínané veľké jazykové modely jazyk iba simulujú alebo majú konceptuálne porozumenie svetu. V tomto je ľudské porozumenie hlbšie a súčasné siete určite nemajú také porozumenie ako my.

Ako to vieme?

Dá sa to ukázať na tom, že neurónové siete vystavíme situáciám, pre ktoré neboli trénované. Napríklad stačí pozmeniť iba zopár pixelov obrázka a sieť zrazu nespozná, čo na ňom je zobrazené. Človek však rozpozná objekt aj na obrázku, ktorému pridáme digitálny šum.

Konceptuálne porozumenie je aj filozofická otázka. Záleží na tom, či slepé nasledovanie nejakých pravidiel a algoritmov je to isté ako porozumenie. Na to existujú aj v rámci filozofie kritické pohľady.

Sú dnes v odbornej obci názory, že umelá neurónová sieť má takéto porozumenie?

Sú, ale menšinové. Niektorí si dokonca myslia, že tieto siete už aj majú vedomie.

To zrejme spolu súvisí – aby porozumela, tak musí mať vedomie, či nie?

Či je možné niečomu porozumieť bez vedomia, je dobrá otázka. Je jeden starší myšlienkový experiment od Johna Searla, ktorý sa nazýva argument čínskej izby. Predstavte si, že v izbe sedí človek a zvonka do tejto izby vkladáme vety napísané po čínsky.

Človek v izbe nevie po čínsky, ale má k dispozícii kompletnú príručku pravidiel, ktorá mu hovorí, že ak vidíš tento znak nasledovaný týmto znakom, napíš takéto znaky. Na základe tejto príručky „vypľúva“ vety napísané po čínsky a navonok pôsobí, že vie po čínsky, hoci vôbec nerozumie ani vstupom, ani vlastným výstupom.

Niektorí si myslia, že veľké jazykové modely nerobia nič iné. Na druhej strane vieme, že gramatiku a syntax vedia neurónové siete vyabstrahovať v prvých vrstvách, no v neskorších vrstvách už majú neuróny, ktoré kódujú aj vyššie koncepty. Ale či je toto porozumenie...?

Foto: Postoj/Jakub Lipták

Ako to myslíte, že v neskorších vrstvách sa kódujú vyššie koncepty?

Každá neurónová sieť má vstupnú vrstvu, vnorené vrstvy a výstupnú vrstvu. My vidíme len tú vstupnú, kam niečo zadáme, a výstupnú, kde je výsledok. Čo sa deje medzi tým, tomu celkom nerozumieme – nevieme, prečo tak dobre odpovedá. Je to predmetom výskumu.

V jednom z nich sa zistilo, že keď do jazykového modelu vložíme vety, sieť nájde medzi nimi gramatické vzťahy – bez ohľadu na obsah – a toto sa kóduje v prvých vrstvách.

Predstavme si, že vo vstupnom texte sa píše povedzme o Jankovi a Marienke a z kontextu vyplýva, že sú to súrodenci. Tak pojem súrodenec sa s pojmami Janko a Marienka spojí až vo vyšších vrstvách. Toto celé prebieha vo vektorovom matematickom priestore, čiže sú to počítačové operácie.

O vedomí takejto neurónovej siete určite nemôžeme hovoriť, to je mainstreamový názor odbornej obce bez ohľadu na filozofiu. Či je to porozumenie, alebo nie, o tom sa dá polemizovať. Ja si myslím, že nie je, ale mnohí si myslia, že tam už sú základy nejakého porozumenia.

Dala by sa miesto umelej neurónovej siete urobiť nejaká paralela so živočíšnou ríšou, napríklad či včela, ktorá zbiera nektár v kvetoch, rozumie tomu, čo robí, alebo ju len jej biologické mechanizmy navigujú od jedného kvetu k druhému?

Kedysi sa myslelo, že zvieratá sú niečo ako stroje, niečo ako umelá inteligencia, ale ukazuje sa, že to tak nie je. Táto počítačová metafora je síce silná, ale má limity. Napríklad pes má určitý model sveta – vie, kto je jeho majiteľ, čo je prechádzka, čo je jedlo a tak ďalej.

Keď porovnáme umelé neurónové siete alebo aj roboty so zvieratami, základný rozdiel je, že zvieratá udržujú samy seba, ale aj generujú vlastné ciele. No umelá neurónová sieť nemá autonómne ciele či intencie. Iba reagujú na to, čo im my zadáme.

Včela aj pes majú vlastné ciele. Nakoľko sú to výpočty alebo je to niečo viac, o tom sa debatuje. V rámci neurobiológie sú vedci, ktorí hovoria, že je veľký rozdiel medzi živočíchmi a umelými neurónovými sieťami, a jedným z príkladov je práve agencialita, teda že vedia fungovať ako viac alebo menej autonómni agenti.

Čím ideme v evolúcii ďalej, tým je tá autonómia vyššia, až po nás ľudí, ktorí vieme reflektovať, čo chceme robiť, a vytvárať si dlhodobé plány.

Vnímate v súčasnosti už nejaké riziká či priam nebezpečenstvo umelej inteligencie pre človeka či spoločnosť?

Mnohí sa boja, že raz príde k takzvanej singularite, teda bodu, keď si umelá inteligencia uvedomí samu seba a začne sa správať nekontrolovateľne a nezastaviteľne. Osobne si nemyslím, že toto je tá hrozba, lebo podľa mňa na vedomie nestačia výpočtové operácie. Je to môj filozofický názor.

Nemôže k singularite dôjsť aj bez toho, aby nejaká technológia kedykoľvek získala vedomie?

To si nemyslím, že by sa stalo, a je otázne, či sa môže technológia osamostatniť bez vedomia, bez sebareflexie. Určite je riziko, že sa to začne kaziť a dávať nesprávne výstupy, čo je nebezpečné napríklad pri autonómnych autách. Tie už fungujú celkom dobre, ale ak nastane nejaká zriedkavá situácia na ceste, tak môžu urobiť chybu. Alebo sa môže stať, že nejaké autonómne drony sa zrazu začnú správať chybne a tým spustia vojnu.

To sa však týka len toho fyzikálneho sveta, teda fyzicky existujúcich robotov. Viete si predstaviť podobné riziko aj v čisto digitálnom svete?

Už len to, že veľké jazykové modely halucinujú, je takým rizikom. Teda že vygenerujú niečo gramaticky správne, plynulé a zrozumiteľné, no niektoré veci sú tam celkom vymyslené.

Kognitívny vedec Martin TakáčAk algoritmy odhalia, ako nami manipulovať, budú to robiť. No dokážeme sa brániť

Jakub Lipták

To je zrejme spôsobené tým, že jazykový model nevie, čo je pravda a čo nie.

Áno, snaží sa štatisticky predpovedať, čo by odpovedal človek expert. Pokiaľ je model nakŕmený dátami, ktoré súvisia s realitou, bude produkovať dobrý výsledok, ale v prípade nových alebo nedostatočne preskúmaných otázok si vymýšľa, keďže nejaký výsledok vygenerovať musí. Dá sa to zlepšovať napríklad napojením na internet, ale chyby robí. To sú však skôr detské chyby ako hrozby a zrejme sa opravia časom.

Riziko vidím napríklad ešte v oblasti výučby, teda že študenti budú na generovanie svojich prác používať iba četboty. Na druhej strane, pokiaľ budú vedieť overovať zdroje, nemusí to nutne viesť k zhlúpnutiu. Páči sa mi citát od Harariho, ktorý povedal, že viac ako umelej inteligencie sa bojí prirodzenej hlúposti.

Vnímate riziká spojené s generatívnou inteligenciou v oblasti vytvárania realistických fotografií či videí aj s hlasom?

Počul som, že dokonca niekto vyrobil video s pápežom Levom XIV., ktorý ohlasuje koniec sveta, a kopa ľudí tomu uverila. Je to problém, najmä keď aj bez toho je vo verejnosti množstvo dezinformácií, ale neviem, aké sú na to riešenia.

Foto: Postoj/Jakub Lipták

Ktoré profesie sú podľa vás najviac ohrozené nástupom umelej inteligencie?

Dúfam, že nie profesia vedca, aj keď tie četboty sú už také dobré, že dokážu písať veľmi dobré texty. Keď je však človek na nejakú oblasť odborník, ľahko vie odhaliť medzery v poznaní umelej inteligencie. AI, samozrejme, nevie ani nahradiť napríklad experimenty v laboratóriu, zbieranie údajov a ani vhľad do vecí.

Roger Penrose, známy matematik a fyzik, nepoužíva pojem umelá inteligencia, ale umelá šikovnosť. Zdôvodňuje to tým, že v matematike, ale aj iných oblastiach nestačí len naslepo niečo zrátať, ale treba sa aj nad tým zamyslieť z rôznych uhlov pohľadu a použiť intuíciu, čo je niečo, čo sa nedá sformalizovať do nejakých pravidiel.

Myslíte si, že umelá inteligencia bude znamenať zásadnú zmenu v oblasti práce, napríklad až tak, že niektorí ľudia sa stanú nezamestnateľnými?

Myslím, že sa to môže stať, ale nemám žiadne konkrétne predpovede. Mám obavu, že sa spoločnosť rozdelí na tých, ktorí budú nové metódy vedieť používať správne a stanú sa produktívnejší v práci, a na druhú skupinu, ktorá bude tieto nástroje používať nekriticky, bude tým dezorientovaná a tak podobne. A že vlastne vznikne určitá intelektuálna medzera medzi tými, čo umelej inteligencii budú rozumieť, a tými, ktorí nie.

Tlmočník Pavol ŠvedaUmelá inteligencia nás nenahradí. Skôr hrozí, že ľudia začnú hovoriť ako počítače

Jakub Lipták

Aké sú podľa vás hlavné príležitosti umelej inteligencie pre spoločnosť?

Nápomocná môže byť v činnostiach, ktoré sa veľa opakujú – napríklad keď lekári píšu správu, mohlo by im to pomôcť, samozrejme tak, že skontrolujú, či je to správne. Urýchli to tiež orientáciu v rôznych vedeckých odboroch. Pokiaľ sa vystríhame halucinácií a budeme kriticky posudzovať zdroje, dá sa veľmi rýchlo spraviť prehľad, čo sa vie o určitej téme, a získať rešerš na vysokej úrovni.

Trúfate si odhadnúť, kde bude umelá inteligencia o päť rokov?

Pri súčasnom rapídnom pokroku je ťažké to odhadnúť. Nikto nepredpokladal, že v roku 2020 sa objavia takéto jazykové modely. Zrazu to však nastalo a lingvisti sú z toho v šoku, ako môžu tak dobre produkovať jazyk. Zmenilo to celú vednú disciplínu.

Osobne si myslím, že ešte bude chvíľu trvať tento „boom“ a naučíme sa umelú inteligenciu produktívne používať, ale po čase to narazí na hranice. Nemôžeme totiž donekonečna tie siete zväčšovať.

Neurónové siete budú mať problém aj v tom, že niektoré úlohy nebudú vedieť vyriešiť. A tam dôjde podľa mňa k pokroku v oblasti neuro-AI, teda že sa budeme učiť aj napríklad z hmyzu, ktorý má perfektné optimalizované lietanie, má vizuálne vnemy, vie sa výborne orientovať v priestore – a to s veľmi malým počtom neurónov a minimálnou spotrebou energie. Možno o desať-pätnásť rokov budeme mať vďaka tomuto výskumu lepšie roboty, ktoré sa budú vedieť orientovať v prostredí.

Ktoré profesie podľa vás budú aj o desať rokov perspektívne?

Tie, o ktorých sme si mysleli, že budú perspektívne – ako napríklad programátori –, dnes začínajú byť nahrádzané jazykovými modelmi, lebo vedia generovať aj počítačový kód. Ale nemyslím si, že programátori vyhynú.

Je podľa mňa potrebné sa v oblasti umelej inteligencie vzdelávať a zistiť, na čo sa dá použiť a ako vám môže byť prospešná. Netreba sa toho báť, ale skôr to vnímať ako príležitosť. Tak ako sme prežili priemyselnú revolúciu, zvládneme aj toto a budeme to vedieť využiť na veľa dobrých vecí.