Mokslinės fantastikos žanras šiurpina mus apokaliptiniais dirbtinio intelekto (DI) vystymosi scenarijais, kuriuose jis perima globalinį dominavimą iš žmogaus, pasitelkdamas įvairius fizinius objektus: robotus (tiek humanoidinius, tiek visokių kitokių tipų), energetinę infrastruktūrą, pramonę, gamybą ir pan.
 

Ateities humanoidai, įgiję įvairius pavidalus (policininko, kario, sekso vergės, ir kt.) yra suprantamas kino kūrėjų pasirinkimas, siekiant sukelti pramogomis persisotinusio vartotojo emocijas, jį išgąsdinti ir pamaloninti, distopinėje prieblandoje parodant gėrio ir tiesos idėjos gyvybingumą. Sukūrus dirbtinio ar, tiksliau kalbant, sintetinio intelekto koncepciją, atsiveria galimybės suteikti jam įvairių nežmogiškų ar, atvirkščiai, superžmogiškų savybių.
 

Netrūksta ir populiariosios filosofijos bei politikos veikėjų bandymų paaiškinti ir aprašyti DI fenomeną, bandant sumodeliuoti tiek jo vystymosi pavojus, tiek šiuo metu neįsivaizduojamas technologijų vystymosi galimybes. Populiarusis „ateities istorikas“ Y. N. Hararis, mąstydamas apie DI, teigia, kad žmonija pirmą kartą sukūrė dirbtinį objektą, galintį savarankiškai priimti sprendimus. Jam antrina Tesla, Spacex bei X savininkas E. Muskas, tvirtindamas, kad labai greitai (kai kuriuose jo interviu – iki 2025-jų, t.y. iki dabar) DI taps protingesnis už visą žmoniją. Pavadinkime E. Musko tipo žmones „vizionieriais“.
 

Didžiųjų valstybių lyderiai taip pat vienaip ar kitaip yra išsakę savo požiūrį į DI ir jį mato visų pirma kaip politinės galios įrankį. Populiaru viešojoje erdvėje pasisakyti lyginant DI su bomba, o žmoniją – su vaiku, netikėtai tą bombą suradusiu ir smalsiai ieškančiu ją susprogdinti galinčio trigerio.
 

Iš kitos pusės, gausu ir skeptikų, kurie mato DI tik kaip informacijos apdorojimo įrankį (kai kas pasakytų „agentą“), kuris be žmogaus priežiūros ir tiesioginio dalyvavimo sprendimų priėmime paprasčiausiai neveikia. Pasaulyje per metus publikuojama apie pusę milijono mokslinių straipsnių, priskiriamų dirbtinio intelekto tematikai. Jei priimtume vaiko ir bombos alegoriją, toks mokslinio smalsumo bumas reikštų, kad aplinkui bombą sukinėjasi ne vienas, o pusė milijono ne tik šiaip smalsių, bet išsilavinusių, gerai aprūpintų naujausiais įrankiais ir neabejotinai mokančių kurti įvairiausių tipų sprogdiklius vaikų.
 

Vis dėlto, neskaitant visuotinio susižavėjimo, domėjimosi, neigimo, baimių ir netikrumo bumo, kurį sukėlė ChatGPT programa, kol kas niekas nesprogo. Taip, šiandien turime nemaloniais tempais augantį globalinį politinį nestabilumą, populizmo klestėjimą, sąmokslo teorijų destruktyvų veikimą, beprecedentį technologijų įsiskverbimą į mūsų kasdienybę, darbo vietų transformavimąsi, vis sunkiau prognozuojamą ekonominę raidą ir kitus nerimauti verčiančius veiksnius. Netgi skeptikai pripažįsta, kad duomenų mokslo, taip pat ir DI algoritmų, įtaka nestabilumą skatinantiems procesams yra didelė.
 

Todėl kyla natūralus klausimas, kiek kuri pusė teisi. „Vizionieriai“ sako, kad DI pervažiuos žmoniją kaip traukinys, to net nepastebėjęs. Žiūrint iš šiuo metu jau sukurtų technologijų perspektyvos, sunku apčiuopti tokios galimybės tikėtinumą. Taip pat neįmanoma jos visiškai atmesti. Tam, kad traukinys ar bomba taptų nevaldomi, turėtų būti išpildytos tam tikros sąlygos. Pagrindinė iš jų yra tikslas. DI turėtų įgyti tikslą, nepriklausomą nuo žmogaus ar žmonijos. Kol kas visi be išimties DI algoritmai turi tik žmonių sukurtus tikslus ir jų pasiekia tik labai reikšmingų žmogaus pastangų dėka.
 

Regimas lengvumas, su kuriuo algoritmas pateikia atsakymą į atvirą klausimą ar sukuria meninio kūrinio imitaciją, yra gaunamas didelės specialistų komandos nuolatinio darbo dėka. 2014-jų W. C. Pfisterio mokslinės fantastikos kūrinyje „Viešpatavimas“ („Transcendence“), kur pagrindinį herojų įkūnija talentigasis J. Deppas, pirminis DI tikslas suformuluojamas iš pozityvių, humanistinių pozicijų: padėti žmogui, išsaugoti asmenybę. Tačiau žmogaus intelektą kaip starto platformą gavęs DI algoritmas greitai įgyja superžmogiškų savybių, iš kurių išryškėja pati svarbiausia: siekis dominuoti. Puiki dirva tuomet greičiausiai dar tik besiformavusiems „bombos“ ar „traukinio“ įvaizdžiams.
 

Pabandykime dekonstruoti Pfisterio kūrinio siužetą. Stulbinančias galias mašina, vykdanti DI algoritmą, įgavo dėka neįtikėtinai efektyvaus starto, kurį užtikrino realaus žmogaus asmenybės suskaitmeninimas. Girdžiu skeptikų bei realistų balsus, kurie sako, kad tai neįmanoma ir kažin ar kada nors bus įmanoma. Entuziastai ir optimistai sako, kad technologijų vystymosi kreivė šiandien turi eksponentinę dinamiką, todėl tai, kas šiandien atrodo visiškai nerealu, rytoj pasirodys visiškai kitoje šviesoje. Be to, ar verta skaitmeninti žmogaus intelektą, kuris atskirais parametrais jau dabar nusileidžia DI? Gal reikia leisti DI vystytis kitu keliu, kuriame nėra daugybės žmogiškų trūkumų, tokių kaip negebėjimas efektyviai dirbti su chaotiška, įvairialype informacija?
 

Iš technologinės pusės, DI yra grindžiamas taip vadinamais gilaus mokymo algoritmais, pavyzdžiui, pagal analogiją su biologine nervų sistema sukurtų, neuroninių tinklų visuma. Šie algoritmai būtų beverčiai be taip vadinamų didžiųjų duomenų, kuriuos gali sudaryti terabaitai socialinių tinklų įrašų, skaitmenizuotos literatūros, vaizdų, garsų, dailės ar muzikos kūrinių bibliotekos, telefoninių pokalbių įrašai ir kit. Daug kas jau šiandien norėtų „leisti“ DI savarankiškai kapstytis šiuose neįsivaizduojamo dydžio duomenų bazėse ir taip išlaisvinti žmogų iš daugybės rutininių, prastai apmokamų darbų. Bėda ta, kad niekas iki šiol nesugalvojo, kaip sukurti nuo žmogaus nepriklausomą DI motyvaciją veikti. Gilaus mokymo algoritmų ir didžiųjų duomenų naudojimas DI kūrimui vis dar vyksta žmogaus iniciatyva ir bet koks nuo žmogaus nepriklausomas DI „vystymasis“ tėra tik į ateitį projektuojama svajonė.
 

Iš „vizionierių“ kartais tenka išgirsti kalbant apie tai, kad DI „mąsto kitaip“ nei žmogus ar kuria „savarankiškas idėjas“. Tai yra emocinė pozicija. DI nemąsto, nes mąstymo veiksmas yra ar bent jau turėtų būti sąmoningas. Jau sutarėme, kad technologiniu požiūriu DI yra statistiškai reikšmingą apmokymą pagal žmonių sukurtą ir labai kruopščiai atrinktą informaciją gavę algoritmai. Šie algoritmai gali tobulėti sąlyginai nepriklausomai nuo žmogaus ir netgi patys keisti savo kodą, tačiau nuo to jie netampa sąmoningomis būtybėmis ir neperlipa pirminės savo paskirties – imituoti sąmoningas būtybes, tarnauti tenkinant sąmoningų būtybių poreikius, o ne jomis būti.
 

Žmonės dažniausiai mąsto tenkindami tiesos paieškos poreikį. Tokio poreikio algoritmai neturi ir negali turėti, nes nėra būdo algoritmui perduoti sudėtingą, nevienareikšmį ir matematiškai neaprašomą tiesos suvokimą, kurį turi žmogus. Suvokiant šiuos apribojimus, galima aiškiai matyti takoskyrą tarp to, kaip veikia natūralus intelektas ir to, ką yra įprasta vadinti DI.
 

Tikslo turėjimas kol kas yra neprilygstama gyvų organizmų savybė, grindžiama įvairiaplaniais poreikiais, kurie varijuoja nuo išgyvenimo, poreikio maitintis ir daugintis iki aukštesnei protinei veiklai būdingų poreikių patenkinti smalsumą, tyrinėti, būti pripažintam, mylimam ir suprastam. Mokslininkai jau atsakė į klausimą, kaip ir kodėl kiaušinis atsirado anksčiau už vištą, taip priartėdami prie išsamesnio sudėtingų gyvybės formų atsiradimo paaiškinimo. Tačiau šiandien vis dar negalime atsakyti į klausimą, koks nervinės sistemos išsivystymo lygis atsakingas už sąmonės „prabudimą“. Sąmonė yra būtina sąlyga tikslo turėjimui. Kai kurie „vizionieriai“ šiandien jau pasirengę DI algoritmams priskirti tam tikrą sąmoningumą.
 

Suprantama, sunku atsispirti iliuzijai, kad bendrauji su sąmoninga būtybe, kai į atvirą klausimą gauni filosofinio gylio atsakymą. Nepamirškime, kad panašias emocijas patyrėme ir maždaug prieš penkis dešimtmečius, kai susipažinome su kompiuterių programų „gebėjimu“ atsakyti į ribotą klausimų sąrašą ar apskaičiuoti šachmatų ėjimą, veikiant taip vadinamu dialogo režimu. Tiek tuomet, tiek dabar turinio, kuris sudaro atsakymą į klausimą, autorius yra žmogus. Pasikeitė tik informacijos paieškos aprėptis, greitis ir informacijos apdorojimo rezultato pateikimo būdas. Jei sąlyginai primityvūs „dialogo“ algoritmai turėjo ribotą prieigą prie duomenų ir negalėjo pateikti klaidingos informacijos, tai ChatGPT koncepcija šiuos apribojimus eliminavo. Ir visa tai yra penki dešimtmečiai „stulbinančio“ technologinio vystymosi.
 

Jei kompiuterių algoritmų vystymosi kelią nuo praeito amžiaus vidurio iki šių dienų palygintume su atstumu tarp Europos ir Amerikos, tai atstumas, kurį šiuolaikinės technologijos dar turi pereiti iki sintetinės sąmonės atsiradimo, galėtų būti palygintas su atstumu nuo Žemės iki Kentauro Proximos. Taip, suprantama, technologijų vystymosi kreivė yra eksponentinė, todėl tą kelią praeiti galima tikėtis ir greičiau nei per ateinančius keletą tūkstantmečių.
 

Ir vis dėlto, traukinys jau važiuoja ir yra labai netoli to, kad žmonija būtų sunaikinta jos pačios rankomis. Šia prasme „vizionieriai“ yra teisūs. Dominavimui užtikrinti fizinė infrastruktūra, fiziniai ištekliai, netgi pinigai šiandien tampa antriniais dalykais. Mes de facto jau esame įtraukti į patį tikriausią fizinį karą, kuriame kasdien žūsta žmonės, kur kasdien į orą išlekia neįsivaizduojamai dideli kiekiai metalo ir betono, bet visa tai yra tik siaubinga informacinių karų materializacija. DI algoritmus vykdančių mašinų greitis yra pakankamas tam, kad apskaičiuotų priešo, oponento ar konkuruojančios kompanijos strateginį veiksmą gerokai anksčiau, nei susirinks sprendimų priėmėjai ir apsispręs dėl naujos strategijos ar taktikos.
 

Informacija, kurios reikia algoritmams „pamaitinti“, šiandien prieinama kaip niekuomet. Jei informacija „pagaminama“ greičiau, nei žmogus yra pasirengęs ją suvokti, o dar labiau – panaudoti, kyla labai rimtos kognityvinės bei sprendimų priėmimo problemos ne tik individo, bet ir visuomenės mastu. Šiandien visų mūsų patiriamas beprecedentis globalinis politinis ir ekonominis nestabilumas praktiškai visose žmonijos veiklos srityse yra persisotinimo nepriimtinu greičiu besikeičiančia informacija pasekmė.
 

Ypač gąsdina politiniai nestabilumai demokratinėse šalyse. Tam, kad būtų „demokratiškai“ išrinktas destruktyvus, populistinis politikas, šiandien nereikia metų metais mokytis politinės retorikos ar dalyvaujant politiniuose procesuose žingsnis po žingsnio kurti savo politinę reputaciją. Šiandien sėkmei rinkimuose užtikrinti užtenka algoritmais išgrynintos, dažnai su objektyvia tiesa nieko bendro neturinčios žinutės, mobilizuojančios tikslinį elektoratą.
 

Pats faktas, kad demokratinėse valstybėse populistai patenka į valdžią, nėra baisus, nes demokratija turi apsauginius mechanizmus, kurie neleidžia destrukcijai išsikeroti. Tam mes turime teismų sistemą, žiniasklaidą ir gana laisvai apibrėžiamą visuomenės nuomonės institutą, kuriam didelę įtaką daro mokslininkų, visuomenininkų, ekspertų ir analitikų balsai. Baisu yra tuomet, kai demokratiniuose rinkimuose išrinktas politikas jam deleguotas politines galias panaudoja ne jį išrinkusių žmonių interesų atstovavimui, o demokratijos savireguliaciją užtikrinančių institutų naikinimui arba jų pajungimui savanaudiškiems, siauriems asmeniniams ar grupiniams tikslams.
 

Nuo politikų ar ekonominių oligarchų savivalės mus turėtų apsaugoti fenomenas, kuriam apibrėžti naudojamas raktinis žodis „tiesa“. Jei rinkimai dažnai pavadinami „daugumos prievartos“ mechanizmu, tai kitos demokratinės institucijos yra tiesos paieškos priemonės, galinčios tą prievartą eliminuoti tuo atveju, kai prarandamas ryšys su objektyvia tiesa.
 

Deja, algoritmams tiesos sąvoka yra nepažini. Net jei DI apmokymo metu yra naudojami kokybiški duomenys, iš kurių yra pašalinta netiesą teigianti informacija, jo algoritmų lankstumas yra pakankamas „permokymui“ meluoti. Gana plačiai žinomas pavyzdys, kai DI apėjo CAPTCHA testą (automatizuotas iškraipytais paveikslais grindžiamas robotų ir žmonių atskyrimo testas), pateikdamas paaiškinimą, kad jis nėra robotas, bet turi regėjimo negalią.
 

Taigi, su DI susiję pavojai žmonijai slypi ne DI pranašumuose prieš natūralų intelektą ar galimybėje susilaukti reikšmingos DI konkurencijos žmogui būdingose veiklos srityse, bet netinkamame jo naudojime. Vienas didžiausių šiandienos iššūkių yra egzistuojančios teisinės sistemos įrankių bei kitų demokratijos savireguliacijos funkcijų papildymas priemonėmis, skirtomis netinkamo DI naudojimo atvejams išaiškinti ir užbėgti galimai destrukcijai už akių. Atsakomybė turėtų būti panaši, kaip už vaikų nepriežiūrą ar suicidinių religinių praktikų kūrimą.
 

Mokslo bendruomenė, universitetai ir kitos mokymo įstaigos pirmosios suskubo savo vidinėmis taisyklėmis reguliuoti DI panaudojimą, tame matydamos egzistencinius iššūkius sistemai. Mokslininkai dirbtinio intelekto įrankius mato visų pirma kaip kokybiškai naują priemonę spręsti daugelį žmonijos problemų (sveikatos, saugumo, gamybos, pramonės ir kit. srityse), susijusių su didelio įvairialypės informacijos kiekio apdorojimu.
 

Labai svarbu, kad DI technologijų kompetencijos kaip galima greičiau ir giliau pasiektų išsilavinusių, kuriančių, ekonominę, politinę ir teisinę darbotvarkę formuojančių žmonių protus, nes šiandien jau nepakanka pasyviai stebėti naujos technologijos vystymąsi. Jei nedėsime pastangų jai suprasti ir saugiai naudoti, paprasčiausiai atiduosime savo gyvenimų valdymą tiems, kas ją naudoja savanaudiškiems tikslams. Ir tai nebus robotai.

Tekstą parengė prof. dr. Darius Viržonis, VILNIUS TECH Mechanikos fakulteto, Mechatronikos, robotikos ir skaitmeninės gamybos katedros profesorius.