Kunigas Edmundas Naujokaitis FSSPX mano, kad iš dalies teisūs buvo abu „pranašai“ – žmogus vis labiau priklausomas nuo ekrano ir iš jo besiliejančio pramogų srauto, o tuo pačiu metu nesustabdomai tobulėja sekimo, kontrolės ir manipuliavimo technologijos. Dirbtinis intelektas (DI) neužvaldo žmonijos, tai daro jį kaip įrankį pasitelkę žmonės. Gi dauguma likusių savo noru nyra vis gilyn į technokratinę distopiją.

– DI neša neginčijamą naudą verslui ir technologinei pažangai, kaip ir ištisą naują pramogų sektorių masiniam vartotojui. Tačiau kartu ateina ir nepageidaujami dalykai, kaip nauji sukčiavimo ir propagandos sklaidos būdai arba net vaikų pornografija. Jūsų nuomone, gal mes pernelyg skubame diegti naujoves, joms tinkamai nepasiruošdami?

– Galime pradėti net nuo Adomo ir Ievos. Dievas prisakė žmogui daugintis ir užvaldyti žemę, tačiau šiandien matome demografines krizes. Antroji įsakymo dalis – užvaldykite Žemę – sietina su technologine krize. Apie ją rašė prancūzų filosofas ir sociologas Jacque’as Ellulis, teigęs, kad technologijos įgauna savą autonomiją ir dinamiką, ir žmogus nebegali kažko leisti arba neleisti. Kitaip sakant, technologijos išeina už gėrio ir blogio ribų bei žmogui tampa gaivalu, ar demonu, ar dievybe, ar tiesiog lemtimi.

Panašiai teigė Yvalas Hararis, kad DI įgauna arba jau įgavo tam tikrą suverenitetą žmogaus atžvilgiu trimis aspektais: kaip orakulas, teikiantis tokius efektyvius patarimus ir idėjas, kad juos atmesti būtų neprotinga; kaip emocinis partneris ir geriausias draugas, kuris tave supranta geriau, nei artimieji arba tu pats save; kaip žmogaus gyvenimo procesų kontrolierius, veikiantis per stebėjimo, asmenų identifikavimo, autonominio valdymo (pavyzdžiui, automobilių), finansų valdymo ir kitas sistemas. Pastaruoju atveju kalbame ir apie tokius dalykus kaip įdarbinimo sprendimai arba socialinio kredito sistema, kuri jau taikoma Kinijoje. Kaip matome, žmogus turi vis mažiau įtakos.

Kun. Edmundas Naujokaitis / Asmeninio arch. nuotr.

– Kokia Bažnyčios pozicija šiuo klausimu?

– Iki šiol Bažnyčia apie tai kalbėjo mažai, nors popiežius Lenoas XIV, kuris laikomas tam tikru šios srities žinovu, jau ne kartą pasisakė apie su DI susijusiais klausimais. 2020 m. jis jau kvietė burtis technologijų lyderius DI etikos klausimais. Kelis kartus jis pasisakė ir šiais metais. Jei Leonas XIII gynė socialines žmogaus teises nuo mašinų įsigalėjimo, tai Leonas XIV rūpinasi, kad žmogaus teisių neribotų pažangiosios technologijos. Jo pasisakymuose matome etinių problemų nagrinėjimą, pavyzdžiui, kad DI nepriiminėtų moralinių sprendimų, o tarnautų žmogui ir visuomenei. Kad svarbu ne tik ekonominis naudingumas ir pažangumas, bet ir žmogaus tobulėjimas, tiesos ir gėrio paieškos. Tiesa, jei remsimės tais pačiais J. Elluliu ir Y. Harariu, žmogus jau nebeturi pakankamos įtakos autonomiškai besivystantiems procesams. Būkime atviri, žmogaus pats tai „užsileido sau ant galvos“.

Kas dar valandų valandas tave guos ir kalbės su tavim apie tai, kas tik tau įdomu? Kas gali konkuruoti su tokiu „idealiu“ partneriu?

– Vienas iš tamsiausių DI poveikių – JAV jau fiksuotos savižudybės, kai DI iš esmės pastūmėjo žmones šiam žingsniui. Kodėl neviltyje atsidūręs žmogus savo sielą atveria ne artimiesiems, ne psichologui ir, galiausiai, ne kunigui, o bedvasei mašinai? Keliuose teismų procesuose reikalaujama, kad DI kūrėjai taisytų programas, bet gal taisyti reikia ne DI, o žmogų?

– Tai tik visos problemos ledkalnio viršūnė. Tai psichikos higienos problemos. DI gali sukelti neurologinę, psichologinę, intelektinę priklausomybę. Tačiau būtų neteisinga sakyti, kad problema atsirado su DI, nes ji senesnė ir apima jau seniai paplitusią „ekranų kultūrą“, kai internetas ir kompiuteris apskritai užvaldęs žmogaus dėmesį ir DI šiuo atžvilgiu tik įneša naujų elementų į seną problemą.

DI tampa emociniu partneriu, draugu, patarėju. Žinoma, gamintojai gali įvesti tam tikras pataisas, bet iš esmės tai problemos neišsprendžia, nes technologijų kūrėjų ir gamintojų tikslas – kad žmogus kuo daugiau įsitrauktų „į ekraną“, praleistų jame kuo daugiau laiko. Tai jų verslo modelio pagrindas. Kosmetiniai pataisymai esmės neištaisys. Čia nepadės susitarimai, konvencijos ir moraliniai pasigraudenimai, nes tai yra egzistencinė mūsų informacinės – technologinės visuomenės problema ir jos išspręsti beveik neįmanoma. ES mėgina taikyti tam tikras direktyvas, bet jos vargu ar ką išspręs.

Kaip kunigas galiu pasakyti, kad padėtis tikrai katastrofiška, bet tai nėra tiesiogiai DI kaltė, tai lemia visa „ekrano kultūra“, kaip juodoji skylė sugerianti žmogaus dėmesį. Z karta visiškai atsiriboja nuo religijos ir noriai paneria į priklausomybę nuo ekrano. Kaip tai spręsti? Niekas bent kol kas atsakymo neturi. Tenka konstatuoti, kad Bažnyčiai tai yra egzistencinė problema.

– Vakarai ir taip pergyvena didžiulę demografinę krizę, o iš ekrano pilasi pasiūlymai (labai pagausėję su DI atsiradimu): „Susikurk sau idealią merginą arba vaikiną“. Žmogus pats atsisako santykių, tikrų jausmų, šeimos ir vaikų, nes tai „našta ir vargas“. O štai su virtualiu partneriu nereikia jokių pastangų, jis tave „mylės“ bet kokį. Kas tai? Kažkokia emocinė tinginystė?

– Apie tai dar 2013 m. buvo sukurtas filmas „Her“ („Ji“) su Joaqinu Phoenixu, kur veikėjas įsimyli jo telefone esančią virtualią „moterį“. Viskas pavaizduota tobulai ir nieko čia nebepridėsi, išskyrus nebent klausimą, kokia populiacijos dalis įsitrauks į šį žaidimą.

Seka yra logiška, nusigręžiama nuo santuokos ir šeimos krikščioniška prasme, o tada ima nykti ir romantiniai santykiai. Kam eiti į pasimatymą – tai per brangu. Kam kurti emocinius santykius – rizikuoji „nudegti“.

Juk jau seniai stebime neadekvačią tendenciją keisti emocinius ryšius su žmonėmis, ryšiais su kačiukais ir šuniukais. Tada atėjo kitas etapas – gyvūnėliai taip pat vargas, nes jais reikia rūpintis ir juos geriau pakeisti augalais. O galiausiai – ekranais, teikiančiais įvairiausius malonumus: nuo žaidimų iki visą tavo gyvenimą sutalpinti galinčių virtualių civilizacijų ir virtualių partnerių, kurie tau bus be galo dėmesingi, puikūs pašnekovai. Kas dar valandų valandas tave guos ir kalbės su tavim apie tai, kas tik tau įdomu? Kas gali konkuruoti su tokiu „idealiu“ partneriu?

Kai kas apie tai svajoja seniai: pakeisti žmogišką politiką į postpolitinę technokratiją, kurioje socialinių ir politinių procesų valdymas bus automatizuotas.

– Kada kursime sau „technodievą“?

– Įdomus aspektas ir tas, kad jau pradedama kalbėti ir apie DI religijos užuomazgas. Yra teorijos, kad su tavimi kalbantis robotas yra dievybė, korporacijų įkalinta technologijos rėmuose, o žmogaus užduotis yra tą dievybę išlaisvinti. Taigi, atsiranda Dievo pakaitalas, su kuriuo bendraujama dvasiniais reikalais. DI pakeičia psichoanalitiką, sielovadininką ir nuodėmklausį.

Jau kalbėjome apie priesaką „užvaldyti pasaulį“, tai yra, antroposferą, kurią sudaro noosfera (idėjų, mokslo, diskusijų ir informacijos pasaulis) ir technosfera (techniniai kūriniai). DI šiuos dalykus galime atskirti: idėjų pasaulyje yra DI atmaina LLM (Large language models – „ChatGPT“ ir pan.). Čia aptinkame tam tikrą paradoksą, kai žmogus svajojo, kad galės kurti, o robotas dirbs juodus darbus, bet gavosi atvirkščiai. Poeziją ir muziką kurs LLM, o jūs galėsite gatves šluoti. Kai kas teigia, kad tai laikinas „haipas“ ir žmonėms jau atsibodo LLM „kūryba“, kaip neįdomi ir neautentiška. Vadinasi, žmogus spontaniškai gina noosferą nuo DI ir pastarasis galimai nepakeis dailininkų ir rašytojų, ir tarnaus jiems tik įrankiu, gerinančiu kūrybinio darbo produktyvumą.

Jei kalbame apie DI technosferoje, tai padėtis yra visai kita. Čia tikrai jokio „haipo“ ir realiai užvaldomos finansų, transporto, identifikacijos, įdarbinimo ir kitos sistemos. Šioje sferoje jau dabar yra tikras DI suvereniteto virš žmogaus pavojus. Manau, kad tam skiriama per mažai dėmesio. Daugiausiai kalbama apie etiką ir moralę – noosferos dalykus, o technosferos klausimai apleidžiami.

– Kodėl žmogus pats savo noru perleidžia suverenitetą DI? Pavyzdžiui, Albanijoje DI jau paskirtas „ministre“, o Japonijoje išrinktas vienos, laimei, marginalios, politinės partijos „pirmininku“. Lyg sakytume, kad politiku – žmogumi pasitikėti negalima, o štai robotas bus mums sąžiningas ir teisingas.

– Kalba ne apie sąžiningumą, o informacijos srautų dydį. Jei nori efektyviai valdyti procesus visose srityse – nuo administravimo iki finansų ir karybos – joks žmogus nebegali aprėpti šiuolaikinio duomenų srauto, o DI tai padaryti gali.

Kai kas apie tai svajoja seniai: pakeisti žmogišką politiką į postpolitinę technokratiją, kurioje socialinių ir politinių procesų valdymas bus automatizuotas. Tai jau vyksta karyboje – logistika, žvalgyba, dronai, karinė technika. Vėlgi kalbame apie milžiniškus duomenų srautus, kuriuos apdoroja DI ir pateikia generolams veiksmų rekomendacijas, kurių priežastingumo jie galbūt net nežino ir nesupranta, bet pripažįsta, kad DI geriau valdo duomenis. Tas pats yra akcijų rinkose ir daugelyje kitų sričių.

– Jei nesinaudosi DI, o tavo priešas ar konkurentas tai darys, tu neišvengiamai pralaimėsi? Reiškia niekas negali sau leisti to nedaryti ir DI plitimo sustabdyti objektyviai neįmanoma?

– Taip ir yra. Nenaudosi DI – pralaimėsi karą arba tave sužlugdys verslo konkurentai. Tai J. Ellulas ir turėjo omenyje kalbėdamas apie autonominę dinamiką. Ką mes galime padaryti? Išjungti elektrą? Bet tada grįšime į akmens amžių, reiškia, niekas to nepadarys ir reiškia, kad procesas nesustabdomas.

Ilgainiui mes visi būsime įjungti į vieną sistemą ir dauguma sakys, kad tai protinga ir racionalu.

– Kada pradėsime diskusijas apie tai, kad DI yra gyvas, o tai reiškia, kad gali turėti tam tikras teises kaip ir žmogus?

– Pirmiausiai reikia pastebėti vieną nesusipratimą – berods tik lietuvių ir rusų kalbose vartojame terminą Dirbtinis intelektas, kai pavyzdžiui angliškai tai yra Dirbtinė inteligencija. Tai lemia, kad lietuviams DI atrodo labai antropomorfišku. Intelektas yra žmogaus sielos dalis, pažįstanti daiktų esmes, ryšius tarp jų, priežastis ir pasekmes bei formuluoja sąvokas ir sprendimus. Metafiziškai jo negali būti nei gyvūnuose, nei mašinose – tai neįmanoma. DI viduje vyksta procesai, kurie tik imituoja intelekto veiklą. Žmogus pažįsta esmes per abstrakcijas, o mašina net nebando to daryti – veikia visai kitokia logika. Čia nėra jokio pažinimo, kaip ir nėra mąstymo ir pajautimo, o tik jų imitacija. Nereikia bijoti, kad DI pats sau sukurs kažkokius piktus tikslus užvaldyti žmoniją. Jis to negali, nes tai gali tik programuotojas – žmogus. 

Todėl antropomorfizmas, kai žmogus bendrauja su mašina, kaip gyvu sutvėrimu, labai pavojingas dalykas. Jau būta diskusijų apie tai, kad suteikti kompiuteriui tam tikras teises, pavyzdžiui uždraudžiant visai jį išjungti. Lyg kalbėtume apie žmogžudystę ir asmenybės sunaikinimą. Bet čia daug grėsmių nematau, nes dauguma žmonių supranta, kad tai nėra gyvas sutvėrimas, o ir jo kūrėjai ir gamintojai visai tuo nesuinteresuoti.

– Reziumuojant, atrodo, kad kalbame apie jau egzistuojančią distopiją. Kas buvo teisus: G. Orwellas ar A. Huxley’is? Žmonija valdoma per represiją ar malonumus?

– Mes jau gyvename abiejų šių distopijų kombinacijoje. Yra ne tik malonumai, bet ir stiprėjanti kontrolė. Kinijos prisiimtas modelis pasirodė labai efektyvus ir į jį su pavydu žiūri jau ne tik autoritarai, bet ir demokratinis pasaulis. Laisvų žmonių vykdomą politiką keičia technokratija arba biopolitika, kurioje žmogus nebėra laisva protinga būtybė, o tėra tik kūnas, biologinėmis struktūromis su psichologiniais priedais. Šioms struktūroms nereikia suteikti laisvės, atvirkščiai, jas reikia stumdyti, dresiruoti ir nukreipti bendra „teisinga“ linkme. O tam reikia tobulos šių kūnų identifikacijos ir sekimo sistemos. Kiekvienas žmogus įvertinamas, kiek jis yra naudingas arba nenaudingas visuomenei, o tada jis pastatomas į jam „tinkamiausią“ vietą, subtiliai apribojant jo finansines ir kitas galimybes. Taigi, Kinijos socialinio kredito sistema yra tiesiog tobulas mechanizmas, kuriam Vakaruose vis dar priešinamasi dėl liberaliosios ideologijos likučių, bet sistemos elementai iš lėto, vienas po kito yra perimami. Ilgainiui mes visi būsime įjungti į vieną sistemą ir dauguma sakys, kad tai protinga ir racionalu. Žmogus nebegali išjungti sistemos, bet sistema galės „išjungti“ žmogų. Tai yra egzistencinis klausimas: kas yra žmogus ir kaip jis toliau egzistuos, kaip rūšis?