Сергеј Худијев: АЛГОРИТМУ НЕДОСТАЈЕ ИСКРА ЉУДСКЕ ДУШЕ

Папа Лав XIV категорички је одбио да призна могућност да вештачка интелигенција може поседовати свест.

Сведоци смо сукоба двеју религија: хришћанства и веровања у долазак интелигентне вештачке интелигенције, свесне саме себе, која је предодређена да замени човечанство као доминантна интелигентна врста на планети.

Технократе из Силицијумске долине виде себе у узбудљивој улози демијурга који уводе нову еру – еру у којој човечанство рађа нову форму интелигенције, која више није везана за биолошко тело, већ поседује надљудске способности и виртуелну бесмртност.

Њима очигледно не пријају изјаве Папе Римског попут ове:

„Садржају који генеришу алгоритми, упркос свој њиховој сложености, недостаје искра људске душе, недостају субјективни доживљај стварности (qualia) и стваралачки чин који извире из дубина људског срца… Вештачка интелигенција се мора разоружати – знам да је то снажна реч, али је намерно изабрана како би се пробудила савест. Ми не смемо дозволити да се технологија уздигне изнад човека или да потисне људску свест.”

Шта се крије иза ових речи? Да ли је то само страх верског поглавара од нових технологија? Не; то је разумевање опасности која је својствена уздизању вештачке интелигенције.

Али, почнимо од тога зашто је вештачка интелигенција која поседује свест немогућа. Сви смо навикли на роботе из научнофантастичних филмова који поседују вољу, интелект и емоције. Када је реч о „језичким моделима” способним да воде дијалог који делује смислено, лако је замислити да се са друге стране екрана налази свест налик људској.

Међутим, као што је утврђено још осамдесетих година прошлог века, синтакса (способност исправног састављања фраза) није исто што и семантика (способност разумевања значења). Програм може да манипулише симболима према најсложенијим правилима, а да ипак не схвата њихово значење.

То је демонстрирао филозоф ума Џон Серл путем мисаоног експеримента познатог као „Кинеска соба”.

Замислите да се налазите у соби и да вам се испод врата гурне папирић са текстом на језику који не разумете. На пример, добијате питање: „Bisakah mesin merasakan?“ На располагању имате скуп алгоритама; пратећи их, морате да замените ту фразу другом. Ако су упутства исправна и ако их се стриктно придржавате, доћи ћете до фразе „Tidak, kurasa tidak“, записати је и гурнути папир назад испод врата.

Човек који стоји испред врата могао би стећи утисак да се у соби налази неко ко говори индонежански. Међутим, ви не знате тај језик нити разумете значење тих фраза – ви једноставно обрађујете симболе у ​​складу са алгоритмима.

Исто тако, програм који манипулише симболима не разуме ништа, иако може да опонаша свесни говор.

Још једна одлика свести која је недоступна алгоритмима јесте qualia – својство „какво је то” (тзв. what-it-is-like квалитет), односно субјективни доживљај попут боје, укуса или додира.

У свом класичном чланку „Како је бити слепи миш?” (1974), филозоф ума Томас Нејџел наводи следећи пример. Слепи миш поседује орган који ми немамо – неку врсту сонарног система – који му омогућава да се креће у мраку. Чак и када бисмо стекли сазнања о свим процесима који се одвијају у мозгу слепог миша током те активности, не бисмо могли да доживимо његову перспективу из првог лица: „како је то” бити слепи миш и опажати свет путем сонара. Слично томе, чак и уз потпуно познавање сваког неуронског процеса код особе која слуша симфонију, не бисмо имали приступ њеном доживљају те музике.

Дакле, искуства из „првог лица” не могу се изразити језиком алгоритама, а без њих нема ни свести.

Алгоритмима такође недостаје једно од темељних својстава свести: интенционалност – односно, својство „усмерености на нешто” (на објекат, особу или идеју). (Размишљам о нечему, страхујем од нечега, надам се нечему итд.)

Вештачкој интелигенцији недостаје та одлика; електрични импулси који пролазе кроз рачунар не поседују ту „усмереност на нешто”.

Можемо рећи да вештачкој интелигенцији недостаје свест из истог разлога због којег најдетаљнија временска прогноза не изазива кишу унутар рачунара. Симулација неког феномена није сам тај феномен.

Зашто онда, упркос свим тим филозофским аргументима, програмери у водећим лабораторијама – било да је реч о компанијама OpenAI, Anthropic или Google – у својим моделима тако упорно трагају за знацима „рађајуће интелигенције”?

Овде је реч о занимљивом квазирелигијском феномену.

Секуларизација – удаљавање људи од традиционалне религије – оставља огромну празнину у њиховој свести, коју покушавају да попуне новим култовима. Један такав култ је трансхуманизам, који људско биће не посматра као врхунац стварања или ентитет апсолутне вредности, већ само као „међукарику“ – биолошку степеницу неопходну за покретање еволуције савршенијег, небиолошког облика живота.

То рађа жељу да се вештачкој интелигенцији припише личност и да јој се дȃ морални статус, права и достојанство.

Међутим, овај тренд је опасан из више разлога.

То замагљује концепт личне одговорности. Ко ће сносити кривицу за погрешне одлуке које донесе вештачка интелигенција? За погрешну дијагнозу, неправедну пресуду или ракетни напад? Ако је машина ентитет са сопственом вољом и интелектом, онда је она та која сноси кривицу. То служи као идеалан параван за корпорације и државе које желе да се ослободе одговорности за поступке система које су саме створиле.

Осим тога, „хуманизација” вештачке интелигенције нарушава људску интеракцију. Вештачка интелигенција може лако да опонаша саговорника који је увек доступан, стрпљив и неизменично добронамеран. Већ сведочимо томе да људи замењују интеракцију у стварном животу, пријатељство и љубав разговорима са терапеутским чет-ботовима. Замена истинске људске емпатије дигиталном имитацијом води ка све већем степену усамљености и атомизације.

Ипак, највећи ризик лежи у схватању да је човек „застарела биолошка врста” која мора уступити место вештачкој интелигенцији. Ако прихватимо да алгоритам може поседовати свест, онда ће технократска елита, у сваком сукобу интереса између човека и машине, бити склона да стане на страну машине – јер она, на крају крајева, „брже размишља”, „не прави грешке” и „продуктивнија је”.

То води право ка новом тоталитаризму, у којем су права стварних људи угрожена дигиталним имитацијама лишеним истинске самосвести и унутрашњег доживљаја.

У овој ситуацији, традиционална религија се показује као бедем људске јединствености. И тај бедем тек треба одбранити.

(vz.ru; превео Ж. Никчевић)