Весна Кнежевић: Вештачка интелигенција и људска раса

Читав данашњи свет је у дилеми око вештачке интелигенције. Треба ли и даље помагати рађање бића из позитронске матрице, или уништити све доказе и преузети амишки тип друштвене организације? Где повући црту? Да ли ће нове форме свести уопште допустити да им се поставе лимити? Ако се међутим прелиста озбиљнија литература о дигиталном хуманизму и етици, поглед на AI (Аrtificial Intelligence) далеко је прозаичнији од оног који се деценијама негује у филму и књижевности. У реалности је најважније ко ће тренирати „позитронце”, ко ће их водити у парк у шетњу, ко скупљати иза њих у врећицу кад обаве посао. Свест, морал, самостално размишљање? То је за Холивуд. „У стварности, вештачка интелигенција поседује свест графитне оловке”, каже Сеп Хохрајтер, аустријски професор информатике који је помогао рађање Chat GPT програма.

На почетку констатација, ако неко инсистира извињење. Читав овај текст се извлачи из енглеског, језика који неких стотинак задњих година не ужива само статус linguae francae, већ се, делимично и због тога, усталио као службени језик информатике. Појмове којима информатичке науке оперишу практично више ни један језик не преводи, већ их користи у изворнику. Не из поштовања према енглеском, већ према властитом језику.

У противном, читаве бујице превода горих од оригинала доносе хаос у језику импорта. Зато је браншу у којој водећи представници властитој деци дају фонетска имена као Ексееј Твелв (X Æ А-12) најбоље држати на окупу у једном стандарду, док се језичка ситуација интернационално нешто не релаксира.

Кад човек само помисли колико некад иновативно иритантна имена коју је музичко-холивудска бранша давала својој деци, као North West, одједном почињу да звуче врло конзервативно.

Једном ће и све око вештачке интелигенције (у даљем тексту: AI) постати познато и конзервативно. Најкасније онда кад се људи, који мисле да су људи, буду свађали са пријатељем који мисли да је робот, зато што неко од њих вара на картама.

Cogito, ergo est

Да ли свиће праскозорје вештачке интелигенције? Несумњиво. И више од тога, на сату епоха и идеја је већ негде око пола десет. Али значи ли то аутоматски да ће у пет поподне mind uploading – трансфер људског мозга у андроидне роботе – бити тако једноставан као данас операција крајника? Ствари нису линеарно послагане, чак ни у оним круговима где је на делу религиозно обожавање природних наука, међу сингуларистима и другим верницима техничке есхатологије.

Код ствари које долазе, које су неумитне самим тим што видљиво стоје на вратима и чекају да нађу своје место у институцијама и организацијама под контролом људске расе, свако има свој аналогон за разумевање. Или своју менталну мапу која поједностављује сналажење у комплексним интердисциплинарним темама. У мом случају, то је простор између Витгенштајна и Маркса.

„Ми не можемо да мислимо ништа што је нелогично, јер бисмо у противном морали да мислимо нелогично”, каже Витгенштајн у Трактатусу (Tractatus Logico-Philosophicus, 3.03). „Ми” је код њега човек, људска раса, човечанство. Преведено из више међусобно повезаних карика Витгенштајновог Трактата: ако се о нечему мисли, то је стога могуће јер је клица дотичне идеје већ била положена у стање ствари, и сад се само ради о томе да јој се нађе форма.

Поједностављено, Витгенштајн поставља теорију осмозе ствари, идеја и констелација у диjахроним комбинацијама, одакле ниједна од њих, кад се већ најавила у времену, не може да се удаљи тек тако. Држи их на окупу моћ људске мисли, концентрисана енергија која не попушта док не исцрпи све могућности датог стања ствари. Сад фокус људске мисли лежи на AI, ерго, неће попустити док се кроз процес негативне селекције не дође до бића супер интелигенције и беспрекорних моралних принципа као андроид Дејта.

Између аутоматизма и рационалности

О вештачкој интелигенцији се мисли од августа 1956. кад је група око америчког логичара и инфоматичара Џона Мекартија одржала летњу радионицу на Дартмут универзитету, Њу Хемпшир, гранична држава према Канади. А по Витгенштајну, кад се о нечему мисли, немогуће га је одмислити пре него што се доведе до логичног краја.

Могла је AI тада 1956. да добије и другачије име. Било је још предлога. Један од термина је био computational rationality (CR), али у крајњем ефекту није се одомаћио појам рационалности, рационалности nouvelle, додате рационалности, већ атрибут вештачког, страног и непредвидљивог. Штета, јер би CR данас вероватно генерисала мање страха него AI, независно од тога што се ради о једном истом.

Други философ који маркира габарите дискусије о AI је Карл Маркс, трезвен по обичају, са познатом теоријом о односу између средстава производње и производних односа, данас би се рекло друштвених односа. За теоретичаре дигиталног хуманизма као науке у повоју, AI спада у средства производње. Колико год комплексне, форме и бића AI нису ништа друго него оруђа. Њихова онтологија су лопата и тестера, а не mechas као механички хуманоид Дајвид из Спилберговог филма „AI”; или HAL 9000 из Кјубрикове „Одисеје”. Оно што су некад били алати, парне машине, електрика, механика и DOS-системи који су се губили у мраку као путник у шуми Стриборовој, данас су самостално мислеће машине.

Зна се шта бива, по Марксу, кад развој средстава за производњу надмаши друштвене односе: револуција, ако друштвеним актерима фали воља за прихватањем и администрирањем мирољубиве еволуције. Сачувај боже револуција.

Јурити лутку или луткара?

Ханс Блуменберг је у есеју Метафизичка историја технике (1967) писао да треба правити разлику између духа који производи технику и производа у који се дух улива. Религиозна конотација је ненамерна. Духовни могу бити и један и други, функционални и бихевиорални такође, али само једна страна поседује интенционалност, свест и емоције.

Стога се о аутономно мислећим машинама може говорити условно, врло условно, јер оне још нигде не постоје у реалности, а и сами њихови креатори не мисле да је то уопште изведљиво. Не сада, можда никад. Има смисла у идеји да ће AI, колико год и каквим год темпом се развијала, увек остати мождана протеза, додатак и наставак људског ума другим средствима. Практично пола овог текста би требало стављати под наводнике, али ко би имао стрпљења да то чита? Зато је најбоље признати да ту, као и на било ком месту где неки човек мисли о роботу који сања о човеку, проговара навика људске расе да свему што је занима даје антропоморфне и анимистичке црте.

Машине не мисле, али ипак мисле – док људи мисле. Машине су лутке, људи су луткари, у метафори америчке теоретичарке дигиталног капитализма Шошане Зубоф. Не исплати се јурити лутке и кажњавати их за дела луткара. Наводници ту не помажу, само прихватање да постоје стања проширене рационалне свести до које се стиже без дроге и транса, само са неколико драгоцених, позајмљених дигиталних синапси. У најхуманијој варијанти, као додатак природној интелигенцији, AI напросто остаје мождана протеза људске расе. Без ње људи неће моћи да победе изазове глади, канцера, пропасти природе, или освајање свемира као решење за пренасељеност Земље.

Уопштено је могуће разврстати AI на три типа лутки: симболичке, конекционистичке (connectionism) и бихевиоралне или оваплоћене, тело постале. Све су постављене на ноге педесетих година, успеле су да преживе пресушене фондове и прве зиме неуронских мрежа шездесетих и осамдесетих. Све три данас стоје на стабилним развојним трајекторијима.

Буди човек, погреши, убиј

Симболичка AI има најмање потенцијала за застрашивање људске врсте. Она је такозвана слаба, Weak AI. Реч је о компјутерски подржаваној обради симбола по договореним правилима, махом формалне логике, о софтверским техникама за обраду језика. У том истраживачком правцу делује грана активиста, како их популарно зову. Додала бих, практичара и опортуниста којима се не ломе ноге по моралним провалијама вештачке интелигенције. Философ Данијел Денет објашњава тај истраживачки смер као развијање суперкомпјутера без покушаја да се они разумеју, управо онако како већина и користи дигиталну технику. Довољно је да ради то за шта је створена као интелигентна кућна утензилија.

Колико људи ће се расплакати над судбином процесора на хрпи смећа? А у њима може бити још довољно електричних синапси које сањају срећније дане проведене са неким вољеним човеком. Сваки пут кад бацам стари notebook, дуго се опраштам и на крају остајем са злочиначким осећајем као кад сам морала да успавам нашег бигла.

Пси, мачке и персонални компјутери већ дуго умиру на нашим рукама. Питам се, да ли при томе имају исти осећај као они људи који су мирни јер мисле да умиру у божјим рукама?

Конекционистичка AI је развијена из покушаја да се разуме како ради људски мозак на неуронском нивоу, како учи, памти и захвата у неискоришћене когнитивне резерве. У том истраживачком миљеу делује популарно, боље речено непопуларно названа грана идеолога. Њихов циљ је откривање тајни природне интелигенције и у аналогији стварање компјутерских програма који подржавају, моделирају, усмеравају, чак и репликују људски мозак. Људско – а боље. Наше – а њихово, машинско.

Појмови конекционистичке AI су ML/NN (Machine Learning/Neural Networks – симулација људског мозга кроз вештачке неуронске мреже); HLAI (Human Level Artificial Intelligence); AGI (Artificial General Intelligence); Strong/Јака AI.

Оваплоћена/бихевиорална AI настаје онда кад се један функционални HLAI или AGI стави, угради, интегрише, у аналогон тела – у робота, андроида, у клона комбинованих био-механичких карактеристика. HLAI може бити паметна кутија у углу собе и онда је конекционистичка AI; а може бити бот састављен од процесора=мозга, сензора=чула и ефектора=руке+ноге+пинцете+кљешта. Један од основних појмова оваплоћене/бихевиоралне AI је Mind uploading, који покрива све могуће варијације у трансферу људског мозга и NN матрица.

А како то не постоји, онда се са бихевиоралном граном дефинитивно долази у Холивуд. Бот је машина која мисли да је човек, као мали Дејвид из „AI”; машина која сакрива да је бот, као Еш из „Aliena”; машина која сања да постане човек, као Дејта из „Стар Трека”; машина која се бори да постане смртна, као Ендрју из „Човека од 200 година”; машина која у човеку види свог бога-оца, као репликанти из „Блејд Ранера”. Он је Ботичели бољи од Ботичелија, иако тај језички виц мало потоне у српском.

HAL из „Одисеје 2000” и VIKI из филма „Ја, робот” би били мешовити тип између конекционистичке и бихевиоралне AI. HAL је кутија, VIKI силос, дакле стационарна AI у оба случаја, али под својом командом имају низове бихевиоралних јединица. VIKI управља читавим армијама ботова, који су по себи потпуно нишчи духом, јер је оно мало неуронских синапси што им је творац дао повезано са позитронским мозгом. VIKI је Cloud NN, моћни облак неуронских синапси.

Без VIKI, њени роботи не поседују више интенционалности од тостера. Али није много боље ни малом Сонију, иако је он једини произведен без aплинка са VIKI. Сони мисли, само што га мисао не спасава, напротив. Лишен позитронског суперега, он је препуштен емоцијама људи. Како у њима углавном превладава страх од AI, онда добром послушном Сонију прети судбина гора од прегорелог тостера.

Big Data без Дејте

Све до сада речено има намеру да актуелну дискусију о AI сведе на слику. Да један огроман интердисциплинарни материјал преслика и сажме у визуелном коду. Најпре оквир у коме се AI третира, пропагира или у негативној интепретацији одбацује. Појмовни оквир је фиксиран између неумитности по Витгенштајну и рационалности по Марксу.

Унутар тог оквира, која је превлађујућа емоција у дискусијама? Има поноса, радозналости, упорности, има одлучности да се иде даље, али главна емоција је свеједно страх. Страх да би се AI могла отети свом творцу, човеку, исто онако као што се човек отео свом творцу. Човечанство никако да заборави ту властиту издају. Барем онај просветљени део модерног човечанства, а истраживање у области AI ионако води просветљени део.

Слика полако расте. Ту је оквир од неумитности до рационалности; унутар њега вијуга линија страха, али то опет не каже много. У добу дигиталне просветљености страх је река понорница, повремено нестане. Зато се добро види тамо где опстаје, где се згушњава, у ком пунктуму седи, да се послужимо тим термином из сликовне теорије Роланда Барта.

Пунктум страха од AI је mind uploading. То да би неки прави HAL или VIKI добили прогресивно унапређени аналогон људског мозга и уз то још постали мобилни као Дејта, непрепознатљиви као Еш или емотивни као Ендрју. И то да би неуронауке пронашле начина да преко AI тако стимулишу људски мозак, све док Ајнштајн, Тесла и Хокинс не склизну на доњу границу имбецила.

Super Hub и Олаф Пети

Mind uploading за сада постоји само у књижевности и филму, али и у реалном свету се вредно ради на томе. Европска унија има свој Human Brain Project. „Super Hub“ за пријатеље, који је с партнерима иницирала 2013. Циљ неуронских експеримената је постизање суперкомпјутера који ће поседовати снагу људског мозга за процесуирање информација, али на то и количину знања из две и по хиљаде година људске историје.

За сада постоји само један суперкомпјутер тог exascale типа, „Hewlett Packard“-ов „Frontier“ у Тенесију, познат под ознаком OLCF-5. За мене Олаф Пети, да ми буде лакше да замислим његов рад. Али нема шансе да се мозак Олафа Петог аплодује у неког злог Еша или доброг Дејту. Превише је кабаст и простире се у неколико соба. И даље је низ металних кутија у којима зује неуронске мреже.

Олаф Пети је невероватно паметан и истовремено глуп. Све зна, али му фале интенционалност, свест и емоције, без којих је активирање аутономних менталних капацитета немогуће. Да се та фина дистинкција схвати, помаже дијалог из представе „Док нас смрт не раздвоји” Мире Фурлан, кад бака каже унуци која пати јер је стално остављају нек груби мушкарци: „Како неко тако паметан као ти може бити тако глуп?” Може, ако је Олаф Пети.

Ни ЕУ нема превише среће са својим ML/NN пројектом. Human Brain Project, суперкомпјутер Super Hub је покренут на 10 година, значи ове јесени се гаси, ако се не пронађу средства, а за сада нема вести да јесу. ЕУ га је суфинансирала са милијардом евра. Изгледа много, али кад се упореди са скоро 100 милијарди које је ЕУ до сада дала Кијеву да води рат, онда ништа.

Прича се и да је један од разлога да би Big Data Super Hub-Bug могао да заврши као бескућник то пошто је одбио да подржи санкције ЕУ против Русије. Рекао им је, на последњем састанку Европске комисије, да има и паметнијих начина да од Руса добију то што би хтели. Издајник. Дигитална конзерва. Канта проруска.

Дигитална етика

Визуелни отисак актуелних глобалних дискусија, онако како се овде у тексту гради,  до сада згледа овако: оквир између неумитности и рационалности; унутар њега жврљотине бивших неуспеха и градуелних успеха на истраживачком пољу AI; у средини пунктум у коме светли црвена лампица mind uploading-a.

Сад у ту слику улази нова симболичка форма, облак. Морални облак. Постаје озбиљно. Прво, и буквално, већина бихевиоралне AI ионако делује по cloud принципу, преко аплинкова, из облака надређене вештачке интелигенције.

Друго, симболички, облак није тек тако изабран за потребе овог текста. Он је и иначе метафора за захтеве етике. Одавно су богови изабрали да се јављају кроз облак. Зевс је дошао Данаји као облак златне кише. Јахве је пратио Јевреје кроз пустињу као стуб олујних облака. Бог Отац је проговорио из облака кад је на Табору објавио да је Исус његов син. Религије су у својој суштини етике. Ерго, сасвим је легитимно визуелизовати моралне дилеме иконицама облака.

Над AI су се надвили облаци. Главни проблем није тај шта се све може или ће ускоро моћи, већ шта се сме. Тај део, шта се сме, регулише Artificial Morality, АМ за AI.

По Себастијану Розенгрину, професору дигиталног хуманизма и етике на берлинском CODE универзитету, тек ту почиње конфузија. АМ није исто што и етика технике. Ово друго регулише правила међу људима за исправно коришћење технике. Иако се често чује да је техника неутрална, она то није. Напротив, нормативна је. Покушајте да косилицу за траву користите у недељу у шест ујутру, па ћете видети шта суседи мисле о неутралности. Свеједно да ли AI, косилица или паметни усисивач, кад једном уђу у употребу технике делују у одложеном еху као структурни принципи.

Али АМ, то је нешто друго. То је морал за технику, сет моралних правила којих би морала да се држи сама AI. Како ће, кад нема ни индивидуалност, ни слободну вољу, кад је дебела и велика као Олаф Пети, сиромашна као Super Hub? Могу јој се прочитати њена права и обавезе на основу четири закона роботике Исака Асимова. Ендрју у једној сцени из „Човека од 200 година” јако лепо рецитује Асимова, иако пропушта онај нулти закон, који вештачкој интелигенцији итекако даје хипотетичку дозволу да убије човека, ако то спасава човечанство.

Али у реалном свету? Ко је тај ко ће вештачку интелигенцију довести до аутономног морала? Неко очигледно мора да је упути где се наручују аутономија и индивидуалност. При чему је важније одакле, него ко. Катрин Миселхорн, водећа немачка философкиња у области АМ, види ту позицију тачно на мултидисциплинарном пресеку философије, информатике, роботике и права. Политика не, она је субјективна јер пречесто дели онтологију са слабом AI.

Свеједно. Чак и аутори који су склони доласку АМ, признају да логичко стање ствари не ради у њену корист. Што је AI паметнија, што наступа самосвесније, као на пример Chat GPT, упозорава се да то само расте њена способност за симулацију аутономног моралног деловања и одлучивања. Расте њена вештина да симулира морал, ништа више. Оперативна моралност је врхунац за AI.

Један од раних оптимиста у том сектору је био британац Алан Тјуринг. Приватно не, био је јадан,  држава га је практично натерала у самоубиство. Али о могућностима AI је Тјуринг мислио са оптимизмом, још док није имала конкретно име. Такозвани Тјурингов тест из 1950. поставља хипотетичку ситуацију у којој два човека и једна AI играју карте, али тако да се не виде и не знају ко је ко. Ако двоје људи не примети да је трећи играч машина, онда је AI положила тест човечности.

Амерички философ и логичар Џон Серл (John Searl) је три деценије касније у експерименту познатом под именом „Кинеска соба” побио Тјуринга. По Серлу, Тјурингов тест само проверава фукнкционалност AI, не њену интенционалност и свест. Питање за Серла је да ли AI која преводи кинеске пиктограме разуме шта је превела. Али и Серлова „Кинеска соба” је такође само хипотетичка ситуација, јер до сада још ниједна AI, морална, аморална или неморална, није положила Тјурингов тест.

Слој по слој, AI?

Људски мозак је моћан на три начина:

1. он поседује интелигенцију, условно био-хардвер;
2. он поседује когницију, условно био-софтвер – схватање, пажња, памћење, језик, мишљење;
3. он те две ствари с лакоћом спаја у менталне капацитете, у оно што се у различитим језицима зове дух/душа/психа, кућиште у ком су похрањени интенционалност, свест и емоције.

AI се може попети до првог, штавише ту је већ много боља од људи. Може се донекле попети до другог, иако тешко може надмашити човеково креативно коришћење мишљења. Никад неће бити тако непредвидива у мисли као што може човек, у добру и злу.

У трећем AI нема шансе. У трећем леже улазна врата за религију, друштвеност, љубав, пријатељство. Вероватно ће једном бити могуће да AI, као Дејта, добије чип за емоције, но то свеједно остаје симулација душе, рекао би Серл. Није ни то најгоре, али се поставља питање – зашто створити савршену копију једне несавршене ствари?

Већ сада постоји affective computing (AC), махом код роботичке AI запослене у продаји. Али тај појам емотивних компјутера се односи на њихову способност да препознају емоције код потенцијалних купаца, не да имају своје. Или да се човеку исплачу на рамену зато што тог дана нису продали ни један ауто.

У очекивању месије

Једна од модерних филсофских школа која прихвата могућности AI као врсте хомо сапијенса је атрибутни дуализам (property dualism), чији је најзначајнији представник Дејвид Челмерс (David Chalmers). Сажето, атрибутивни дуалисти надилазе стару картезијанску поделу на тело и душу, материју и дух, већ сматрају да је све то једно, само се јавља у два квалитета истог.

Ако су материја и дух једно, онда су и интелигенција=биохардвер и когниција=биософтвер једно, из чега у аналогији произилази да су хардвер и софтвер вештачке интелигенције такође једно. У оба случаја, електронском и биолошком, хардвер и софтвер се спајају у менталним капацитетима где бивају „aufgehoben”, хегелијански сачувани у вишој форми. Тиме Челмерс отвара мала врата философске етике, барем прозор, за mind uploading. Уз ограду – то ће се једном моћи, каже он, али велико је питање да ли ће за то постојати мотивација.

Са констатацијом „то ће се једном моћи”, која као мантра одјекује са свих страна, долази се до најпроблематичније стране у будућем развоју AI. Да ли ће човек хтети све што може? Ако хоће, да ли ће смети? Ако ће смети, да ли ће га зауставити властита савест? Да ли ће друштва бити спремна да уведу тоталитарне системе како би се унапредила, или напротив зауставила даља истраживања у области AI?

Ако AI добије свест, прво ће пожелети да нађе смисао, а кад се тражи смисао, онда се увек пипа за неком вишом инстанцом која га осигурава. Кад Рој Бети из „Блејд Ранера” умире, он умире као верник – верник у живот и свог творца, човека. Да га је при томе творац оставио на цедилу и тешко разочарао, то Роја само чини људским. И ми људи смо разочарани нашим творцем.

За визуелну илустрацију тих дилема нека послужи ментална слика која корак по корак настаје у овом тексту. До сада постоји оквир, између неумитности и рационалности; постоји црвена лампица mind uploading-a као пунктум нелагоде; постоје около разбацани облачићи као симболи за етичке приговоре и зановетања.

Сад је питање, у каквој соби виси та слика? Каква нам је епоха? Какав њен социјални и ментални статус? Буди ли поверење да ће подржати опстанак живота као таквог, или се заверила да људе замени андроидима? Још страшније питање је, ако заиста снује да човека замени био-андроидима, да ли нас тиме, на средњи и дуги рок, у ствари спасава као врсту? Шта ако је то једини начин да човечанство уопште преживи наредне векове?

Ту су се профилисале три школе мишљења – сингуларисти, трансхуманисти и постхуманисти. Они су ти који заправо седе у пунктуму испод црвене лампице аларма. Они, не по тој тачки оптужнице потпуно невина AI. Као и свака техника, AI је нормативна, јер чим постоји мења друштвене структуре у свом смислу. Али нормативно још не значи и тоталитарно.

Немојте убити гласника

Сингуларност/сингуларитет је идеолошки правац информатике који стоји на позицијама детерминизма AI. Радили не радили, високо развијена, аутономно мислећа, етички освешћена AI свакако долази, свидело се то данашњим друштвима или не. Кад постоји клица у идеји, постојаће и биљка у стварности.

То је име, не лоше изабрано, за будућност у којој ће технички напредак бити тако брз, промене тако темељне и свеобухватне, да ће све досадашње представе о томе шта је човек, шта живот, бити бачене у воду. Најпознатији представник те школе о путу без повратка је футуриста Реј Курцвајл (Rаy Kurzweil), директор техничког развоја у глобалној компанији Гугл. Сингуларизам као конкретну епоху Курцвајл фиксира на 2045, дакле скоро. Само четврт века и човечанство је већ тамо.

Трансхуманисти и постхуманисти се разликују у томе колико стандардне људскости ће у добу сингуларизма човеку бити допуштено. Први сматрају да ће људи само добити upgrade – постати савршенија варијатна самих себе, тако што ће хумане способности бити проширене интеграцијом процесора, сензора и ефектора. И није тако лоше. Тиме би се човечанство вратило на почетне позиције из Старог завета, где се говори о људском веку од неколико стотина година.

Други, постхуманисти, иду корак даље, тиме што сматрају да ће у сингуларизму човек као биолошко биће бити потпуно превазиђен. Еволуција хомо сапијенса је за њих несхватљива аномалија у развоју планете Земље. Не да нема бољег човека, него по њима нема ни човека. Постоји само супер паметна AI која симулира људски софтвер, мобилни потомци Олафа Петог.

Између сингулариста, транс- и постхуманиста нема јасних разграничења. Уливају се једни у друге. Заједничко им је скоро религијско очекивање, есхатолошка вера у последње ствари, у електронског месију који ће се уздићи са неке дигиталне матрице и човечанству обрисати сузе пре него то га уведе у ново доба. Сад постаје савршено логично, ако одмах није било, зашто се истраживачки сектор конекционистичке AI назива групом идеолога.

Треба знати да је простор у коме делују синг-транс-пост истраживачи врло мали. Не само то, некад није јасно да ли само чекају неминовно, или напротив активирају аларм против неминовног. Само три института се голобално баве том тематиком:

1. The Future of Humanity Institute (FHI) на Оксфорском универзитету, где су најпознатија имена Ник Бостром и Андерс Сандберг;
2. Machine Intelligence Research Institute (MIRI), бивши Singularity Institute for Artificial Intelligence (SIAI), при Берклију, Калифорнија, најпознатије име Елезер Јудковски; и
3. Future of Life Institute (ФЛИ) у Масачусетсу, где су најпознатија имена Макс Тегмарк, Јан Талин и, наравно, Илон Маск као саветник.

Сад кад су овде споменути с именима и презименима као у потерници, треба нагласити, још једном, да они нису верници који чекају појаву месијанске AI. Сами себе они више виде као добру вилу из „Успаване лепотице” Браће Грим.

Ко је заборавио почетак, Зла вила осуди Трноружицу на смрт, што Добра вила више не може да поништи, једино да ублажи. Зато Трноружица неће умрети, само ће спавати сто година док је не пробуди пољубац AI с мозгом Илона Маска и дупетом Олафа Петог.

„Ниже биће човек”

Техницитет људског бића први су заговарали позитивисти деветнаестог века. Тад је створена слика људске механике по којој треба куцкати и стругати док се не поправи. Њихова омиљена конструкција била је „Човек није ништа више него…” Од тада је било јако много тих „човек-није-ништа-више-него…” збир синапси, скуп ћелија, аутоматон еволуције, клупко електричних импулса, цивилизована звер и слично. Из тог угла је представник немачке философске антропологије Арнолд Гелен касније извукао своју чувену дефиницију о човеку као мањкавом бићу (Mängelwesen).

Сад је Геленова негативна антрополошка дефиниција савршени шлагворт за сингуларисте: ако човек не ваља, ми ћемо да га поправимо! Теоретски, није ту све лоше. Ако неколико додатних синаптичких шалтера може да ми помогне да у месец дана течно проговорим француски, италијански и јапански, прва стајем у ред код трансхуманиста. Али истовремено сам превише свесна да је у историји свака развијена еугеника неопозиво постајала идеологија, идеологија политика, а политика је онда завршавала у тоталитарној дехуманизацији човека.

Врло је интересантно како се у дискусији о опасностима синг-транс-пост научне заједнице држе истакнути философи атеизма, Данијел Денет на пример. Управо су они ти који раскринкавају месијанске, религиозне конструкције умотане у секуларну теорију сингуларизма.

У књизи Сингуларитет – модерна легенда? Денет повлачи етичке границе у даљем развоју AI. Рецимо да AI спада у средства производње, то је у реду; рецимо да су људски афекти и емоције сировине за AI, то је у реду; рецимо да се друштвени односи морају ломити да угосте AI придошлице, и то је у реду, иде се даље. Али, додаје Денет, прави ризик је у томе ако се успут изгуби страхопоштовање пред животом. Ако се људски живот презре зато што није савршен.

Скривена комика није само у томе да сингуларисти као верници дигиталних матрица мисле религиозно. Права иронија је та да је и атеиста Денет пронашао цркву у којој ће се он молити – људски живот, сам по себи. Као Рој Бети, био-репликант-андроид осуђен на смрт без утехе и обећања спаса, Денет се религиозно клања пред оним што је остало кад се истера бог. А то је људски живот, који не сме изгубити осећај достојанства. То је сећање на хиљаде година рада, труда, грешки и успеха.

Сваки пут кад се притисне неки шалтер, то је мала револуција. Клик и би светлост. Можемо то и ми људи, Рој Бети је доказ.