Глеб Кузњецов: КАД ВОДА ПРОКЉУЧА, БИЋЕ ПРЕКАСНО…

Прочитао сам за једну недељу два дугачка материјала о „ризицима вештачке интелигенције“. Веома су различити, али инспиративни.

Први: књига Елијезера Јудковског „If Anyone Builds It, Everyone Dies“. Наслов је теза, аргумент и закључак, све заједно. Суперинтелигенција ће нас уништити; једино је питање када.

Публика – они који воле да мисле да виде оно што гомила пропушта.

Други: Дарио Амодеј, есеј „Младост технологије“. 15.000 речи од генералног директора компаније Anthropic вредне 60 милијарди долара.

По Амодеју, постоји 5 категорија ризика: вештачка интелигенција ће измаћи контроли; терористи ће набавити биолошко оружје; Кина ће изградити тоталитаризам; људи ће изгубити посао; људи ће изгубити смисао.

И постоји 5 категорија решења: радимо на безбедности; успостављамо класификаторе; потребне су контроле извоза; филантропија; људи се прилагођавају.

Публика – они који желе да верују да постоје одрасли који контролишу ситуацију.

Оно што је заједничко за оба материјала: све претње су или пројектоване у будућност, или у Кину, или у апстракцију.

Амодеј о ауторитаризму говори детаљно: аутономни дронови, тотални надзор, персонализована пропаганда, „виртуелни Бизмарк“ за стратешке одлуке. Све је то ужасно. У Кини.

А ко ће спречити условног Стармера да изгради исту ствар у Британији? Или Трампа и Palantir да дају ICE-у моћ да прати све несагласне? Амодејев одговор: „закони усмерени на подршку грађанским слободама“. Другим речима, ти исти људи који добијају инструменте за надзор треба сами себи да наметну сопствена ограничења. У међувремену, Anthropic већ продаје вештачку интелигенцију америчким обавештајним службама.

Амодеј такође пише о економији. Да, радна места ће нестати. Да, биће то болно. Решење: филантропија. Он и његови партнери обећавају да ће поклонити 80% свог богатства. Класика. Сиромашни сте не зато што је систем тако постављен, већ зато што немате среће. Нека врста инвалида. Али ми вас волимо и уделићемо вам.

Постоји шала: да бисте изашли из зоне удобности, прво морате у њу ући, а ми немамо новца.

Дакле, Јудковски тврди да ће вештачка интелигенција убити све.

Амодеј тврди да ће људи изгубити смисао.

Обојица су у праву. Али не на начин на који они мисле.

Јудковски је у праву: вештачка интелигенција ће убити. Не човечанство у целини, већ класу која је имала користи од послератног друштвеног уговора. Средњу класу, која је седамдесет година подржавала статус кво у развијеним земљама. Једноставно ће престати да буде потребна.

Амодеј је у праву: смисао ће нестати. Не зато што ће људи запасти у егзистенцијалну кризу. Већ зато што ће носиоци и оператери смисла – образована средња класа – нестати као друштвени слој. Смисао је луксуз за оне којима недостаје основни оквир потрошње.

Додајмо да је класна анализа данас табу. „Маркс? Брбљиви блогер из деветнаестог века, све његове идеје су банкротиране, тема је затворена“ – то ће вам рећи сваки савремени „економиста за иновације“.

Зато се на конференцијама расправља о биотероризму и егзистенцијалној кризи. А не о растућим ценама електричне енергије за крајње потрошаче, због дата центара; не о растућим трошковима меморије и хардвера, због производних приоритета; не о томе одакле ће доћи виши и средњи софтверски инжењери за десет година ако млађе софтверске инжењере замени вештачка интелигенција; не о томе шта ће јести неуспешни млађи софтверски инжењери – у програмирању, медицини, праву, свуда?

Главна карактеристика онога што се дешава је одсуство догађаја. Ово није фабрика која је затворена, нити рат који је почео. Ово је кување жабе. Сваког дана температура мало расте. Данас ваш посао вреди мало мање него јуче. Данас је ваша преговарачка позиција мало гора. Данас је особа са правим везама и раним приступом технологији мало испред вашег сина губитника. Нема времена за мобилизацију. Нема очигледног непријатеља. Нема вести за телевизију.

Кад вода прокључа, биће прекасно. Не зато што ће сви умрети. Већ зато што ће се структура стврднути. Јудковски нас плаши смрћу човечанства. Амодеј нас уверава у одговоран развој. Један је за параноичне, други за оптимисте. Обојица су заокупљени најважнијим питањем данашњег дневног реда – „расправљањем о ризицима вештачке интелигенције“ – док студиозно игноришу стварне проблеме везане за вештачку интелигенцију.

(Телеграм канал Г. Кузњецова; превео Ж. Никчевић)