Слободан Рељић: Халуцинација вештачкe интелигенције и човек без мозга
Getty © stock photo
„Природна глупост је далеко боља од вештачке интелигенције“, говорио је знани и читани енглески писац Тери Прачет (1948-2015). Тери је познат и по томе што је умео да се шали, али ово је ваљало схватати, пре свега, као добронамерно упозорење. Људско.
ЗАМКА ХАЛУЦИНАЦИЈЕ: Да је Питер Вандермерш, истакнути новинар у медијској кући „Медијахуис“ (Mediahuis) држао до оваквих мисли – не би му се десило да послодавци уоче да је „упао у замку халуцинације“ (термин који се користи за грешке генерисане вештачком интелигенцијом).
„Медијахуис“ (основана 2014) је водећа европска медијска група у Белгији. Држи медије у Белгији, Холандији, Луксембургу, Немачкој, Ирској и Северној Ирској. Ту су познати новински брендови (De Telegraaf, De Standaard), па дигиталне платформе, радио и телевизије. Вандермерш је доскора био је први човек Irish Independent.
Суспендован је због AI (Artificial intelligence) која се толико безобално хвали последњих неколико година. Медији се утркују – да објаве како им је то и то урадила ВИ (вештачка интелигенција). И то је прогрес у новинарству.
Шта се то десило „искусном новинару“? Он је пишући важне текстове „користио алате вештачке интелигенције као што су ChatGPT,Perplexity и Гуглов NotebookLM, а није проверавао да ли су цитати из тих резимеа тачни.“
Уловио га је НЦР, једна од издавачких кућа из „Медијахуис“а, у којој је – виђу врага су седам бињишах – 2010-их година он био главни уредник. (Не искључујте накнаду освету и људску злобу.) НЦР је јавио да је Вандермерш „објавио ‘десетине’ цитата који су били лажни и да је седам појединаца цитираних у његовим објавама рекло да нису изнели изјаве које им се приписују“. („Гардијан„)
ТЕРОР ПОКАЈАЊА: А овако је он у рубрици (да то тако назовемо) „Штампа и демократија“ јасно „признавао своју грешку“ (19. март 2026): „Нисам био довољно пажљив. Члан редакције НЦР – новина које сам водио девет година – приметио је да не може да потврди одређене цитате које сам користио. Скренуо ми је пажњу на њих пре него што је објавио чланак о њима… Да је неко други ово урадио, вероватно бих и ја писао о овоме.“
Кајање човека коме је дисциплина у ВИ-систему била испред људског разумевања грешке, морало је бити јасно и неупитно: „Чак сам и ја — са свим годинама искуства и знања — упао у замку халуцинација. Сумирао сам извештаје користећи алате вештачке интелигенције и радио на основу тих резимеа, верујући да су тачни. Тиме сам погрешно стављао речи у уста људи, кад је требало да их представим као парафразе. У неким случајевима, то је одражавало моје тумачење њихових речи. То није била само непажња — било је погрешно.“
Поучна је порука за будуће грешнике: „Посебно је болно што сам направио управо грешку на коју сам више пута упозоравао колеге: ови језички модели су толико добри да производе неодољиве цитате које сте као аутор у искушењу да користите.“
Да, ВИ се по природи њене тривијалне суштине, коју је створио човек који се – не руководи истинитошћу, него неодољивошћу. Оном површном. Кликабилношћу. Тј. неупитним подметањем. Чак и кад њена дојава није грешка, она је створена само да попуњава празнине. Празне редове, недовршене поруке. Мора бити јасно: „Вештачка интелигенција може да генерише уверљиве, али нетачне информације, јер сама по себи не проверава изворе.“
За њу је клик важнији од тачности. Испуњавање комерцијалних захтева надилази и идеју о објективности. ВИ не зна шта је одговорност. Одговорност за јавну реч. Она не може да се осрамоти. Кад је једном уклоне због смањене употребљивости она неће осетити потребу да пише „Признајем своју грешку“. Њене грешке ће морати преузети неки људи. Јер, како на крају јавног покајања рече Питер Вандермерш: „Новинарство је људски посао.“ Ипак!
НЕМОРАЛ ПОСЛОДАВЦА: Добри и сатрвени Вандермерш остаје „уверен да вештачка интелигенција може бити моћно средство – она које може помоћи новинарству да постане боље, да дубље копа и буде прецизније“, али она је – само средство. Креатор је човек. И одговоран другом човеку је – само човек. И лакше нам је замислити да мачка буде животворно одговорна другој мачки, него да машина буде одговорна машини или човеку. Добром или лошем свеједно. Она нема душу. Нехуманост је њено најважније стање.
Послодавац к’о послодавац. Користи досадније фразе од ВИ, али његов однос је рационално суров. Још суровији него што је то било без вештачког муља.
Рече извршни директор Герт Изеберт: „У ‘Медијахуису’ примењујемо строга правила за коришћење вештачке интелигенције, где су марљивост, људски надзор и транспарентност неопходни.“ У, бог те, као да говори с олтара. Али без морала и кајања. Не може он бити одговоран кад уводе ВИ и рачуна на велике уштеде, а онда и бонусе од газда или акционарских друштава. Дерање коже с леђа потчињених у процесу стварања профита је његов посао. Док ствари иду добро ништа се неће мењати, али кад одушевљење за ВИ запрети да угрози профит непринципијелни створ одмах се сети „принципа који се нису поштовали“.
И оптуже новинаре који су подлегли тој атмосфери (јер само они могу подлећи атмосфери а да за то буду конкретно одговорни) – а да су радили супротно „стандардима које подржавамо и нашој посвећености читаоцима да се залажемо за поуздано новинарство.“
Не реците:“Бљак!“, јер то је улога тих људи. Директорисање. Мало страховања а много презирања тих најамника који живе од своје вештине и талента да масама преносе поруке а којима се неће угрожавати владајућа класа.
Откад је новинара и новинарства тако је. У свим системима и свим идеолошким оквирима. Увек их је послао послодавац – некад привтани власник, некад држава. Принцип је исти, све остало су нијансе, рече Ђорђе Балађешевић у неко срећније време.
СТАНДАРДИ „ЊУЈОРК ТАЈМСА“: Слична несрећа је погодила и слободног новинара Алекса Престона кога је ВИ завела при писању књижевне критике о роману Жан-Баптист Андреа „Watching Over Her“ за „Њујорк тајмс“. Критичар који је годинама писао иза „Обсервер“, „Фајненшл тајмс“, „Економист“, „Гардијан“ нашао се у незгодној ситуацији кад је неки докони читалац јавио њујоршкој редакцији да је сличан опис те књиге видео у „Гардијану“. Објављен пре него у Тајмсу.
Читалац је нашао да је лик „лењи макијавелистички Стефано“ („Гардијан“) у „Тајмсу„ описан – „лењи, макијавелистички Стефано“. Завршна оцена романа у приказу „Гардијана„: да је књига „пре свега љубавна песма земљи контрадикција, измученој, ратом разореној, подељеној, погрешно вођеној и чудесној: Италији у којој је живот костим и извођење уметности, и где циркуси ничу на пустоши„. А у Тајмсу ликови „насељавају оно што је на крају љубавна песма земљи контрадикција: измученој, подељеној, погрешно вођеној и чудесној. Ово је Италија у којој је живот перформанс, где циркуси ничу на пустоши“. Баста!
Сам бог зна шта се све деценијама објављује на хиљадама страна (плус електронска додавања) „Њујорк тајмса“, али Престон је одмах шутнут, јер ово „представља јасно кршење стандарда Тајмса“.
И уследила је опет цинична форма кајања за „упадање у замку халуцинације“. Халуцинација на халуцинацију. „Изузетно ме је срамота“, „искрено ми је жао“, „направио сам озбиљну грешку… јер нисам препознао нити уклонио преклапајући језик из другог приказа који је ВИ убацила“, цвилео је Престон.
Где би данас било новинарство да су овакве ствари грешке за најтежу јавну осуду! Али ово поштапање у очувању „стандарда“ са ВИ је бедан медикамент.Јасно је да су у добу овом потребне много, много радикалније операције. Али не ради се овде о томе.
АНТИХУМАНИ ПРОЈЕКАТ: Они који стоје иза ВИ верују да ће од њих зависити опстанак друштва. Богови за мало. Недавно је „Њујоркер“ открио комуникацију, из 2015, између Илона Маска и Сема Алтмана, извршног директора компаније OpenAI и јавног лица ChatGPT .
„Морамо бити изузетно опрезни са вештачком интелигенцијом“, твитовао је Маск.“Потенцијално је опаснија од нуклеарног оружја.“
Алтман је тај рад упоредио с Пројектом Менхетан. „За разлику од оригиналног Пројекта Менхетн, владине иницијативе која је довела до стварања атомске бомбе, OpenAI би био приватно финансиран.“
Некако од тих времена ВИ постаје мода која опстаје тако високо (надмашила је и „зелену агенду“) на притисак инвеститора из Силицијумске долине. Кад они крену на увећавање својих профита – свима опада коса. Јавља ових дана Берни Сандерс: „Никада у историји Америке није тако мали број људи поседовао тако много богатства и моћи. Један проценат на врху данас поседује више богатства од 93% Американаца на доњем делу дистрибутивне лествице. Богатство само једног човека, Илона Маска, износи 805 милијарди долара, што је више од вредности имовине којом располаже 53% америчких домаћинстава на доњем делу лествице.“
Застрашујуће! И тако јасно показује да друштво које воде ствараоци ВИ не води никуд. Ни Правде, ни Једнакости, ни Слободе, ни Части, ни људске Мудрости.
Новинарска исклизнућа која смо описали, можда, наводе на суочавање с реалношћу. Људи су људи кад мисле и истрајавају на путу ка људској мудрости. Уз сва скретања и лутања. То превазилази ВИ. Јер она је само средство.
Извесни Иг Берсини, професор и директор лабораторије за вештачку интелигенцију на једном белгијском универзитету објашњава да „АИ може ‘склопити’ нову формулацију спајањем речи и делова познатих изјава, тако да резултат делује смислено и вероватно, али то не значи да је тачан или историјски потврђен.“ Кад то раде људи то је – Лаж. Кад то ради ВИ то је – опет људска лаж.
До окупације коју доноси ВИ, с тим се Човек сусретао и људски стрепио: „Сваког дана још по неколико лажи нагриза клицу с којом смо рођени, мале лажи штампане у новинама, таласи шокова с телевизије и сентименталне лажи с филмског платна“, писао је Норман Мајлер.
Али, ми смо сад у суморној стварности у којој се о људским порукама расправља као о техничком склапању речи, а не о креативном људском хватању смисла и борби с лажима. То је ово време.
Спустити медије до нивоа техничког халуцинирања одузима им основни смисао постојања. Они су израз потребе чињења јавном – слободу човековог мишљења. Трагање за истином. „Све ће проћи, само ће истина остати.“ (Достојевски) Али, трагање је слепо без слобода говора. У њој се остварује велики део људског бића а друштва чине подношљивијим.
„Без слободе говора не можеш уверити друге у оно што је исправно или кад раде нешто лоше. Без те слободе, насиље остаје као једино средство уверавања“, говорио је Џон Лок (1632-1704).
Три и по века касније с тим чињеницама стојимо пред инвеститорима у пројекте ВИ. Они не знају да слушају.
