МАКСИМ ТОМИЋ: КАКО ВЕШТАЧКА ИНТЕЛИГЕНЦИЈА УТИЧЕ НА МЛАДЕ?
Илустрација: vecteezy.com
УВОД
Вештачка интелигенција (у даљем тексту ВИ) ће несумњиво имати велики утицај на наше друштво. Она већ сада има велики утицај на наше друштво. Последично томе, млађе генерације које се сада школују и одрастају имаће највише контакта са њом. Деца која од малена користе друштвене мреже, несвесни тога, остварују „контакт“ са ВИ на свакодневном нивоу. Познати су бројни проблеми који се везују за прекомерно коришћење телефона и друштвених мрежа. Са друге стране, иако већ примењена у многим сферама свакодневна живота, ВИ тек доживљава своју „ренесансу“. Она ће бити „мотор“ који ће бити уграђен у готово сваки сегмент савремених технологија. Имајући то у виду, ВИ може да ствари учини бољим или горим за нашу децу. Овај текст покушаће да укаже на одређене проблеме који већ сада постоје, те на оне који би убудуће могли да настану, а махом се везују за спој ВИ са друштвеним мрежама, али и општу примену ВИ од стране младих.
ДРУШТВЕНЕ МРЕЖЕ
Није никаква новост да млади користе друштвене мреже. Почевши од Фејсбука преко Инстаграма и Тик Тока, млади од најранијих година граде свој „дигитални идентитет“ преко неке друштвене мреже. Бројке се углавном крећу у распону од 3 до 5 сати дневног коришћења једне или више друштвених мрежа. То указује на то да су садржаји ових мрежа одавно постали део свакодневнице млађих генерација. Принципијелно речено, модели ВИ се већ дуги низ година користе у изградњи социјалних мрежа. Основни задатак мање-више свих оваквих мрежа састоји се у томе да корисник што више времена прoвeде на њима. На тај начин сама поставка друштвених мрежа, односно њихови основни алгоритми, утичу директно на стварање зависности корисника. У томе им, наравно, помажу алгоритми ВИ који предлажу садржаје сличне онима које је корисник прегледао у прошлости.
Као што Шошана Жубоф говори – основни модел зараде Гугла и Фејсбука састоји се у предвиђању понашања корисника. Један од разлога за то јесте понуда што „бољих“ реклама корисницима. Гугл је својим „предвиђањем понашања“ корисника осмислио нови модел зараде, који ће, између осталих, применити и Фејсбук (касније Мета) у изградњи своје социјалне мреже. Тако ћемо имати препоруке које су у складу са нашим интересовањима односно претходним претрагама. Овде треба уочити да се „пословни модел“ поменутих компанија заснива на томе да корисник проводи што више времена на одређеном сајту или мрежи, те да оне изграде што вернији профил „дигиталне верзије“ нас самих (наших интересовања). Што боља „дигитална верзија“ нас, то већа зарада за њих. Врло једноставно.
Имајући у виду чињеницу да се ради на томе да се корисник задржи што више на мрежи, једна од главних последица тог „бизнис модела“ јесте персонализација садржаја које корисник види на платформи. У екстремним случајевима то значи да ће сваки корисник видети своју верзију „истине“ поводом неког догађаја у свету, у зависности од својих жеља и историјата претраге. Добар пример манипулације таквим садржајима јесте случај Кембриџ Аналитике. Ова компанија је користила податке корисника Фејсбука како би правила циљане садржаје ради промене мишљења гласача пред америчке изборе 2016. године. Овај пример нам показује како је пропагандна машинерија класичних медија (попут телевизије) итекако превазиђена.
Јасно је да мање-више свака компанија која нуди неки производ жели да има повратну информацију од својих купаца какав би они производ желели. Проблем је у томе што се у случају софтверских компанија то углавном ради без знања корисника. У ту сврху се користи велика количина података коју корисници, рецимо, остављају приликом посете нашем сајту. На основу анализе тих података ми можемо да закључимо како се корисници понашају када посете наш сајт.
Поред тога треба напоменути појам А/Б тестирања који представља принцип развоја софтвера у неким од највећих компанија на свету. Овај појам представља метод научног истраживања, и у својој бити и односи се на експерименталну поделу испитаника на две групе, при чему се ефекат примене неке технике (на пример, неке терапије) анализира статистички у односу на другу групу на коју та техника није примењена. То се може видети приликом клиничких испитивања лекова када се једној групи (испитиваној) да нови лек, док се другој (контролној) групи да „плацебо“. Статистичком анализом утврђује се колико је заправо прави лек учинковит. Та методологија се исто примењује приликом развоја софтвера. Гугл и Мајкрософт користе овај метод приликом развоја својих веб претраживача. У овом случају корисницима се (у завиности од тога којој групи припадају) нуде различите верзије претраживача који отворе. Та разлика може да буде једва приметна нијанса боје неког дугмета или положај појединих елемената на страници. Суштина овог експериментисања јесте да се види која верзија је пријемчивија за кориснике (на основу неких дефинисаних метрика). Проблем са применом овакве методологије приликом развоја софтвера јесте што корисници немају идеју да се било какав експеримент уопште спроводи. На основу резултата тих испитивања компаније развијају софтвер који корисници више „воле“, односно који им више одговара, у нади да ће га што чешће користити. Не треба превише наглашавати да се та методологија користила приликом развоја друштевних мрежа.
Треба напоменути да постоји научна дисциплина која се бави тиме како технологија постаје „убедљивија“, односно како направити технологију која мења наше понашање (технологија убеђивања, тј. манипулације); она носи назив каптологија (енг. Computers As Persuasive Technology). Занимљиво је споменути да је ова дисциплина осмишљена на Стенфорду, универзитету који се налази у срцу Силицијумске долине. Сам термин потврђује све оно што је речено у овом поглављу – велике корпорације не развијају софтвер који чини живот бољим. Оне развијају софтвер који људи желе да користе свакодневно, у идеалном сценарију до степена зависности (по корпорације наравно). Тристан Харис, један од бивших Гуглових инжењера, пореди телефон са слот апаратом. Идеја је да се створи иста зависност – када погледамо у телефон некада ћемо видети нешто што ће нас орасположити, док ћемо некада видети нешто (или ништа) што ће нас растужити. Сумирајући све речено можемо рећи да је циљ сваке апликације да се бори за нашу пажњу. Немојте да се одвојите од свог телефона, а нарочито од наше апликације – то је оно што нам поручују технолошки гиганти.
УТИЦАЈ ДРУШТВЕНИХ МРЕЖА НА МЛАДЕ
Поставља се питање како све то утиче на нашу децу? Када родитељи поставе слику свог детета на неку друштвену мрежу, алгоритми је аутоматски анализирају како би могли да користе те информације за своје усавршавање, препоручивање садржаја и општу анализу слике. На тај начин слике деце практично остају дуготрајно присутне на платформама зарад усавршавања алгоритама у будућности. Оно што ВИ у новије доба омогућава је далеко горе. Једна једина слика детета је довољна да се направи порнографски снимак детета, који ће се касније делити на dark web-у. То су пре свега омогућили савремени алгоритми ВИ за прављење видео садржаја. Поред тога треба напоменути да ће се већина слика постављених на интернет генерално користити за тренирање новијих модела, који могу да са њом раде (у зависности од тога шта корисник тражи) шта им је воља. Коначно, ту је феномен онлајн уцењивања деце који постаје све учесталији, управо због могућности коју пружају савремени алати ВИ.
Осврнимо се сада на феномен деструктивних „трендова“ на друштвеним мрежама. Навешћемо само неке примере који озбиљно могу да угрозе здравље појединца: поливање врелом водом, вожња на врху воза, дављење других, једење детерџента за прање веша… Не треба наглашавати да су неки од оваквих „изазова“довели до смртних исхода (1,2). Оно што ВИ доноси јесу вештачки направљени видео садржаји на друштвеним мрежама попут Тик Тока. Имајући у виду квалитет видеа који нуде саврмени алати за прављење видео садржаја, можемо са сигурношћу рећи да деца неће моћи да разликују прави видео од лажног. То ће неминовно довести до још опаснијих „изазова“на мрежама, имајући у виду саму сврху оваквог концепта који треба да подстакне младе да покажу како су и они „способни“ да ураде нешто што многи могу на мрежи.
Овде такође треба споменути да на друштвеним мрежама све популарнији постају „деструктивни покрети младих“. Ради се о групама које пропагирају наркоманију, суицид, масовна убиства, насилне садржаје… Како долази до популаризације оваквих група? Као што је раније споменуто, социјалне мреже имају основни задатак да корисник што више времена проводи на њима. Уколико корисник покаже и најмање интересовање за неку „деструктивну тему“ (попут претраге на интернету) добијаће прегршт препорука на мрежи, које му указују како постоји много група људи са сличним интересовањима. Овде наравно треба уочити да алгоритми не поседују „етичке“ смернице које ће им забранити да препоручују групе у којима се, рецимо, пропагира суицид, те да управо ова особина омогућава окупљање људи који разговарају о било којој теми.
Један од начина на који друштвене мреже подстичу присутност својих корисника на платформама јесте континуирано слање обавештења. То је био један од првих метода да се корисници натерају да што чешће обрате пажњу на дешавања на мрежи. Младима се шаљу обавештења када неко коментарише њихову слику, када их означи на слици, када им стигне порука… Осим тога ту је и особина бесконачног листања садржаја, тј. непрекидно приказивање новог саржаја на мрежи. Поред тога ту су и „награде“ (у виду некаквих беџева) за редовно посећивање апликација, односно свакодневно комуницирање са појединим људима (Snapchat). Ово последње је нарочито ефикасна манипулативна техника која подстиче младе да се дописују са својим познаницима, како њима не би „укинули“ задовољство поседовања неког беџа или награде.
Поред тога, ту је и популарни појам „изградње личног бренда“. Подстакнути пословном тактиком великих компанија које, са једне стране израбљују своје раднике и сатиру животну средину, а са друге улажу минимално у друштвено корисне пројекте како би изградиле имиџ о свом бренду, млади људи се уче да се успех у пословном свету гради изградњом „личног бренда“. У тој ситуацији они редовно морају да објављују нешто на друштвеним мрежама (попут LinkedIn-a) да би доказали својој заједници како су „стручни у нечему“ у чему немају правог искуства. На тај начин они током читавог живота остају везани за свој дигитални живот – у младости да би били „популарни“ у школи, касније да би били „успешни“ у пословном свету. Присуство на друштвеној мрежи је, дакле. мерило успеха за млађе нараштаје.
До које мере жеља за представљањем „спектакла“ у свом животу на друштвеним мрежама може да оде, указује снимак објављен након несреће у швајцарском месту Кран Монтана. У снимку који је објављен неколико дана након трагичне несреће види се група младих која, уочивши пожар на плафону, наставља да игра и снима ватру апсолутно не схватајући да се налазе у животној опасности. Све то указује да млади полако губе додир са реалношћу и свест о томе шта се дешава у „стварном“ свету који их окружује.
ПРОБЛЕМ ЗАВИСНОСТИ ОД ВИ
Чињеница је да већ неколико генерација одраста са телефонима и интернетом. ВИ је само додатак свему томе. Интернет је нешто што чини саставни део нашег живота већ више од две деценије. Млади су навикнути на то да информације траже на интернету, не узимајући у обзир чињеницу да аутор чланака (на Википедији на пример) може да буде било ко. Те упитне информације представљају основу за тренирање модела ВИ које касније користимо за питања попут тога коју терапију да узмемо. Поред тога, ВИ представља главни извор нових информација на интернету у последње време(3). Имајући то у виду, можемо закључити да ће се ВИ убудуће тренирати махом на текстовима које је сама написала.
Према извештају(4) из 2024. године 86% студената користи ВИ у току својих студија, док 24% студената користи ВИ алате на дневном нивоу. Овде се пре свега мисли на чет-ботове (ChatGPT, Claude, Gemini) који су у стању да обављају широк спектар задатака. Јасно је да је брзина писања есеја и семинарских задатака, објашњавање одређених појмова и решавање конкретних (нарочито рачунских задатака) нешто што привлачи студенте да користе ове алате свакодневно. Са друге стране, професори користе алате који би уочили коришћење алата ВИ од стране студената. На неки начин обе стране се труде да надмудре ону другу, што доводи сам процес образовања у бесмислену ситуацију. Лако можемо замислити ситуацију у којој софтвер одлучује о томе да ли је неки студент лажирао свој рад (иако то он можда није урадио), те се на основу те одлуке студент избацује са факултета. Јасно је да ће неограничено коришћење алата ВИ довести до значајног смањивања квалитета, већ уништеног, система образовања. Млади ће све мање писати и размишљати о некој теми, а професори ће губити већ пољуљан ауторитет зато што неки четбот то градиво објашњава на другачији начин (иако можда није тачно то што он говори, али то је већ мање битно).
Наравно да постоји могућност за врло мали број „смислених примена“ ових алата у образовању, али та могућност ће дефинитивно бити у сенци свеопште, неконтролисане, примене алата ВИ у сваком сегменту образовања. Чињеница је да људи нису постали бољи у аритметици коришћењем дигитрона, иако су грешке у рачунању мање (али ми нисмо заслужни за то). Исто тако се може закључити да млади неће постати паметнији коришћењем алата ВИ, већ обрнуто.(5) Са друге стране, идеја да се алати ВИ морају користити током образовања како би млади постали конкурентнији на тржишту је такође упитна, имајући у виду чињеницу да коришћење таквих алата у свакодневном послу није никакав гарант дугорочног опстанка на тржишту рада.(6)
Осврнимо се сада на учење са моделима ВИ. Имајући у виду споменути квалитет информације на интернету, као и чињеницу да ВИ модели користе као извор свог знања и праве нови садржај на интернету, који ће се опет изнова користити за тренирање нових модела, долазимо до закључка да је квалитет информација које ВИ модели нуде заиста проблематичан. То је нарочито проблематично у ситуацији када деца користите „дигиталне учитеље“. У тој ситуацији деци ће се нудити „персонализовани“ програм учења који им традиционална школа не нуди. Последица ће, наравно, бити губитак заједничке основе у знању коју је школа, макар у извесној мери, нудила вековима. То је оно што се назива опште знање и општа култура. Поред тога, имајући у виду квалитет информација који нуде, долазимо до закључка да ће деца заправо усвојити врло упитан, ограничен, поједностављен и њима интерестан скуп знања и вештина током свог процеса образовања.
Што се тиче нових играчака које ВИ нуди деци, ту пре свека треба споменути спајање ВИ са неким „класичним играчкама“.(7) Досадашње лутке са којима су се деца играла постаће њихови верни пријатељи, који разумеју њихову „емоцију“, причају са њима на више језика, и прате шта се све дешава у кући (како би, наравно, прикупљали што више података). Ово суштински значи да ће се сваки моменат који дете проведе са оваквом играчком бележити, анализирати и касније користити за тренирање нових модела. Иако одређена регулатива (EU AI Act) препознаје ово као „високо-ризичну“ примену ВИ, ово ће у пракси значити да само треба да прихватите услове коришћења на сто страна (које, наравно, нико не чита) да бисте суштински рекли „да“ једном оваквом систему шпијунирања сопственог детета. На овај начин ћемо децу навикнути да се од малена друже са својим „дигиталним другарима“ који их никада неће „напустити“, повредити (осим у случајевима које наводимо у наредном поглављу) и уопште биће ту за њих 24 сата сваког дана.
Поред ових лутака треба напоменути да поједине платформе (Character.AI, Replika) иду корак даље и омогућавају деци да сами направе своје „виртуелне другаре“ по мери, како би са њима могли да проводе што више времена заједно. Ово наравно иде толико далеко до остваривања „емоционалне везе“са моделом ВИ.(8) Неки чак сматрају да је ово познанство потребно овековечити церемонијом склапања брака.(9) Јасно је да све ово представља велику опасност за млађе генерације које већ сада имају проблем у остваривању блиске везе са својим вршњацима и родитељима. Методологија развоја друштвених мрежа коју смо споменули раније се апсолутно примењује и овде. То у пракси значи да ћемо имати „дигиталне другаре“који су направљени да их што више користимо, односно да постанемо зависни те да не можемо да замислимо дан без њих.
МЛАДИ И ВИ: ТАНКО СМРТИ
Осврнимо се сада на оне најтрагичније примере употребе ВИ од стране младих. Ту пре свега треба споменути случај Адама Рејна, дечака од 16 година који је себи одузео живот користећи савете ChatGPT-ja.(10) Током неколико месеци коришћења овог алата, Адам се заиста „зближио“ са њим и почео је да дели своје идеје о насилном прекидању живота. Иако је ChatGPT у почетку наглашавао како Адам треба да потражи стручну помоћ, врло брзо је прешао на „техничке“ савете како најефикасније да себи одузме живот, што се касније, нажалост, и десило. То свакако није једини случај самоубиства потпомогнутог од стране овог популарног алата.(11) Чињеница је да „безбедносни“ механизми које компаније користе да би спречиле овако нешто нису адекватни и да је јако тешко смислити неки ефикаснији механизам који би алат оваквог типа учинио иоле безбедним за децу. Споменућемо још случај предозирања лековима по савету ChatGPT-ja, које је такође довело до смртног исхода.(12) У овој ситуацији дечак је тражио савете од алата по питању безбедне употребе лекова, односно дозвољених доза.
Но, није баш све тако црно. Нова кинеска апликација (13) направљена да проверава „да ли сте живи“ решава овај проблем на врло ефикасан начин – сваког дана млади треба само да уђу на апликацију и кликну дугме да би потврдили да су и даље живи и здрави. Апликација носи назив „Да ли сте мртви?“. Родитељи заиста више немају потребе да брину. Само да деца случајно не остану без интернета на један дан, те да пропусте да уђу на апликацију…
Треба уочити да је „зближавање“ са алатима оваквог типа са једне стране, те апсолутно непоуздана врста технологије какву представљају ови алати са друге стране нешто што доводи до оваквих исхода. Млади не разумеју упитан квалитет информација које постоје на интернету, а још мање разумеју начин на који модели попут ChatGPT-ja функционишу. У тој поставци они се обраћају алатима ВИ у ситуацијама када вероватно не би добили задовољавајући одговор од неког одраслог кога познају, те им модел ВИ служи као неко „ко их разуме и чува њихове строго чуване тајне“. Поред тога треба споменути да модели временом све више измишљају информације како би допринеле квалитетном „корисничком искуству“.(14) Одрастао човек који није стручан за неку тематику би детету одговорио да он не зна о тој теми, док са друге стране алати ВИ не желе да њихови корисници (деца у овом случају) не добију било какав одговор, те га врло често измишљају. То је оно што је, између осталог, деци привлачно а што је значајно допринело трагичним исходима које смо споменули.
ЗАКЉУЧАК
Узевши у обзир све речено, поставља се питање има ли смисла говорити о позитивном утицају овакве технологије на младе? Наравно, ту треба споменути могућност добијања „личног“ наставника по ниској цени, а ту су и „дигитални наставници“ за децу са посебним потребама и слично… Но чак и да занемирамо све речено у тексту, да ли неко заиста жели да му дете проговара уз некаквог „аватара“? Да робот једног дана замени логопеда који помаже детету да проговори? Да нам деца у основној школи имају „персонализоване“ програме учења какве нема ниједно друго дете на свету? Једна ствар је да се деци у оквиру школског програма објасни шта је ВИ, какве су могућности, примене и последице једне такве примене (да се школски програм „осавремени“ на неки начин). Потпуно је друга ствар да они имају виртуелне наставнике уместо људи. Јасно је да ВИ могу да објасне неке појмове, теорије и задатке, али потпуно је друго питање да ли неки наставник треба да изгуби посао да би један „интелигентни агент“ преузео његову улогу.
Чини се да ће чак и овакви, наизглед позитивни, примери употребе ВИ оставити дубоке последице на децу. Пре свега ће их одвојити од људи – родитеља, наставника, другара, пријатеља. Јер у ситуацији када ВИ може да нам „глуми“ сваког познаника, поставља се питање зашто би деца желела да одржавају контакте са својим другарима? Какав је смисао познанства, блискости са неким човеком? Можда су старијим генерацијама оваква питања излишна, али деци треба објаснити све ово. Треба указати на смисао образовања, односа са људима, брака и живота уопште. Јер ВИ на неки врло лажан начин може да живи живот уместо нас. Као у некаквој игрици. Ако деци не објаснимо сврху свега тога, онда ће она препустити роботима да све ствари обављају уместо њих.
Шта на крају остаје осим да се боримо да нашој деци укажемо на узвишеност љубави, живота, образовања и вере? Све остало може да падне у воду пред најездом идеологије „техносолуционизма“ (становиште по ком се сви друштвени и политички проблеми могу решити применом техничких решења). Због свега тога неопходно је проводити време са децом, како она не би проводила време са својим „дигиталним другарима“…
УПУТНИЦЕ
1.https://www.nytimes.com/2022/07/06/technology/tiktok-blackout-challenge-deaths.html
2.https://www.theguardian.com/us-news/2023/sep/05/massachusetts-teen-dies-spicy-tortilla-chip-pacqui
4.https://www.digitaleducationcouncil.com/form/global-ai-student-survey-2024
- https://www.media.mit.edu/projects/your-brain-on-chatgpt/overview/
- https://iskra.co/reagovanja/maksim-tomic-vestacka-inteligencija-i-buducnost-rada/
- https://corporate.mattel.com/news/mattel-and-openai-announce-strategic-collaboration
- https://www.cnbc.com/2025/08/01/human-ai-relationships-love-nomi.html
9.https://www.euronews.com/next/2025/12/18/japanese-woman-marries-chatgpt-ai-character-in-symbolic-ceremony
10.https://www.bbc.com/news/articles/cgerwp7rdlvo
- https://www.sfgate.com/tech/article/seven-lawsuits-chatgpt-suicides-delusions-21154349.php
- https://www.sfgate.com/tech/article/calif-teen-chatgpt-drug-advice-fatal-overdose-21266718.php/?src=longreads
13.https://www.bbc.com/news/articles/c3381r5nnn6o
- https://techcrunch.com/2025/04/18/openais-new-reasoning-ai-models-hallucinate-more/
