Максим Томић: Принципи развоја безбедније вештачке интелигенције
Последњих дана у жижу интересовања су доспеле изјаве појединих стручњака у развоју вештачке интелигенције (надаље ВИ) о томе како нам будућност у “заједници” са ВИ није баш светла[i]. Да будемо искрени, то свакако нису прва таква упозорења из миљеа великих корпорација. Понекад су она долазила од стране самих власника компанија, како би утицала на само тржиште. У сваком случају проблем безбедности и поузданости ВИ је тема која итекако јесте актуелна јер се о томе мало говори, а још мање се нешто конкретно дешава на том пољу.
Проблем великих модела
Постоји неколико проблема који се тичу примене и развоја великих језичких модела, односно модела опште намене. То су, пре свега:
- Немогућност контроле одговора
- Потреба за проширивањем инфраструктурних капацитета
- Потреба за новим изворима података
Прва ставка је проблематична из простог разлога што општи модел, по својој дефиницији, има „некакво знање” о готово свим проблемима свакодневице. Прецизније речено, његов задатак састоји се у томе да он одговори на свако питање које му се постави. То имплицира да ови модели одговарају на питања из области: медицине, права, безбедности, исхране, религије… Имајући у виду да је ВИ сама по себи технологија која се описује као неегзактна, тј. вероватносна по својој природи (нећете добити идентичан одговор на исто питање), те такође чињеницу да говоримо о моделима опште намене којима је основна сврха да буду „услужни” својим корисницима (макар они пожелели да се убију), јасно је да ће било какви безбедносни механизми бити лако поништени (ако такви постоје уопште). Ово можда не би био случај да главни задатак модела ВИ није да испуњавају захтеве својих корисника – ради што већег профита, наравно. Све што су велике корпорације до сада примењивале као „заштитне механизме” показало се у пракси потпуно неефикасно.
Друга ставка је сама по себи очигледна, имајући у виду да борба око изградње рачунских центара широм САД не јењава[ii]. С обзиром на то да говоримо о великим језичким моделима јасно је да константно постоји потреба за проширивањем инфраструктурних капацитета компаније која је направила одређени модел (изградња нових рачунских центара). Ово са собом носи разне последице, о којима је махом раније писано[iii]. Споменимо само да се ту првенствено ради о сатирању животне средине, односно простора у коме живи локално становништво, које неретко постаје неприкладно за даљи живот. Без ширења инфраструктурних капацитета нема нових модела великих корпорација.
Последња ставка је нарочито проблематична. Имајући у виду да већи модели захтевају већу количину података над којом ће се тренирати, то доноси неколико последица по друштво. Прво и основно јесте да ће компаније на сваки могући начин тражити нове изворе података. Треба се осврнути на саму чињеницу да модели ВИ и сами обрађују комуникацију која се одвија са њима. То се, опет, ради у сврху тренирања нових верзија модела, односно усавршавања постојећих. Навешћемо један пример који илуструје потрагу за новим изворима података. Пре неколико месеци Viber је потписао сарадњу са компанијом OpenAI[iv]. То омогућава популарним моделима ВИ (попут ChatGPT) да вам „помогну“ да саставите одређену поруку, пошто ви више нисте у стању да сами то урадите. Имајући у виду потребу за новим изворима података, те одређени историјат кршења регулативе (који ћемо касније споменути) можемо бити сигурни да се сва комуникација доставља моделима ВИ ради њиховог обучавања. Јасно је да овде видимо на делу све озбиљније кршење регулатива које се тичу заштите података појединаца. Додатно, треба указати на још један значајан проблем који постоји у индустрији „обележавања података”. Наиме, да би се тренирали велики модели потребна је велика количина података којима је дат одређени контекст од стране људи. На пример, слику мачке треба означити речју „мачка”. Једноставно зар не? Све док се не појави слика насилне смрти или некаквих експлицитних садржаја које такође треба описати, до детаља. То се све ради како би модели ВИ имали „појма” о чему се ту заправо ради. Пошто они на почетку свог тренирања немају никакве информације о свету, процес „усвајања знања” мора да их обучи да разумеју доста тога (с обзиром на то да су модели опште намене). То ствара индустрију која је једна од најпреспективнијих имајући у виду развој ВИ. Ради се о људима чији је задатак да искључиво описују, тј. обележавају садржај који ће се користити за тренирање модела ВИ. Ти људи, који долазе махом из слабо развијених земаља, проводе сате и сате описујући често непријатан садржај. Како модели све више расту, потребно је све више података за њихово обучавање. Можемо бити сигурни да ниједан кутак интернета није нетакнут тим процесом (укључујући „dark web”). Дуготрајно излагање оваквом садржају доводи до значајних психичких последица код људи који се тиме баве. Поред тога овде се свакако ради о слабо плаћеном, сезонском раду без сталног запослења. Ово је, вероватно, индустрија коју нам обећавају техно магови када говоре о томе да ће ВИ створити нова радна места.
Овде се свакако треба осврнути на питање регулативе у овој области. Ова тема је нешто што заокупља јавност у последње време. Евидентно је да ЕУ предњачи у својој регулативи, која наравно, није идеална. Међутим, треба се осврнути на то шта се дешава првенствено у САД. Насупрот ЕУ која тежи ка некаквој регулативи ВИ, у САД је присутна тенденција дерегулације[v]. Такав се приступ добрим делом оправдава „кинеском претњом“ по логици да САД никако не смеју да успоре развој ВИ јер ће их Кина врло брзо престићи, те зауставити њихову неприкосновену и неупитну доминацију. Но, оставимо по страни тенденциозне изјаве званичника. Да бисмо разумели како ће се ВИ развијати треба одговорити на питање ко њу развија. У случају запада, односно САД, то је крупни капитал финансијске елите[vi]. С тим у вези јасно је да је прича о регулацији само шарена лажа која се потура јавности. На крају крајева, сетимо се само афере Сноуден и њеног епилога. Једини човек који је био одговаран пред законом за највећу могућу шпијунску аферу у скорије време јесте – Едвард Сноуден. Поред тога, треба се осврнути на чињеницу да су безбедносне служе САД кршиле већ поприлично либералне законе настале услед примене Patriot Act-a (тј. напада 11. септембра). Само та афера нам указује да ће, каква год регулатива буде постојала, она бити кршена зарад националних интереса (интереса Мегалополиса).
Три принципа за безбеднију ВИ
У наставку наводимо три принципа развоја безбедније ВИ, који би у значајној мери могли да реше претходно описане проблеме са којима се сусрећемо. Свакако треба нагласити да ово нису једини начини решавања поменутих проблема, али да представљају значајна побољшања у односу на постојећи метод развоја ВИ. То су:
- Развој домен-специфичних решења
- Ограничавање примене ВИ у одређеним доменима
- Забрана модела опште намене
Овде треба уочити да су принципи поређани по захтевности њихове примене, почев од најједноставнијег. Тим редом ћемо их анализирати. Први принцип нам говори да би се требало фокусирати на развој домен-специфичних решења за конкретне проблеме који постоје у индустрији (било које врсте). Примера ради, ту бисмо говорили о развоју посебног решења које би лекарима омогућавало да доносе боље одлуке у раду. Узмимо на пример радиологе који анализирају снимке магнетне резонанце (МР). За ту сврху би се развило решење које искључиво анализира снимке МР, те даје лекарима извештај на основу снимка. Овде је битно нагласити да не би постојао другачији вид комуникације са моделом ВИ, сем путем снимка МР. Дакле, модел ВИ не би прихватао никакав текст у писаној форми, не би био обучен на основу огромне количине података са интернета, већ искључиво на одређеном скупу снимака МР који су сачинили стручњаци у тој области. На тај начин избегавамо потребу за новим (или макар великим) изворима података, односно ограничавамо опсег делатности модела ВИ. Јасно је да лекару неће бити омогућено да са моделом ВИ разговара о свакодневним темама, терапији коју треба применити за другог пацијента или чему год другом. Оваква решења у одређеном смислу и постоје, али она свакако нису доминантан приступ који се преузима на западу (првенствено од стране великих технолошких компанија). Кина, са друге стране, користи овакав приступ у развоју ВИ решавајући тако конкретне проблеме у индустрији[vii].
Други принцип већ захтева значајнију регулативу, односно политичку вољу да би се спровео. На овом месту пре свега говоримо о забрани или врло контролисаној примени ВИ у областима попут образовања и војске. Узмимо за пример образовање. Не треба превише трошити речи на проблеме које постоје у образовном систему наше земље. Поставља се питање какав ће утицај примена једне овакве технологије произвести? Свакако да овде говоримо о све већем смањењу когнитивних функција код деце, која се и овако боре да протумаче дати им текст. С тим у вези приликом примене ВИ у овој сфери треба бити нарочито обазрив и критичан, те разумети да ли би примена ВИ уопште донела некакве користи (сем, наравно, смањења трошкова о којем сања западна хемисфера). Овде се не говори о томе да децу не треба учити шта је ВИ и како она функционише. Реч је о томе да треба бити врло опрезан приликом укључивања ВИ у сам образовни процес. Или можда не применити ВИ уопште у образовном процесу. Слична ситуација је и са применом ВИ у војсци, која такође може имати нарочито велике последице (што је свакако идеал оних који развијају ВИ). Селективна примена ВИ у зависности од тога да ли има смисла применити је. О томе се овде говори.
Трећи принцип је практично прст у око крупном капиталу. Пре свега се треба осврнути на чињеницу да велике корпорације на западу (без икаквог изузетка) усмеравају развој ВИ тако да би максимално увећали своју моћ и профит[viii]. У претходном поглављу је било доста речи о томе зашто су велики модели опште намене проблематични. Једино ефикасно решење које би уклонило све те ризике било би оно које би забранило њихово коришћење, односно развој. Као што смо нагласили, ово је пре свега велики ударац на западне компаније, које засигурно неће седити скрштених руку. Други проблем јесте то што већ постоји велики број модела опште намене који су јавно доступни (енг. open source). Јасно је да је ово најзахтевнији принцип од наведених, који би такође захтевао значајну правну и политичку подршку. Но, чак и да не успемо да у потпуности поништимо присуство модела опште намене, њихово смањивање у значајној мери може допринети безбеднијој ВИ.
Коначно, треба рећи да наведени принципи ни у ком случају нису лаки за примену, макар у потпуности. То што су они “радикални” указује на слабост постојећих механизама за контролу ВИ. Са друге стране, може се покренути питање колико је реално да ВИ буде иоле контролисана и безбедна? Време ће показати колико су пре свега државе спремне да се посвете том проблему, који ће кад-тад узети озбиљнијег маха. Остаје нам да се надамо да ће бити макар мало озбиљности у политичким круговима, с обзиром на то да се ради о технологији која већ сада има озбиљне негативне последице по друштво. Да завршимо са још конкретнијим смерницама: “Остаје нам само „песимистички конзервативизам“, који је дефинисао Борислав Пекић као одговор на питање шта је боље за нас – левица, десница или центар. Ево златних речи:“Кад пут води у амбис, свеједно је идете ли њиме средином, левом или десном страном. Једино практично питање је брзина. Не морамо баш трчати.“”[ix] Узевши у обзир речено, најбоље решење за безбеднију примену ВИ би био мало рационалнији, демистификованији, однос према овој технологији. Ако је већ нужно да је примењујемо, не морамо, макар, бити пионири у томе. Сачекајмо мало да бисмо видели какве последице друге земље имају услед примене ове технологије. Неће наша економија пропасти, ма шта нам бриселски и амерички стручњаци поручивали.
[i] https://www.wsj.com/tech/ai/anthropic-researcher-quits-over-out-of-control-ai-fears-707b7628
[ii] https://rt.rs/opinion/marko-tanaskovic/197573-data-centri-bojno-polje-sutrasnjice/
[iii] https://iskra.co/reagovanja/maksim-tomic-da-li-je-vestacka-inteligencija-odrziva/
[iv] https://www.viber.com/en/blog/2026-07-07/chatgpt-is-now-in-viber/
[v] https://edition.cnn.com/2026/09/14/politics/trump-vance-ai-alarms
[vi] https://iskra.co/reagovanja/maksim-tomic-vestacka-inteligencija-megalopolis/
[vii] https://standard.rs/2025/10/13/zapadni-preduzetnici-se-iz-kine-vracaju-prestravljeni/
[viii] https://iskra.co/reagovanja/maksim-tomic-ko-usmerava-razvoj-vestacke-inteligencije/
[ix] https://iskra.co/reagovanja/vladimir-dimitrijevic-uskoro-vas-nece-biti-obecanja-vestacke-inteligencije/
