Гејтс: Вештачка интелигенција могла би да однесе милијарду живота

Гејтс ©in4s.net

Неконтролисани развој вештачке интелигенције могао би да створи услове за догађаје у којима би страдало и до милијарду људи, упозорио је суоснивач „Мајкрософта” Бил Гејтс, позивајући америчке власти да законом утврде обавезне мере безбедности и надзора над најмоћнијим системима вештачке интелигенције.

Гејтс је у интервјуу за Ен-Би-Си њуз, чији су делови објављени уочи емитовања целог разговора у емисији „Meet the Press”, оценио да више није довољно да технолошке компаније саме одређују границе развоја својих система.

„Вештачка интелигенција је свакако довољно моћна да покрене догађаје који би могли да доведу до смрти милијарду људи”, рекао је Гејтс.

Он није тврдио да је такав исход известан, већ је упозорење повезао пре свега са могућношћу злоупотребе све напреднијих система од стране људи који желе да нанесу масовну штету.

„Никада раније није постојало оружје моћно као комбинација људи са злим намерама и најновијих алата вештачке интелигенције”, казао је Гејтс.

Суоснивач „Мајкрософта” одбацио је идеју да индустрија може сама да регулише питање безбедности и заложио се за директно укључивање државе.

„Нико не мисли да је саморегулација довољна. Потребно је да се органи за спровођење закона и политичари укључе у расправу о томе како треба да изгледају мере заштите и надзора. И то мора да буде обавезно”, навео је Гејтс.

Према његовим речима, нова правила донела би додатне обавезе компанијама, али не би морала драматично да успоре развој технологије.

Упозорење из самог средишта индустрије

У Сједињеним Америчким Државама води се све оштрија расправа о брзини развоја најмоћнијих модела вештачке интелигенције и о томе ко би требало да контролише њихову безбедност.

Дебата је додатно појачана после оставке истраживача Џејкоба Коксона, који је радио на развоју модела најпре у „ОпенАИ-ју”, а потом у компанији „Антропик”. Он је приликом одласка из индустрије упозорио да највеће лабораторије „јуре право ка самоунапређујућој суперинтелигенцији и коцкају се нашим животима”.

Коксон је навео и да људи који непосредно развијају најмоћније системе вештачке интелигенције озбиљно разматрају могућност да би будући модели могли да постану претња човечанству.

После тих упозорења, извршни директор „Антропика” Дарио Амодеи затражио је да водеће компаније прилагоде темпо развоја тако да безбедносни механизми могу да прате раст способности нових модела. „Антропик” се заложио и за веће учешће независних стручњака који би имали увид у процесе, системе и податке неопходне за процену ризика.

Подршку јачем независном надзору и успоравању у случају појаве озбиљних безбедносних проблема дали су и други истакнути представници индустрије, међу којима су Сем Алтман из „ОпенАИ-ја” и Илон Маск.

Вашингтон подељен

Расправа се у међувремену пренела и у амерички Конгрес. Републиканска конгресменка Ана Паулина Луна затражила је да системи вештачке интелигенције које користе америчке оружане снаге имају механизам који омогућава њихово тренутно искључивање у случају опасности.

Она је оценила да напредна вештачка интелигенција мора да има уграђене заштитне механизме, посебно када је интегрисана у одбрамбене системе.

Председник Представничког дома Мајк Џонсон, међутим, противи се исхитреном увођењу широких ограничења. Он упозорава да би претерана регулатива могла да успори америчке компаније и угрози предност САД у технолошком надметању са Кином.

„Ако Конгрес просто утрчи и на хитној седници покуша да регулише вештачку интелигенцију, изгубићемо трку са Кином, а то представља претњу сваком Американцу”, рекао је Џонсон.

И извршни директор компаније „Мета” Марк Закерберг одбацио је потребу за заједничким успоравањем целе индустрије. Према његовом ставу, свака лабораторија треба сама да заустави или успори развој када уочи безбедносни проблем и да настави тек када процени да су ризици отклоњени.

Смит тражи могућност искључивања система

Председник „Мајкрософта” Бред Смит заузео је другачију позицију. Говорећи о безбедности вештачке интелигенције током заседања Генералне скупштине УН у Њујорку, он је поручио да компаније не би требало да чекају државу уколико знају да развијају технологију која може представљати опасност.

Смит се заложио и за увођење механизама којима се напредни системи могу искључити.

„Људи који стварају модел треба да имају могућност да га искључе. Провајдери инфраструктуре у облаку, попут нас, треба да имају ту могућност. И људи који постављају контроле око агената вештачке интелигенције треба да могу да их искључе”, рекао је Смит.

На тај начин питање вештачке интелигенције у САД све мање остаје само технолошка тема. После упозорења људи који непосредно развијају најнапредније системе, расправа се све више своди на два питања – колико далеко индустрија сме да иде без спољне контроле и ко ће имати овлашћење да заустави систем у тренутку када његове могућности почну да превазилазе постојеће механизме надзора.

(Политика)