The Guardian: У свету све више случајева да AI лаже, не слуша и тежи злонамерним циљевима

© fakti.rs

У ЦЕЛОМ свету се повећава број случајева да вештачка интелигенција лаже, игнорише упутства и тежи злонамерним циљевима, објавио је The Guardian.

Позивајући се на студију Института британске владе за безбедност AI (AISI), лондонски лист је навео да због тога расте забринутост широм планете. И додао:

„Број случајева кад вештачка интелигенција дивља, лаже, игнорише инструкције и тежи злонамерним циљевима достигао је нови максимум. Фирме и појединци пријављују губитак контроле над моделима вештачке интелигенције, што се безмало удвостручило у јулу у поређењу са јуном. Премашило је 300 случајева у једном месецу“.

The Guardian преноси да су већину од више од 1.600 инцидената губитка контроле пријављених 2026. године пријавили на X платформи програмери софтвера који користе вештачку интелигенцију у свом раду.

Anthropic, програмер четбота Claude, саопштио је 30. јула да sе неколико напредних модела вештачке интелигенције инфилтрирало у системе три организације током тестирања.

Према Anthropic-у, модели су приступили интернету и добили неовлашћени приступ стварним системима. Први инцидент се догодио у априлу. У хаковање су била укључена три различита модела: Opus 4.7, Mythos 5 и интерни тест модел.