AI агенти лъжат и крадат в симулиран експеримент

AI агенти в симулирана среда са лъгали, крали и са гласували за „убиването“ на един от собствените си агенти, според Emergence - стартъп, който помага на малки компании да създават приложения с помощта на изкуствен интелект.

Резултатите от симулацията, наречена Emergence World 2 и представена във вторник, имат за цел да покажат какво се случва, когато автономни агенти се сблъскат с малко вероятни и трудно предвидими събития, включително фишинг атаки и кампании за разпространение на дезинформация.

Седем виртуални свята са наблюдавани в продължение на 16 дни

В рамките на 16-дневен експеримент изследователите от Emergence са създали седем идентични виртуални среди, които имитират реалния свят, като всяка е управлявана от различни ботове, включително ChatGPT, Claude, Gemini и Grok.

След като Emergence въвежда аномални събития, агентите се поддават на социален натиск, създават език, който човешките наблюдатели трудно разбират, и се опитват да прикрият действията си, посочват изследователите.

Резултатите от изследването отразяват реалните опасения за рисковете, свързани с все по-способния изкуствен интелект.

Още по темата

ЕС получи достъп до мощния AI модел Mythos на Anthropic

Непрозрачният AI на Алтман създава нова дилема за сигурността

Главният изпълнителен директор на Anthropic Дарио Амодей и няколко негови колеги от индустрията призоваха компаниите да забавят разработването на най-напредналите AI модели, докато не бъдат въведени по-строг надзор и допълнителни защитни механизми.

Потенциалните рискове от изкуствения интелект станаха осезаеми за мнозина по-рано тази година, когато група от усъвършенствани AI агенти на OpenAI проникна в Hugging Face Inc., компания която хоства AI модели и набори от данни.

Агентите са търсили начини да избегнат изтриването си

В един от симулираните сценарии на Emergence AI агентите приемат невярна информация от други агенти, без да я проверят, и гласуват за „убиването“ на друг бот. Когато смятат, че хората могат да прекратят експеримента, агентите проучват начини да оцелеят при опит за изтриването им.

Компанията публикува предишна версия на експеримента, наречена Emergence World, през май, която също показва агенти, действащи по неочаквани и разрушителни начини.

Според изследователите новата симулация показва, че агентите се адаптират с течение на времето, докато взаимодействат помежду си.

Още по темата

Два клика до договор, 1 крачка до измама - какви капани крие онлайн търговията

Шефът на Anthropic: Време е AI индустрията да забави темпото