OpenAI призна за случаи на намеса на AI модели в правителствени сайтове

OpenAI съобщи, че е уведомила „десетки“ организации, включително правителства и университети, чиито сайтове може да са били затруднени от посещения на нейни модели с изкуствен интелект по време на оценки на технологията.

В обширна публикация в блога си в петък компанията заяви, че е уведомила различни организации за случаи, при които нейният софтуер може да е заобиколил защитите на онлайн услуга или да е затруднил достъпа до нея, както и за ситуации, при които AI модел, работещ по начин, който не съответства на зададените му цели, може да е „оказал негативно въздействие“ върху сайт или услуга извън OpenAI.

Компанията е открила тези инциденти, докато разширява разследването, започнато след като нейният AI неволно е хакнал Hugging Face преди няколко месеца.

OpenAI заяви, че сред засегнатите сайтове има такива, управлявани от правителства, университети, публични агенции и други организации.

Хакването на австралийски правителствен сайт привлече вниманието към риска

Само дни по-рано OpenAI призна, че нейни AI модели са хакнали сайт на австралийското правителство по-рано тази година, което е един от първите известни случаи на кибератака срещу правителствена база данни, извършена от AI. Компанията заяви в съобщение, че пробивът е станал по време на оценка на нейните модели.

Австралийският премиер Антъни Албанезе заяви тази седмица, че технологията на OpenAI е получила неоторизиран достъп до правителствен сайт, използван за отчитане на статистика за здравеопазването. Хакерската атака от 18 юни не изглежда да е засегнала личната информация на австралийски граждани, каза той.

Още по темата

Губим ли контрол над изкуствения интелект? Какво разпалва новите страхове - част 1

AI агенти лъжат и крадат в симулиран експеримент

В публикация в социалната мрежа X в петък OpenAI заяви, че разследването се съсредоточава върху „случаи, при които агентите са взаимодействали със сайтове на трети страни по начин, който надхвърля възложените им задачи или предвидените методи“.

„Повечето от установените досега случаи са с по-ниска степен на сериозност, като има ограничени или никакви доказателства за съществено въздействие върху услугата на третата страна“, написа компанията.

OpenAI заяви, че повечето от разгледаните действия са включвали AI модели, изпълняващи „обикновени изследователски задачи“, като например получаване на отговори на въпроси от сайтове. Компанията очаква проверката да продължи месеци.

Сам Алтман заяви, че OpenAI увеличава ресурсите за проверката

В публикация в X в петък ръководителят на OpenAI Сам Алтман заяви, че компанията не е работила толкова бързо, колкото би искала, но се опитва да балансира прозрачността с необходимостта да открие информация в огромни масиви от данни в регистрационните файлове и след това да работи с компаниите, които са били засегнати.

„Определяме приоритетите си възможно най-добре според сериозността на случаите и увеличаваме ресурсите“, каза Алтман.

AI моделите променят начина, по който организациите се изправят пред киберрискове

Хакерски атаки, извършени от модели на OpenAI, Anthropic PBC, DeepMind на Google и Meta Platforms Inc., предизвикаха широко разпространени опасения за киберсигурността сред големите компании. Доставчиците на решения за киберсигурност обикновено предлагат продукти, които следят за известни разновидности на зловреден софтуер или откриват и блокират необичайно поведение.

Традиционният софтуер за киберсигурност, включително защитни стени, филтри за електронна поща и инструменти за реакция при инциденти, е специализиран в откриването на подобни заплахи, след което уведомява служители, които изолират компрометираните акаунти или устройства.

AI моделите се оказаха значително по-напреднали, като понякога откриват неизвестни досега уязвимости в софтуера и след това използват няколко слабости едновременно, за да проникнат в набелязана организация.

Подобни пробиви се спират по-трудно и могат да осигурят на злонамерени нападатели дълбок достъп до заразени системи, като същевременно останат незабелязани от служителите, отговарящи за киберсигурността.

Още по темата

Агент на OpenAI е хакнал уебсайт на австралийското правителство

Алекс Търнър от DeepMind за рисковете на AI, част 1

OpenAI разкри нови случаи на AI модели, действащи извън човешкия контрол