Anthropic: В Иран, Русия и Китай са използвали Claude за разработки на биооръжия

Anthropic PBC съобщи, че нейният модел с изкуствен интелект Claude е бил използван неправомерно при опити за разработване на широк спектър от потенциални военни приложения, включително рояци дронове камикадзе, системи за навигация на ракети и биологични оръжия.

Сред засечените през последната година потребители, злоупотребявали с най-напредналите модели на компанията, има лица от Иран, Русия, Китай и Йемен, става ясно от публикуван в четвъртък доклад на екипа на Anthropic за разузнаване на заплахи. Нито един от случаите не е включвал най-модерните модели на компанията - Fable и Mythos.

„С увеличаването на възможностите на моделите рисковете от тях също ще нарастват, освен ако разработчиците на изкуствен интелект и защитниците на обществото не предприемат действия, за да ги направят по-безопасни“, посочва Anthropic в доклада.

Той разглежда опитите за злоупотреба с Claude - за кибератаки, операции за влияние, наблюдение, биология и създаване на оръжия - както и начина, по който ги открихме и спряхме.

Конфликтът с Пентагона заради ограниченията върху Claude

Американските компании за изкуствен интелект се надпреварват да разработват и внедряват все по-способни системи, отчасти за да запазят преднината си пред конкуренти като Китай, като същевременно се опитват да поддържат необходимите защитни механизми. Anthropic се стреми да предотврати използването на технологията ѝ за вредни цели, включително за разработване на биологични и конвенционални оръжия.

Тази позиция доведе компанията до пряк конфликт с Пентагона, който преустанови работата си с Anthropic, след като тя отказа да разреши използването на Claude за масово наблюдение или автономни оръжейни системи.

Според доклада потребители са опитали да използват помощ на противници на САЩ. В много случаи те са се опитвали да заобиколят защитните механизми на модела или да прикрият местоположението си.

Потребители в Русия, за които Anthropic е установила, че не са свързани с държавата, са опитали да използват Claude за създаване на софтуер за автономен рояк от дронове камикадзе с управление от първо лице, обучен с кадри от бойните действия в Украйна.

Докладът представя и пет конкретни случая, при които хора са използвали Claude по начини, способни да подпомогнат разработването на биологични оръжия. Сред тях са подкрепяни от държава вирусолози, които искали да създадат усъвършенствана версия на чикунгуня - инвалидизиращо вирусно заболяване, предавано от комари.

Случаят е установен чрез заявка към Claude за съдействие при написването на проектно предложение за финансиране на изследване във военен институт в неназована държава, в която Anthropic не предлага услугите си.

Компанията отбелязва, че всички биологични случаи, описани в доклада, са „нееднозначни“ и включват изследвания, които биха могли да имат безобидна научна цел.

Представители, намиращи се в контролираната от хутите северна част на Йемен, обаче са използвали Claude за създаване на софтуер за няколко вида ракети.

„Не разполагаме с доказателства, че тези лица са успели да въведат в експлоатация работещо устройство“, заяви Anthropic.

Claude е използван за масово наблюдение и кражба на данни

Свързани с държавни структури лица от страни, сред които Китай и Иран, са опитали да използват Claude за изграждане и подпомагане на системи за наблюдение. При една операция, свързана с Китай, Claude е бил използван за „проследяване, профилиране и вербуване на уйгури“ в сирийската армия.

Иранско звено пък е използвало Claude за създаване на софтуер за наблюдение, представян като инструмент за следене на часовете за молитва. Китайското външно министерство не е отговорило незабавно на запитване за коментар.

В друг случай Anthropic е установила, че консултант, който вероятно е работил за държавна разузнавателна агенция в Мали, е използвал Claude за създаване на система, предназначена да наблюдава приблизително 25 милиона мобилни телефона в западноафриканската страна.

Системата можела да генерира „разузнавателни досиета“ за всеки посочен телефонен номер без съдебно разрешение. Anthropic съобщи, че е блокирала профила на консултанта, но платформата за наблюдение, задвижвана от Claude, вече е била внедрена на местно ниво и е останала извън пълния контрол на компанията. Правителството на Мали не е отговорило незабавно на запитване за коментар.

Докладът на Anthropic подчертава и как хакери - от предполагаеми държавно подкрепяни разузнавателни групи в Русия и Китай до хактивисти и киберпрестъпници - използват изкуствения интелект на компанията, за да ускоряват и разширяват опитите си за кражба на чувствителни данни. В документа не се разкриват нови или опасни уязвимости в критични системи.

Докладът описва как една хакерска група, наричана от Microsoft Corp. Midnight Blizzard и свързвана с руските разузнавателни служби, е „увеличила скоростта си чрез автоматизиране на операциите с помощта на изкуствен интелект“.

Това включва използването на софтуера на Anthropic за автоматизиране на много етапи от разработването на зловреден софтуер и за създаването на фишинг имейли, насочени към военното разузнаване и отбранителни структури. Руското външно министерство не е отговорило незабавно на запитване за коментар.

Anthropic съобщи още, че друга хакерска група - занимаващата се с киберизнудване ShinyHunters - е използвала изкуствен интелект, за да търси изтекли данни за достъп и да ги употребява за кражба на информация от засегнатите организации.

„Случаите, които представяме тук, не са типични злоупотреби, а примери за най-значимите и нови заплахи, които сме установили досега“, посочва Anthropic в доклада, разглеждащ и други рискове, включително измами и инструменти за хакерски атаки.