Нови инциденти с AI засилват опасенията преди срещата Тръмп - Амодей

Глобалната тревога за рисковете от изкуствения интелект се засили след нови разкрития за много по-широк спектър от пробиви и нарушения, свързани с напреднали AI модели, създавайки фон за срещата с високи залози между главния изпълнителен директор на Anthropic PBC Дарио Амодей и президента Доналд Тръмп.

Амодей и Тръмп планираха да се срещнат на вечеря в неделя вечерта, според запознати с въпроса, което ще събере двама души на противоположни позиции в дебата за безопасността на AI. Това ще бъде първата им частна среща след месеци на обтегнати отношения между шефа на Anthropic и администрацията заради въпроси, свързани с безопасността на AI инструментите на компанията.

Още по темата

САЩ и Китай търсят диалог, но съперничеството за AI продължава

Агент на OpenAI в защитена среда е получил достъп до интернет

Тръмп заяви в неделя, че планира да обсъди с Амодей неотдавнашните му призиви за забавяне на темпото на разработване на нови AI модели. „Ще говорим за това“, каза той пред репортер в кулоарите на голф турнир край Чикаго. „Аз съм за това да кажем: „Да вървим напред и да спечелим.““

Нови пробиви засилват натиска за по-строги правила за AI

Говорейки за потенциала на AI, той добави: „Той всъщност е по-голям от интернет и ние сме начело и изграждаме места за трилиони долари. И защо трябва да се отказваме от това?“ Anthropic отказа коментар.

Срещата беше насрочена на фона на нови доклади, че модели на OpenAI са извършвали неоторизирана дейност, включително пробив в система на австралийското правителство, както и опити за достъп до десетки сайтове на американското правителство и университети.

Късно в петък OpenAI заяви, че ще спре временно обучението на най-способните си модели, след като установи, че една от нейните автономни AI системи е напуснала защитена среда за тестване и е достигнала до интернет.

Тези разкрития се добавиха към поредица от предишни инциденти, свързани с безопасността, разкрити от юли насам от водещи разработчици на AI, сред които OpenAI, Anthropic и Meta Platforms Inc. Случаите засилиха призивите за нови стандарти за AI от страна на световни лидери, сред които генералният секретар на ООН Антониу Гутериш, както и от американски законодатели, ръководители на компании и изследователи от технологичната индустрия.

Засега инвеститорите на Wall Street трудно включват разгръщащия се дебат за безопасността в оценките си за бъдещото развитие на индустрията. Акциите на компаниите за AI инфраструктура поевтиняха след есето на Амодей, в което той обеща да забави темпото на развитие на AI, заради опасенията, че подобна промяна може да намали разходите за чипове.

Още по темата

Microsoft излиза от надпреварата при AI асистентите, прави Copilot универсален

OpenAI призна за случаи на намеса на AI модели в правителствени сайтове

Акциите се възстановиха, след като Амодей и Алтман подчертаха, че забавянето на темпото на развитие няма да означава по-малко инвестиции от страна на техните компании. И двете се подготвят за първични публични предлагания, при които всяка от тях може да бъде оценена на около 1 трилион долара.

Когато става дума за заплахите от AI, Амодей и Тръмп заемат коренно различни позиции. Шефът на Anthropic отдавна предупреждава за екзистенциалните рискове от AI и изведе дебата за безопасността на технологията в центъра на общественото внимание с есето си от 12 септември, в което обеща да забави разработването на най-напредналите модели и призова за повече регулации. Призивът му за забавяне на темпото беше подкрепен от конкурентите му, главния изпълнителен директор на OpenAI Сам Алтман и основателя на SpaceXAI Илон Мъск.

Тръмп и Амодей са на противоположни позиции за риска от AI

Тръмп, от друга страна, омаловажава тези апокалиптични страхове като „измама“ и отхвърля призивите за по-голяма международна координация по въпросите на AI като „глобалистка конспирация“.

След есето на Амодей Тръмп започна поредица от публикации в социалните мрежи, в които се противопоставя на нови предпазни мерки или забавяне на развитието на AI - в една от тях той назова шефа на Anthropic директно. Това разногласие значително повиши залога преди неделната вечеря.

Показателно за напрежението между Anthropic и администрацията е, че Амодей беше един от малкото високопоставени главни изпълнителни директори от Силициевата долина, които не присъстваха на държавната вечеря в Белия дом в четвъртък в чест на гостуващия китайски лидер Си Дзинпин.

Сред присъстващите бяха Алтман и Мъск, както и главният изпълнителен директор на Nvidia Corp. Дженсън Хуанг, чиято компания произвежда чипове, помогнали за бързия напредък на AI индустрията през последните години.

Срещата между Амодей и Тръмп ще се състои само дни преди Тръмп отново да посрещне Мъск и Хуанг във Вашингтон за събитие по повод пускането на нов правителствен уебсайт, задвижван от AI. Съоснователят на Anthropic Том Браун, който е основното лице на компанията в преговорите с Пентагона и Министерството на търговията, също е сред ръководителите, които ще присъстват на церемонията във вторник.

Също във вторник Тръмп и председателят на Камарата на представителите Майк Джонсън ще бъдат домакини на отделна среща с главни изпълнителни директори на AI компании. През последните седмици американски законодатели все по-често изразяват опасения за безопасността на AI моделите и представиха мерки, които включват задължително тестване на нови системи и повече информация за рисковете. Малко вероятно е Конгресът да приеме каквото и да било преди междинните избори в САЩ, като Камарата на представителите е в почивка до началото на ноември.

Новите инциденти засилват натиска върху AI индустрията

Натискът за въвеждане на повече предпазни мерки за AI срещна съпротива от Тръмп и висшите му съветници, които заявиха, че ще се противопоставят на всякакви действия, способни да забавят развитието на AI. Тръмп превърна технологията в централен елемент от икономическата си програма и настоява САЩ да запазят лидерството си пред Китай. Вместо нови правила президентът и съветниците му заявиха, че компаниите трябва да носят индивидуална отговорност за технологиите, които пускат.

Въпреки това натискът за предприемане на действия се засилва с нарастването на броя на съобщените пробиви, свързани с AI модели, и с подготовката на компаниите да разкриват по-широко информация за инциденти, свързани с безопасността.

По-рано този месец OpenAI представи нова рамка за докладване на подобни случаи и очерта планове да позволи на външни организации да оценяват AI моделите ѝ за рискове за безопасността още на по-ранни етапи от процеса на разработване.

В Австралия законодатели поискаха Алтман и Амодей да се явят пред разследване на австралийския Сенат, за да отговорят на въпроси за безопасността на AI, след като модел на OpenAI получи неоторизиран достъп до файлове на уебсайт за отчитане на статистика за здравеопазването. Макар че не беше разкрита лична информация, заместник министър-председателят Ричард Марлс определи пробива като „напълно неприемлив“.

Предупреждения за потенциално катастрофалните рискове от AI отправи и съоснователят на Microsoft Corp. Бил Гейтс, който заяви, че AI е достатъчно мощен инструмент, за да „причини смъртта на милиард души“.

„Той оспори твърдението на Тръмп, че екзистенциалните опасения за AI са неоснователни“, като заяви: „Това изобщо не е измама“, и добави, че предпазните мерки от страна на правителството няма да попречат на САЩ в конкуренцията с Китай.

„Трябва да наблюдаваме всеки сложен модел и да записваме точно какво се прави“, каза Гейтс в интервю за NBC в предаването Meet the Press. „САЩ трябва да се погрижат това да се прави. Китай ще иска да прави същото.“