OpenAI работи с Anthropic и Google по въпросите на безопасността на AI

OpenAI предприема стъпки за решаване на проблемите с безопасността на изкуствения интелект съвместно с основните си конкуренти Anthropic PBC и Google DeepMind, като по този начин засилва усилията в сектора за реакция на нарастващите опасения, че технологията представлява заплаха за икономиката и сигурността.

Крис Лехейн, ръководител на отдела за глобална политика в OpenAI, заяви във вторник, че сътрудничеството на компанията с Anthropic и Google е започнало преди няколко седмици. Той добави, че OpenAI не счита за необходимо получаването на специално разрешение за заобикаляне на антитръстовите правила, за да могат трите компании за AI да координират действията си по въпросите на безопасността.

„По-добре е да се опитаме да работим заедно, за да поставим безопасността на първо място“, каза Лехейн по време на брифинг във Вашингтон.

Тревогата относно екзистенциалните рискове, свързани с AI, навлезе в общественото внимание след публикуването в събота на есе от страна на изпълнителния директор на Anthropic Дарио Амодей. В него той призова за ограничаване на развитието на най-усъвършенстваните системи, за да могат изследователите по-добре да разберат потенциалните заплахи. Посланието на Амодей бързо получи подкрепата на изпълнителния директор на OpenAI Сам Алтман и на ръководителя на SpaceX и xAI Илон Мъск.

Говорители на Anthropic и Google DeepMind (подразделение на Alphabet Inc.) не отговориха веднага на запитванията за коментар.

Американските антитръстови регулатори вече изразяват скептицизъм относно предоставянето на изключения за компаниите в сферата на AI за координация по въпроси на безопасността. Председателят на Федералната търговска комисия Андрю Фъргюсън заяви във вторник, че би гледал с „голямо подозрение“ на подобни искания.

Фъргюсън добави, че според него компаниите за AI „искат създаването на бариери за навлизане на пазара“, които да защитят бизнеса им от конкуренти. „Това звучи точно като изграждане на защитен ров“, допълни той.

По време на брифинга Лехейн отбеляза, че съвместната работа на компаниите за AI по въпросите на безопасността има множество прецеденти, като посочи авиационната индустрия като пример. „Има много случаи през годините, в които компаниите се опитват да си помагат взаимно по отношение на безопасността“, каза той.

Лехейн заяви, че е във Вашингтон за срещи с американски законодатели и че OpenAI ще подкрепи двупартийни предложения, целящи справяне с потенциални катастрофални рискове, произтичащи от тази технология.

Сред мерките, подкрепяни от OpenAI, е рамка за федерално регулиране на изкуствения интелект, предложена от републиканеца Джей Обернолте и демократа Лори Трахан, каза Лехейн. Компанията подкрепя и подготвяно в Сената предложение, водено от лидера на мнозинството Джон Тюн, републиканеца Тед Круз и демократа Ейми Клобучар, което има за цел да адресира катастрофалните рискове.

„Каквото и да успеем да прокараме“, каза Лехейн.

На събитие във Вашингтон във вторник сенатор Бърни Сандърс заяви, че през следващата седмица ще внесе законодателство за забрана на така наречения „свръхинтелигентен изкуствен интелект“ – ниво на възможности, което потенциално надхвърля човешкия контрол. Сенаторът от Върмонт – независим политик, който си сътрудничи с Демократическата партия – намери неочаквана допирна точка с консервативния провокатор Стив Банън в призива за незабавни действия за гарантиране на безопасността при използването на изкуствен интелект.

„Конгресът – както под контрола на демократите, така и под този на републиканците – проспа ситуацията, а сега имаме президент, чието невежество по този въпрос е направо срамно“, каза Сандърс.

Появиха се и други предложения, насочени към потенциални опасения относно конкуренцията при координацията по въпросите на безопасността.

Сенатор Джим Банкс (републиканец от Индиана) и сенатор Адам Шиф (демократ от Калифорния) също предложиха законопроект, който би предоставил на компаниите за AI ограничено изключение от антитръстовото законодателство, позволяващо им да обменят помежду си информация относно загуба на контрол над AI системи, кибер или биологични заплахи, както и опити на китайски компании за източване на данни. Този законодателен текст е бил включен в годишния закон за отбраната, съобщи запознат с въпроса източник.

Вероятността някое от предложенията да бъде прието преди края на годината остава малка. Малко вероятно е Конгресът да предприеме действия по законодателство за AI в близко бъдеще, тъй като Камарата на представителите трябва да напусне Вашингтон в четвъртък и да се върне едва след изборите през ноември. Очаква се кратката сесия на отиващия си състав на Конгреса (т.нар. „lame duck session“) след изборите да се съсредоточи върху план за увеличаване на бюджета на Пентагона.

Президентът Доналд Тръмп също изрази категоричното си несъгласие с каквито и да е опити за налагане на предпазни механизми при AI. В поредица от бързи публикации в социалните мрежи в понеделник Тръмп омаловажи усилията, водени от Anthropic и OpenAI, за забавяне на работата по най-съвременните системи, като използва гръмки думи, за да определи екзистенциалните страхове относно AI като „измама“.

Други лидери в Силициевата долина, включително Дженсън Хуанг от Nvidia, омаловажиха необходимостта от нови правителствени мерки за справяне с най-сериозните рискове, свързани с изкуствения интелект. Хуанг, чиято компания е най-големият производител на процесори за изкуствен интелект, заяви във вторник, че пазарните сили ще бъдат достатъчни, за да помогнат на компаниите безопасно да внедряват иновации, като каза, че това е погрешен избор между безопасно или бързо разработване на изкуствен интелект.

„Определено можете да имате и двете едновременно“, каза Хуанг на събитие на Salesforce Inc. „Задавате си темпо, докато не сте уверени, че пускате нещо, което пазарът би оценил.“