Тръмп подкрепи идеята за външни одитори на безопасността при AI

Президентът Доналд Тръмп подкрепи идеята за използване на външни одитори за оценка на безопасността на системите с изкуствен интелект. Това стана чрез споразумение с лидери от Силициевата долина, целящо да избегне въвеждането на нови държавни регулации на фона на нарастващите опасения относно рисковете, свързани с AI.

Съгласно споразумението, постигнато по време на работен обяд в Белия дом във вторник с близо двадесет висши ръководители от технологичния сектор, AI компаниите се ангажираха също така редовно да обсъждат и определят най-добрите практики за индустрията. Документът няма правна сила, въпреки че президентът заяви пред репортери, че той е „морално обвързващ“.

„В известен смисъл това прилича на конституция“, каза Тръмп пред журналисти пред Белия дом след събитието. „Най-значимите фигури в света подписаха това, аз също го подписах като президент и то наистина представлява форма на защита.“

Кой подписа

Споразумението беше постигнато след близо двучасова среща между президента и неговите гости, проведена на фона на засилващото се световно безпокойство относно потенциално катастрофалните рискове на изкуствения интелект. Сред подписалите документа са лидери на най-изявените компании разработчици в сферата на AI: изпълнителният директор на Anthropic PBC Дарио Амодей, изпълнителният директор на Nvidia Corp. Дженсън Хуанг и Илон Мъск (SpaceX/xAI).

Други участници, подписали споразумението, са президентът на OpenAI Грег Брокман, Марк Зукърбърг от Meta Platforms Inc. и Сундар Пичай – изпълнителен директор на Alphabet Inc. (компанията майка на Google), според копие от документа, публикувано от Тръмп в социалната мрежа Truth Social. Няколко от фирмите, включително Anthropic и OpenAI, вече по-рано бяха поели ангажимент да използват независими оценители.

Готовността на Тръмп да обърне внимание на въпросите за безопасността – след като по-рано отхвърляше опасенията за апокалиптични сценарии като „измама“ – отразява начина, по който изкуственият интелект все повече се превръща в политически натоварена тема преди изборите през ноември. Тръмп се утвърди като един от най-яростните защитници на неограниченото развитие на AI, което го поставя в противоречие с избирателите, скептични към тази технология.

Още по темата

Петте основни сблъсъка между САЩ и Китай в надпреварата за AI

OpenAI планира набиране на 30 млрд. долара при оценка от 1,4 трлн. долара

Политическият натиск

Според ново проучване на университета „Куинипиак“ повече от седем от всеки десет избиратели заявяват, че предпочитат кандидати, подкрепящи по-строги предпазни мерки и регулации за изкуствения интелект. Обществените опасения относно рисковете, свързани с изкуствения интелект, нараснаха след поредица от значими хакерски атаки, извършени от недобросъвестни участници в екосистемата на OpenAI – включително атака срещу уебсайт на австралийското правителство – както и след скорошни предупреждения от бивши служители на AI компании, че технологията представлява екзистенциална заплаха за човечеството.

С това споразумение администрацията потвърди позицията си, че AI компаниите носят отговорност за саморегулирането си, но документът сигнализира и за нова готовност за въвеждане на определени предпазни механизми. В него се посочва, че AI компаниите „следва“ да въведат четири нива на контрол, като се отбелязва, че в бъдеще „може да е целесъобразно препоръките да бъдат залегнати“ в закони или подзаконови актове.

Приемането на идеята за външни оценители бележи промяна в подхода на администрацията към безопасността на AI. Въпреки че представителите на индустрията настояваха за използване на независими оценители за проверка на най-усъвършенстваните си модели, служители от администрацията на Тръмп гледаха скептично на организациите, най-подходящи за извършване на тези проверки, поради техните идеологически пристрастия.

Връзките между много от експертите по безопасност и движението, известно като „ефективен алтруизъм“, по-рано заплашваха да направят идеята за външни оценители неприемлива за Тръмп. Последователите на това движение, популярно в Силициевата долина, се стремят да основават всяко решение на математически вероятности, които според тях биха максимизирали ползата за останалите хора; те обикновено подкрепят забавянето на развитието на AI поради опасения, че технологията може да доведе до изчезването на човечеството.

Бившият надзорник на Тръмп по въпросите на AI Дейвид Сакс, който присъства на работния обяд в Белия дом във вторник, отхвърли външните оценки, определяйки ги като „псевдонаука“. Въпреки това, както по-рано съобщи Bloomberg News, някои от фирмите, подготвящи се да извършат тези проверки, вече са провели срещи с Центъра за стандарти и иновации в областта на AI – звено към Министерството на търговията.

Списъкът с присъстващите на AI срещата в Белия дом:

Освен използването на независими оценители, споразумението препоръчва на компаниите да вземат предпазни мерки, като въведат вътрешен контрол върху рисковете, свързани с киберсигурността, биосигурността, химическите заплахи и непредвидените действия на моделите с AI. В документа се посочва още, че компаниите трябва да създадат вътрешен екип за наблюдение на тези мерки за контрол и да определят независим комитет към съвета на директорите, който да контролира екипите по безопасност и независимите одити.

Въпреки че във вторник Тръмп се позова на съображения за сигурност, кадрите, на които той се опитва да спечели благоразположението на групата милиардери – ръководители на компании, наречени от него „най-блестящите хора в света“, биха могли да дадат повод за критики на политическите му опоненти, обвиняващи го в прекалена близост до технологичния сектор.

Още по темата

OpenAI спря пускането на най-новия модел Astra поради рискове за сигурността

Nvidia представи система за контрол и безопасност на AI агенти

Дарио Амодей

По време на появата си заедно с въпросните ръководители Тръмп демонстрира промяна в отношението си към Амодей, който отдавна заема позиция по въпроса за безопасността на изкуствения интелект, коренно различна от тази на президента. По-рано този месец обещанието на ръководителя на Anthropic да забави разработването на авангардни технологии с изкуствен интелект предизвика упрек от страна на Тръмп в социалните мрежи, но във вторник атмосферата беше съвсем различна.

Тръмп заяви, че Амодей е бил „фантастичен“, и го насочи към репортерите, като се наведе по-близо до него и го предупреди да „внимава“. Амодей, който в неделя вечерта се срещна с президента на частна вечеря, подкрепи призива на Тръмп за запазване на водещата роля на САЩ в сферата на изкуствения интелект, но отбеляза, че основните въпроси, свързани с безопасността, остават нерешени.

„Технологията крие съвсем реални рискове“, заяви Амодей. „Всички трябва да работим заедно, за да сме сигурни, че можем да победим – и то по безопасен начин, стига да подходим правилно“, добави той, преди да излезе от кадър, докато Тръмп се оплакваше от „фалшивите новини“.

Още по темата

САЩ и Китай търсят диалог, но съперничеството за AI продължава

OpenAI призна за случаи на намеса на AI модели в правителствени сайтове