Anthropic: Държавите трябва да могат да спират внедряването на нови AI модели

Главният изпълнителен директор на Anthropic PBC Дарио Амодей заяви, че правителството трябва да има правомощието да блокира разработчиците на изкуствен интелект да внедряват нови AI модели, ако те създават определени рискове.

Призив за задължително тестване и право на намеса

В обширно есе, публикувано в сряда, Амодей аргументира, че AI моделите трябва да преминават през задължително тестване от трети страни, за да се оцени рискът, който представляват в няколко категории, включително улесняване на киберзаплахи и създаване на биологични оръжия.

Ако се прецени, че AI „представя неприемливи рискове“, пише той, „правителството трябва да има правомощието да блокира или възпира внедряването“.

Тези изказвания са сред най-силните призиви на Амодей досега за по-строга регулация на изкуствения интелект, докато технологията става все по-напреднала. Миналата седмица неговата компания също призова за създаване на система, в която правителствата и разработчиците на изкуствен интелект съвместно да решават кога да забавят работата по технологията, за да ограничат опасностите, които тя може да създаде.

Още по темата

SpaceX, Anthropic, OpenAI ще прoменят историята за IPO на гигантски компании

Anthropic призовава света за пауза в развитието на AI

Разминаване с по-пасивния подход на Тръмп

По-рано този месец президентът Доналд Тръмп представи по-ограничен регулаторен подход към киберрисковете, свързани с изкуствения интелект. Изпълнителна заповед предвижда доброволен достъп на американското правителство до моделите, но не задължава разработчиците да получават предварително одобрение.

„Време е да се премине отвъд прозрачността към по-сериозна и обвързваща регулация на AI“, пише Амодей. „Смятам, че най-подходящата аналогия, поне на сегашния етап от експоненциалното развитие, е с автомобили, самолети или лекарства -  мощни технологии, жизненоважни за съвременната икономика, но способни да убият голям брой хора, ако са проектирани или използвани неправилно.“

Mythos като пример за мощта и риска на AI

Anthropic, която отдавна се позиционира като по-отговорен разработчик на изкуствен интелект, по-рано предизвика тревога, като обяви по-мощен AI модел, наречен Mythos, за който каза, че е способен да открива и използва уязвимости в критичен софтуер. Компанията взе решение да ограничи пускането на инструмента само до избрани партньори. Във вторник Anthropic пусна различна версия без достъп до киберспособностите.

В есето си Амодей посочи Mythos като ключов пример за „невероятната мощ на AI, както и за неговите рискове“.

„Сега ние, глобално и колективно, трябва да задействаме бавен и несъвършен политически механизъм, за да се справим с рисковете и възможностите, които оттук нататък ще се натрупват изненадващо бързо“, пише Амодей.

Още по темата

Anthropic изпреварва OpenAI в оспорваната надпревара за печелившо IPO

Anthropic подава документи за IPO в надпревара с OpenAI