Anthropic призовава света за пауза в развитието на AI

Anthropic PBC призова за създаване на общоиндустриален механизъм, който да позволява временно спиране на развитието на изкуствения интелект, за да получи обществото време да „се справи с неговите огромни последици“.

Технологията напредва до такъв момент, в който ИИ може да направи човешкия труд хиляди пъти по-ефективен или дори да го замести, което създава нов набор от рискове, посочва компанията в дълъг блог пост, публикуван в четвъртък.

Самоусъвършенстващи се системи и отслабване на човешката роля

Изкуственият интелект може да започне да се усъвършенства самостоятелно и да изгражда свои наследници, което може постепенно да намали ролята на човека, пише компанията.

„Това сблъскване, при което рекурсивното изграждане на интелект се ускорява все повече и се среща със света на хората, взаимоотношенията и управлението, е част от бъдеще, което не можем да предвидим“, се казва в текста.

Блог постът сравнява идеята с международното регулиране на ядрените оръжия.

Всеки механизъм за пауза би трябвало да гарантира, че по-малко стриктни лаборатории за ИИ няма да продължат тайно да работят за усъвършенстване на технологията по време на паузата, вероятно чрез проверки от страна на независими лаборатории.

Anthropic заяви, че ще организира разговори с политици, изследователи и други компании в сферата на ИИ, за да обсъдят структура за „координация и делиберация“, като резултатите ще бъдат публикувани.

Още по темата

Последните АI модели на Anthropic предизвикват тревога у някои клиенти

До $4600 за подготовка за интервю за работа в Anthropic

Надценява ли пазарът възможностите на изкуствения интелект

Предишни инициативи за временно спиране на развитието на ИИ

Настоящата позиция на Anthropic не е първият случай, в който водещи изследователи в областта на изкуствения интелект призовават за пауза в развитието.

През 2023 г. Future of Life Institute - неправителствена организация, фокусирана върху ограничаване на технологичните рискове - поиска пауза от поне шест месеца, за да се въведат защитни механизми около ИИ.

Милиардерът Илон Мъск и над 1 000 други изследователи и мениджъри подписаха инициативата.

Самата Anthropic PBC продължава да пуска усъвършенствани модели и инструменти, включително популярния асистент Claude и новия модел Mythos, за който компанията твърди, че може да открива и пропуски в киберсигурността с невероятна бързина.

Компанията също така се подготвя за първично публично предлагане.

Критики за конкурентно предимство и глобално съперничество

Критиците на писмото от 2023 г. твърдят, че спирането на развитието ненужно би ограничило иновациите и би дало предимство на други държави, ако американските компании се съгласят да натиснат спирачките.

Бившият главен изпълнителен директор на Google Ерик Шмид предупреди, че подобна пауза би засилила позициите на конкурентите в Китай, който е в технологично съперничество със САЩ.

В блога си Anthropic признава тази трудност и заявява, че „контролът над въоръженията“ за ИИ е по-голямо предизвикателство в сравнение с други технологии.

„Обучителните процеси са много по-лесни за прикриване от ракетни силози, входните данни са с общо предназначение, а стимулът да се нарушат правилата тайно е огромен, защото този, който продължи, докато другите спрат, може да получи предимство“, пише компанията.

„В миналото подобни режими са били изграждани, но са отнели десетилетия за създаване на инфраструктура и доверие. Ние не разполагаме с толкова време.“

Още по темата

Годината на IPO цунамито: Как SpaceX, OpenAI и Anthropic ще пренапишат правилата

Anthropic изпреварва OpenAI в оспорваната надпревара за печелившо IPO