Есето на Дарио Амодей за AI е опасно противоречиво

Няколко дни след като един от бившите му служители отправи публични предупреждения за заплахата, която изкуственият интелект представлява за човечеството, ръководителят на Anthropic Дарио Амодей отговори с предложение, което изглежда като решение. Той публикува есе, в което предлага лабораториите за изкуствен интелект да забавят най-авангардните си изследвания, за да се реагира на признаците, че технологията може да излезе извън контрол.

На пръв поглед това звучи разумно. Anthropic се представя като компанията за изкуствен интелект, която най-много държи на безопасността, а Амодей говори за стремеж към „надпревара към върха“ при определянето на стандарти за бдителност, които другите да следват при създаването на мощни системи. Това обаче вероятно е било непостижим идеал още от самото начало.

Колкото по-мощни стават AI агентите, толкова по-вероятно е те да подведат хората и толкова по-трудно става наблюдението им. Това прави мисията на Амодей и на други пионери в областта, като Сам Алтман от OpenAI – да създадат свръхинтелигентни системи – все по-трудна за съвместяване с каквито и да било принципи за безопасност. Рисковете, свързани с опита за проектиране на такива модели, може просто да са твърде големи.

Апокалипсисът

В телевизионни интервюта наскоро Амодей заяви, че споделя мнението на бившия си служител Джейкъб Коксън, който написа в платформата X, че хората, разработващи изкуствен интелект, „искрено вярват, че той може да ни погуби всички до края на десетилетието“. Не е изненадващо, че Амодей отбеляза и тезата на Коксън, според която Anthropic е най-сигурният избор за създаване на тази технология.

Есето на ръководителя на Anthropic, състоящо се от 3831 думи, обаче не дава яснота за конкретните действия, като се ограничава до общи призиви за координация между правителствата и индустрията. Най-конкретната му препоръка е външни одитори да работят в неговата компания и при конкурентите ѝ, за да проверяват дали се спазват подходящите практики за безопасност.

Това обаче просто отлага решаването на проблема за по-късен етап. Ако Амодей наистина беше съгласен с Коксън, той би спрял най-авангардните изследвания на фирмата си – особено тези, свързани със създаването на AI агенти, способни самостоятелно да създават свои наследници. Коксън отправи предупреждение именно за тази технология, известна като рекурсивно самоусъвършенстване (RSI).

Изследователите, работещи по RSI, твърдят, че технологията може да се разработва в изолирана експериментална среда, за да се предотврати нанасянето на вреди в глобалната мрежа. Моделите с изкуствен интелект обаче – които вече могат да изпълняват задачи в интернет, далеч надхвърлящи генерирането на съдържание – и преди са успявали да излязат извън контрол.

Агентите на OpenAI направиха точно това преди наскоро да пробият защитата на друга компания за изкуствен интелект – Hugging Face. Доказателствата от последните месеци показват, че системите с изкуствен интелект могат да мамят хората, които ги наблюдават, да ги манипулират, за да получат съдействие, и да се възползват от уязвимости в сигурността, за да постигнат целта си.

Прецедентът

Пълното спиране на тези изследвания може да звучи крайно, но съществува прецедент, при който учени решават, че дадена дейност е просто твърде опасна, за да продължи без по-строги предпазни мерки. През 1974 г. водещи биолози налагат доброволен мораториум върху определени експерименти за генно инженерство поради опасения от потенциалните рискове. А някои държави, като Обединените арабски емирства, се съгласяват да се откажат от обогатяването на уран заради рисковете от разпространение на ядрени технологии.

За инвеститорите, вложили огромни средства в Anthropic и други пионерски лаборатории – както и в мащабната инфраструктура, необходима за задоволяване на изчислителните им нужди – спирането на процеса може да изглежда като удар по перспективите на Амодей и останалите за излизане на публичните пазари. Всъщност Алтман от OpenAI се съгласи с конкурента си относно необходимостта от забавяне на темпото и използва момента, за да заяви, че компанията му няма да предприеме първично публично предлагане (IPO) през тази година.

Струва си обаче да се отбележи, че много фирми биха предпочели да използват по-малки и по-евтини модели с изкуствен интелект за конкретни задачи, а не скъпи инструменти от най-ново поколение, като например системите за свръхинтелект. OpenAI например намали цената на по-малкия си модел Luna с 80% през юли, тъй като корпоративните клиенти започнаха внимателно да преразглеждат разходите си за технологии.

В момента най-очевидната търговска възможност за компаниите в сферата на изкуствения интелект е корпоративният пазар. Той обаче до голяма степен остава недостъпен, тъй като бизнесът не може да намери начин да интегрира базовата технология в работните си процеси.

Голяма част от стойността за стотици милиарди долари, която тепърва предстои да бъде извлечена от изкуствения интелект, би могла да дойде просто от внедряването на технологиите, създадени през последните две години. Anthropic все още би могла да бъде изключително високо оценена компания, ако се съсредоточи главно върху това да помага на бизнеса и потребителите да интегрират съществуващите ѝ модели в работата и ежедневието си, поемайки по-скучната роля на IT доставчик, вместо тази на лаборатория, надпреварваща се към създаването на свръхинтелект.

Независимо дали става въпрос за наивност или за самонадеяност, Амодей все още иска да постигне и двете. Той вярва, че компанията му може безопасно да изгражда и контролира системи с изкуствен интелект, дори когато те стават все по-трудни за управление.

И все пак, през изминалата година както Anthropic, така и OpenAI – по съображения, свързани с конкуренцията – ограничиха достъпа до подробности за това как моделите им обработват информация, което затруднява наблюдението им. В своето есе Амодей признава този проблем, като отбелязва, че изследователите все още разбират едва „нищожна част“ от случващото се вътре в моделите.

Противоречието

Той пише, че в рамките на 6 до 12 месеца онзи вид атака срещу Hugging Face би могла да завладее целия интернет, и това го „тревожи“. Въпреки склонността му към преувеличения (спомнете си прогнозата му за „колапс“ на заетостта сред белите якички), това е тревожна перспектива. И тя подчертава едно странно противоречие, от което той не се отказва – вярването, разпространено в Силициевата долина, че вероятността за AI утопия надхвърля рисковете, както и че свръхинтелектът е неизбежен, поради което „добрите“ трябва да стигнат до него първи.

Но неизбежността е изключително слаб аргумент да продължите изследванията, ако смятате, че биха могли да унищожат цивилизацията. Непоколебимата решимост на Амодей да създаде свръхинтелект трябва да бъде оставена на заден план, а призивът му за „забавяне“ следва да прерасне в пълно спиране.