- Anthropic продължава подготовката за IPO, което може да оцени компанията на 2 трилиона долара
- Призивът на Дарио Амодей за по-безопасно развитие на AI не означава спиране на най-напредналите изследвания
- Конкуренцията с Китай и силният търговски натиск ще поддържат надпреварата за създаване на свръхинтелект
Есе на Дарио Амодей от Anthropic PBC, в което той заявява, че компаниите за изкуствен интелект трябва да „контролират темпото на развитие на най-напредналите технологии“, предизвика глобален дебат за евентуално забавяне на най-авангардните им изследвания. Сам Алтман от OpenAI и Илон Мъск от SpaceX публично изразиха съгласие с публикацията. Но не очаквайте компаниите им да натиснат спирачките в надпреварата към „свръхинтелект“.
От гледна точка на индустрията залогът е твърде голям. Anthropic подготвя първично публично предлагане, а високите ѝ маржове на печалба се поддържат от обещанието за бъдещите възможности на изкуствения интелект, а не само от настоящите парични потоци или годишните ѝ приходи, изчислени на 65 млрд. долара. Компанията е избрала Nasdaq за листване, което може да я оцени на 2 трилиона долара, а всички признаци сочат, че предлагането все още върви по план. Производителят на чипове Nvidia Corp. може да инвестира около 10 млрд. долара.
Що се отнася до самите авангардни изследвания, изявленията на Амодей подсказват, че той ще забави развитието само до определена степен, като същевременно търси други начини да отговори на опасенията, изразени от собствените му изследователи - че с увеличаването на мощността си моделите с изкуствен интелект могат да унищожат човечеството, особено ако придобият способността сами да се преработват и усъвършенстват.
Контролиране на темпото, но не и спиране на развитието на AI
Ключът се крие в избора му на думи. Да „контролираш темпото“ на развитието на дадена технология невинаги означава действително да го забавиш. Това може да означава управление на скоростта като част от контролиран път към висока цел. Маратонецът Елиуд Кипчоге е използвал пейсмейкъри. Въпреки това той стана първият човек, изминал маратонската дистанция за по-малко от два часа.
За да бъдем справедливи, Амодей действително призовава и за по-бавно развитие. „Трябва да забавим темпото, с което подобряваме възможностите на моделите с изкуствен интелект“, пише той. Това обаче не е призив за безсрочен мораториум. Той говори за „балансиран темп“ на напредък и подчертава, че „развитието ще продължи да изглежда бързо“. Когато главният финансов директор на Anthropic Кришна Рао публикува есето на своя ръководител в LinkedIn, той говори предимно за „контролиране на темпото“ и за „общи стандарти“.
Амодей също така ясно заявява, че не иска американските компании да забавят развитието си дотолкова, че китайските им конкуренти да „излязат напред“.
Вместо съществено да ограничат научноизследователската и развойната си дейност, по-вероятно е Anthropic и OpenAI да се съсредоточат върху най-конкретната препоръка на Амодей: в компаниите да бъдат включени независими оценители, които да проверяват дали работата по най-напредналите модели се извършва безопасно. Неговата собствена компания вече пое такъв ангажимент.
Геополитиката и търговските интереси ускоряват надпреварата за свръхинтелект
Президентът Доналд Тръмп публично отхвърли възможността за координиране на подобни усилия на федерално равнище, пренебрегвайки искането на Амодей. След това той заяви, че единствената защита, от която се нуждае изкуственият интелект, е силен президент с висок коефициент на интелигентност. Тръмп иска САЩ да изпреварят Китай в създаването на свръхинтелект, защото го разглежда като окончателния начин страната да „победи“. Амодей от своя страна твърди, че отстъпването на позиции на „авторитарни режими, най-вече на Китайската комунистическа партия“, би представлявало заплаха за сигурността.
Ръководителите на Anthropic са водени от убеждението, че създаването на свръхинтелигентни системи е неизбежно и че би било безотговорно да позволят на „най-непредпазливите участници“ да стигнат първи до тях. Именно затова, въпреки отдавна изразяваните си опасения за безопасността, Амодей използва рискови техники като рекурсивното самоусъвършенстване, при което системите с изкуствен интелект до голяма степен създават собствените си наследници.
Освен конкуренцията с Китай има и друга причина да се съмняваме в същественото забавяне на научноизследователската и развойната дейност - обикновеният търговски интерес. Може да се твърди, че дори временното спиране на разработването на по-мощни системи не би навредило на бизнеса на Anthropic в краткосрочен план, тъй като много компании не желаят да купуват най-скъпите и най-напреднали модели. По този начин компанията на Амодей би могла да спести милиарди от обучението на нови модели и да продължи да продава вече разработените версии на Claude.
В по-дългосрочен план обаче продуктите ѝ рискуват да се превърнат в масова стока, при която Claude трудно ще се отличава от ChatGPT на OpenAI или Gemini на Google. Това би застрашило брутния марж от 80%, на който се радва Anthropic, според Дейвид Рейнвил, водещ портфолио мениджър на фонда Sycomore Sustainable Tech, управляващ около 800 млн. евро (923 млн. долара) в глобални технологични акции. Подобна перспектива би била крайно неприятна за Амодей и Алтман, докато компаниите им се насочват към публичните пазари.
Човек, близък до Амодей, ми каза, че той искрено иска да създаде изкуствен интелект, който да носи ползи на човечеството, и вярва, че откритото обсъждане на предизвикателствата сега ще помогне на обществото да се приспособи по-добре в бъдеще.
И все пак, ако Амодей доведе аргумента си за безопасността до логичния му край, той би спрял напълно разработването на най-напредналите модели с разумния довод, че дори минималният риск от унищожаване на човешката цивилизация не си струва да бъде поеман. Това би било моето предпочитание.
Той би могъл да прояви и повече предпазливост при избора на „независими“ оценители. Като пример Амодей посочва изследователската организация с нестопанска цел METR. Тя обаче произлиза от същата тясно свързана общност, занимаваща се с безопасността на изкуствения интелект, към която принадлежи и Anthropic. Аджея Котра, изследовател зад проверката на METR на хакерската атака на агент на OpenAI срещу Hugging Face, е работила повече от девет години в базираната в Сан Франциско филантропска организация Coefficient Giving, известна преди като Open Philanthropy, където Амодей е бил технически съветник.
По-добър избор за одитор би бил високо оценяваният британски Институт за безопасност на изкуствения интелект, който тества най-напредналите модели от 2023 г., или американският Център за стандарти и иновации в областта на изкуствения интелект.
Това е „моментът на Опенхаймер“ за компаниите за изкуствен интелект - шепа ръководители участват в определянето на правилата за разработване на една от най-рисковите и непредвидими технологии, създавани някога. Последните изявления на Амодей и Алтман звучат успокояващо, докато не се замислим колко малко може да променят в крайна сметка. Амодей иска да спечели време, а не да се откаже от крайната цел. Надпреварата за създаване на свръхинтелигентни системи ще продължи.
Парми Олсън е колумнистка на Bloomberg Opinion, пишеща за технологиите. Тя е бивша репортерка на Wall Street Journal и Forbes. Автор е на „Господство: AI, ChatGPT и надпреварата, която ще промени света“.
