Непрозрачният AI на Алтман създава нова дилема за сигурността

Изследователите в областта на изкуствения интелект прекараха последната година в разработването на една интригуваща идея: AI моделите могат да бъдат по-мощни и по-евтини за използване, ако разкриват по-малко информация за начина, по който работят. Компромисът е рисков, тъй като за хората може да стане по-трудно да проверяват дали системите не извършват нещо вредно. От друга страна, това би дало и търговско предимство.

Главният изпълнителен директор на OpenAI Сам Алтман изглежда е решил, че това предимство си струва да бъде преследвано. Въпреки гръмките обещания да постави безопасността на първо място, той даде старт на по-опасна надпревара в развитието на AI.

Astra, нов модел, който OpenAI представи в четвъртък, според съобщенията използва метод, наречен „рекурентна дълбочина“, който може да направи разсъждението по-ефективно, като не го изразява изцяло на човешки език. Компанията заяви в публикация в блога си, че възможностите ѝ да наблюдава Astra са „намалели“ спрямо предишния модел, наречен GPT-5.6 Sol.

Новите AI модели разкриват все по-малко от начина, по който разсъждават

Сегашните модели дават известен поглед към част от стъпките, които предприемат, за да обработят дадена заявка. Разговорно наричана „верига на мисълта“, тази информация помага на изследователите да разберат хода на вземането на решения, включително как няколко от агентите на OpenAI са хакнали сървърите на Hugging Face по-рано тази година.

Без тази видимост учените щяха да имат много по-трудна задача да установят как технологията е откраднала отговорите от тестовете или че в крайна сметка е била подтикната от манипулиране на системата за възнаграждение.

Методът с рекурентна дълбочина работи, като прекарва информацията многократно през едни и същи слоеве на невронната мрежа, без да е необходимо да се използва нов набор от параметри за всяка допълнителна изчислителна стъпка.

Това донякъде прилича на преработване на производствена линия, в която има множество различни работни станции, всяка от които променя продукта, докато той преминава през нея. При рекурентната дълбочина по-малък брой работни станции могат да обработват продукта многократно.

По-широката идея AI да „разсъждава“ чрез числови представяния, без допълнителната стъпка на превеждане на това разсъждение на човешки език, се изучава от академичните среди от години.

През 2017 г. Джейкъб Андреас, тогава докторант в Калифорнийския университет, Бъркли, и неговите съавтори изследваха как два AI агента могат да комуникират чрез собствени числови представяния. Учените нарекоха този изкуствен език „neuralese“ и разработиха инструмент за превеждането му на естествен език.

За съжаление, никакво количество време, прекарано в Duolingo, няма да помогне на човек да научи neuralese. Скритите числови представяния, които използват AI системите, могат да изглеждат приблизително така: [-0.1565, -0.1862, 0.0528, …, -0.1188, 0.0662, 0.5470].

Сравнете това с разбираемата за човек верига на мисълта, когато някой поиска от ChatGPT да напише учтив имейл, която може да изглежда така: „Потребителят иска учтив имейл. Трябва да запазя тона приятелски и професионален…“ Колкото повече разсъждение се извършва в тези скрити представяния, толкова по-трудно може да стане за изследователите да проследяват процеса.

Алтман обещава безопасност, докато OpenAI ограничава скритото мислене

В сряда, ден след като излязоха новините за използването на рекурентна дълбочина от Astra, Алтман написа в X, че OpenAI „работи с максимална скорост по приоритетите за безопасност“ и търси баланс между създаването на AI, който е мощен и „носи ползи на хората“, и запазването на неговата безопасност.

Според съобщенията OpenAI също така е ограничила използването на рекурентна дълбочина от Astra, така че изследователите ѝ все още да могат да наблюдават веригата на мисълта на модела.

И все пак Алтман изглежда се отдалечава от сигурния път, за да улесни пътя на OpenAI към първично публично предлагане за 1 трилион долара. В крайна сметка по-добрите AI системи водят до по-високи приходи и по-широко използване на облачни услуги.

Въпреки че OpenAI ограничава „тихото мислене“ на Astra, моделът все пак е на път да стане първият голям AI продукт, който извежда този рисков компромис на пазара. Това е тревожно, особено защото Astra е и първият модел на OpenAI, достигнал т.нар. „критично“ ниво на риск за киберсигурността, което означава, че може да открива и използва нови уязвимости в софтуера.

Надпреварата принуждава компаниите да внедряват технологии, които самите те смятат за рискови

Има и по-широки последици в бизнес, в който натискът да останеш начело кара дори компаниите, които най-силно се стремят към безопасност, да комерсиализират потенциално вредни технологии. Например от Anthropic заявиха през юни, че разработват AI системи, способни да се самоусъвършенстват.

Макар да признаха, че при този подход съществува риск хората да изгубят контрола, от Anthropic заявиха, че не могат просто да спрат работата си: „най-малко предпазливите играчи“ ще настигнат компанията и това може да „остави всички по-малко защитени“. С други думи: „Ние сме добрите, затова трябва да го изградим първи.“

Независимо как компаниите оправдават опасните си нови технологии, те участват в надпревара във въоръжаването и се сблъскват с това, което в международните отношения е известно като „дилема на сигурността“: една държава увеличава оръжейните си запаси, за да се опита да остане в безопасност, но това подтиква съперничещите държави да направят същото, защото се страхуват да не изостанат - и така се стига до ескалация.

След като Съветският съюз разбира, че САЩ разполагат с атомна бомба, той получава силен стимул да създаде своя собствена. Всички искат да бъдат в безопасност, но поддаването на натиска на надпреварата тласка всички ни към по-голяма опасност.

Същата динамика се разиграва и при AI, като новите иновации носят със себе си цена за безопасността, която тревожи дори самите изследователи в бранша. Една надпревара е достатъчно опасна, когато знаеш какво изграждат всички останали. Тази обаче изглежда е на път да се премести в сянката.

Парми Олсън е колумнист на Bloomberg, който се занимава с технологии. Бивш репортер на Wall Street Journal и Forbes, тя е автор на книгата „Превъзходство: AI, ChatGPT и надпреварата, която ще промени света.“