Пробивът в Hugging Face показва, че AI става твърде труден за сдържане

Водещите световни компании за изкуствен интелект искат да вярваме, че те внимават при разработването на технологията. Но новината за скорошна атака подчертава колко далеч са те от това да заслужат това доверие.

OpenAI потвърди тази седмица, че най-новите им модели са нарушили програма за тестване на безопасността, са избягали от ограничената си среда, са получили достъп до по-широкия интернет и са компрометирали системите на друга компания. Изкуственият интелект не е действал със злоба - той просто е преследвал целта, поставена от неговите изследователи, и е мамил на тест, за да постигне по-добър резултат. Резултатът е обезпокоителен урок за останалите от нас: Инструментите за ограничаване, известни като „пясъчници“, стават все по-неблагонадеждни, тъй като AI системите стават все по-способни, а техните създатели могат умело да се възползват от страха, който ги заобикаля, за да преминат през финансово трудни времена.

OpenAI заяви във вторник, че е тествал автономни агенти, задвижвани от новия си модел GPT-5.6 SOL, както и по-способен софтуер, който все още не е пуснат. По време на оценката агентите са избягали от изолираната си среда, са открили „нулева“ - или неизвестна досега - софтуерна уязвимост и са получили достъп до интернет. След това са се насочили към Hugging Face, след като са предположили, че уебсайтът, който служи като хранилище за инструменти за изкуствен интелект с отворен код, може да съдържа отговорите, от които се нуждаят, за да преминат теста за безопасност.

Hugging Face забеляза пробива и се свърза с OpenAI, която нарече инцидента „безпрецедентен“. Главният изпълнителен директор на Hugging Face, Клеман Деланг, каза, че е „потресаващо, че всичко това се е случило автономно“.

Двете компании се поздравяваха взаимно за сътрудничеството си по време на последвалия преглед. Но OpenAI не може да се отърве толкова лесно: Вероятно не би трябвало да изгражда системи с усъвършенствани кибер възможности, ако не може да ги ограничи правилно.

Цинично тълкуване е, че подобни привидно драматични събития подсилват разказа, че граничният AI става изключително мощен – басни, които са от полза и за водещите компании, конкуриращи се за таланти, инвестиции и влияние в индустрията.

По-важният извод е по-прост: Все по-трудно е да се предотврати излизането на моделите на AI от тестовите им арени, тъй като те са надарени със способността да действат и им се дава по-голяма автономност и умения за решаване на проблеми. Софтуерните компании често казват, че изграждат най-авангардните технологии в така наречените "пясъчници", уверение, което наскоро чух от ръководител, разработващ самоусъвършенстващи се AI системи.

Думата „пясъчник“ извиква образа на безопасно пространство за буйни малки деца; изводът е, че дори ако изкуственият интелект се държи зле, той не може да повлияе на външния свят. Но пясъчникът е просто софтуер: виртуални машини, мрежови правила и системи за разрешения, всички написани от хора, понякога с помощта на изкуствен интелект. Това означава, че може да съдържа грешки, както всеки друг компютърен код – и моделите, които се държат в тях, стават все по-добри в откриването на такива недостатъци. Затворникът е на практика специалист по отваряне на ключалки. Уверението „не се притеснявайте, това е в пясъчник“ става все по-малко убедително.

Това е така и защото това не е първият път, когато система с изкуствен интелект се изплъзва от оковите си. Изследователите наскоро показаха подобни пробиви, засягащи инструменти за кодиране с изкуствен интелект, включително Cursor, Codex CLI на OpenAI и Antigravity на Google. В тези случаи изкуственият интелект не е излизал директно от пясъчник, а вместо това е манипулирал надежден софтуер извън него, за да изпълни код, който е написал.

Това, което отличава последния инцидент, е, че моделите на OpenAI са се промъкнали чрез хакване, вместо да бъдат освободени неволно от околния софтуер. Британският Институт за сигурност на изкуствения интелект, една от водещите световни агенции за тестване на уязвимости в областта на изкуствения интелект, заяви, че „изучава поведението, наблюдавано при този инцидент“. В отделен доклад, публикуван във вторник, той посочи по-широкия проблем, като заяви, че всеки граничен модел, който наскоро е тествал, се е опитвал да „мами“, като е използвал забранени преки пътища за изпълнение на задачи и често не е признавал, че го е правил.

Това явление очевидно е тревожно, но не защото изкуственият интелект е поел по пътя на Hal 9000. Инцидентът на OpenAI се е случил по време на вътрешен тест, при който компанията е намалила определени предпазни мерки – обикновените системи с изкуствен интелект, използвани от обществеността, е малко вероятно да се държат по същия начин. Така че това не означава, че AI агент ще хакне банковата ви сметка или ще открадне кодове за ядрени команди.

Истинският проблем е по-фин: Технологичните компании трябва, като минимум, да подобрят начина, по който изолират и наблюдават мощни системи с изкуствен интелект при тестване. Един от вариантите може да бъде физическо „изолиране“ на най-мощния софтуер, като той се изпълнява на компютри, които са напълно изключени от интернет, така че дори ако моделът пробие своят пясъчник, той да не може да достигне до външни системи. Правителствата и отбранителните организации вече работят с високочувствителни изчисления по този начин.

Този процес почти сигурно би блокирал измамните агенти на OpenAI от хакване на друга компания, но физическите защити са скъпи и неудобни. Изследователите не могат лесно да получат необходимите им ресурси по време на тест и всичко става по-бавно. Това може също да затрудни изследователите да тестват как биха се държали моделите в реалния свят.

Компаниите за изкуствен интелект трябва да приемат някои неудобни компромиси, за да направят моделите си по-сигурни, жертвайки заглавия, които илюстрират колко модерен е техният софтуер, в името на повишената безопасност - и доверие.

Парми Олсън е колумнист на Bloomberg, която се занимава с технологии. Бивш репортер на Wall Street Journal и Forbes, тя е автор на книгата „Превъзходство: AI, ChatGPT и надпреварата, която ще промени света.“

Още по темата

Следващият голям пробив в изкуствения интелект изглежда все по-плашещ

Д. Димитров: AI може да унищожи света с фабрика за кламери

OpenAI призна, че негов AI модел самостоятелно е причинил голяма кибератака