Anthropic неволно разкри вътрешната система зад Claude Code

Anthropic PBC неволно е публикувала вътрешен изходен код зад популярния си AI-базиран асистент за програмиране Claude, което повдига въпроси относно сигурността на разработчик на модели за изкуствен интелект, изградил бранда си върху приоритета към безопасността.

„По-рано днес версия на Claude Code съдържаше част от вътрешния изходен код.

Не са били засегнати или разкрити чувствителни клиентски данни или идентификационни данни,“ посочиха от Anthropic в изявление по имейл късно във вторник. „Става дума за проблем при пускане на версията, причинен от човешка грешка, а не за пробив в сигурността.“

Втори пропуск в сигурността

Неволното публикуване представлява втори пропуск в сигурността за Anthropic в рамките на дни, като са компрометирани приблизително 1 900 файла и 512 000 реда код, свързани с Claude Code - агентен инструмент за програмиране, който работи директно в средите за разработка.

Миналата седмица списание Fortune съобщи отделно, че Anthropic е съхранявала хиляди вътрешни файлове в система с публичен достъп, включително чернова на блог публикация, която описва подробно предстоящ модел, известен вътрешно като „Mythos“ и „Capybara“.

Още по темата

Claude AI помогна за въздушните удари над Иран. Но как точно?

След сблъсъка с Anthropic: OpenAI допуска Пентагона до своя AI модел

Регулаторен натиск

Разкритията идват в изключително неподходящ момент за Anthropic, която по-рано тази година беше определена от правителството на САЩ като риск за веригата на доставки, като компанията оспорва това определение в съда.

Anthropic предупреди, че този статус може да ѝ струва милиарди долари загубени приходи.

Последният инцидент с Claude Code стана публично известен чрез публикация в социалната мрежа X, която твърдеше, че сподея линк към кода, и събра над 30 милиона кикания.

Опасения на експертите

Изтичането на информация предизвика хиляди публикации онлайн от потребители, които твърдят, че са прегледали кода. Някои заявяват, че са открили функции, които все още не са пуснати официално, както и особености в текущата система на Claude Code.

Няколко експерти изразиха опасения относно потенциални уязвимости в сигурността.

„Атакуващите вече могат да анализират и тестват как точно данните преминават през четиристепенния процес на управление на съдържанието на Claude Code и да създават зловредни данни, които да оцелеят при компресиране, като по този начин ефективно поддържат задна врата в рамките на сесия с произволна продължителност,“ посочва компанията за AI киберсигурност Straiker в блог публикация.

От своя страна Anthropic заяви, че „въвежда мерки, за да предотврати повторение на подобни случаи“.

Оценка и пазарно влияние

През февруари Anthropic набра 30 млрд. долара в мащабен рунд на финансиране, който оцени компанията на 380 млрд. долара, включително привлечения капитал - приблизително двойно увеличение спрямо предходната ѝ оценка.

Същия месец компанията привлече вниманието на пазарите с пускането на серия продукти, което доведе до спад в акциите на компании от правния сектор, софтуерната индустрия и киберсигурността заради опасения от мащабни технологични сътресения.

Още по темата

На какво TikTok и Huawei могат да научат Anthropic?

Anthropic съди правителството на САЩ заради етикета „риск за веригата на доставки“