Anthropic: Moonshot тайно е пренасочвала заявки към Claude

Anthropic PBC обвини китайския лидер в областта на изкуствения интелект Moonshot AI, че тайно е пренасочвала хиляди потребителски заявки към моделите Claude на американската компания и след това е представяла получените отговори като свои в опит да получи предимство в надпреварата за изкуствен интелект.

Според доклад, публикуван от Anthropic в четвъртък, Moonshot е пренасочвала заявки към чатботове на Anthropic, без да уведомява потребителите, вместо да ги обработва чрез своя модел Kimi.

В един от случаите Anthropic е установила близо 300 000 клиентски заявки, изпратени от Moonshot предимно към модела Opus на Anthropic.

Тъй като Anthropic не разрешава достъп до технологията си от територията на Китай, Moonshot е използвала 5380 измамни акаунта, повечето от които изглежда са били регистрирани в Сингапур и Япония, се посочва в доклада.

Anthropic свързва действията на Moonshot с дистилация на AI модели

Anthropic е установила, че дейността на Moonshot е била част от процес, известен като дистилация, при който разработчик използва данни от по-мощен модел на изкуствен интелект, за да подобри по-слаба система.

В този случай Anthropic смята, че отговорите, получени от Moonshot чрез системите на американската компания, впоследствие са били използвани за обучение на собствения софтуер на Moonshot. DeepSeek и Xiaomi Corp. са прилагали сходни практики, твърди Anthropic.

Докладът беше публикуван малко след като американските служби за сигурност обвиниха водещи китайски компании за изкуствен интелект, сред които DeepSeek и Moonshot, че системно извличат защитено ноу-хау от американски компании чрез практики за дистилация.

Правителството предупреди разработчиците от Силициевата долина да защитават своята работа. Американски технологични компании, сред които Anthropic, и преди са обвинявали китайски фирми, включително Moonshot, в използване на дистилация.

Оттогава Moonshot се превърна в един от най-значимите конкуренти на китайския пазар на изкуствен интелект благодарение на сензационния успех на модела си Kimi K3 това лято. 

От Moonshot отказаха  коментар. Представители на DeepSeek и Xiaomi не отговориха на запитванията за коментар, изпратени извън обичайното работно време.

Спорът между САЩ и Китай за използването на AI технологии се задълбочава

Китайското министерство на търговията наскоро заяви, че няма „фактическо или правно основание“ за обвиненията, че китайски компании за изкуствен интелект извършват дистилация на американски модели в промишлен мащаб. Министерството също така заплаши с ответни мерки, ако САЩ „предприемат действия за ограничаване и потискане“ на китайските компании за изкуствен интелект.

Дистилацията е широко използвана техника за подобряване на моделите с изкуствен интелект. Anthropic също е постигала подобрения чрез дистилация на собствените си модели, заяви Джейкъб Клайн, ръководител на изследванията на заплахите в компанията.

Но неразрешеното използване на дистилация създава риск други разработчици да заобикалят част от необходимата работа при създаването на по-добри модели и да ги предлагат на по-ниска цена, което потенциално може да отслаби позиции на компании като Anthropic, докато тя се подготвя за излизане на борсата.

Практиките на Moonshot повдигат и въпроси за защитата на данните

Техниката, както и предполагаемите тактики за пренасочване на заявки, могат да поставят нови въпроси за практиките на китайските лаборатории за изкуствен интелект по отношение на защитата на личните данни. „Ако ние правехме това или ако някой от конкурентите ни го правеше, това би било сериозен скандал, свързан с личните данни“, заяви Клайн в интервю.

Докладът на Anthropic, състоящ се от 145 страници, описва широк спектър от заплахи, свързани с нейния софтуер, които компанията твърди, че е открила и неутрализирала в периода от декември миналата година до август тази година. Сред тях са предполагаеми кибератаки, подкрепяни от държави и мотивирани от финансови цели, операции за наблюдение и кампании за дезинформация.

Докладът установява, че един потребител на Kimi е качил китайски данни от системи за наблюдение в модела, за да получи анализ дали даден човек се държи необичайно. Макар този потребител вероятно да е смятал, че заявката ще бъде обработена от Moonshot, в крайна сметка тя е била отправена към модел на Anthropic и така е станала видима за американската компания.

Според доклада заявката е съдържала видеозаписи от наблюдение, заснети от стотици камери, включително камери извън обекти на Народната освободителна армия на Китай.

Примерите в доклада показват как изкуственият интелект ускорява създаването на зловреден софтуер, наблюдението на социалните мрежи и разпространението на политическа пропаганда. Anthropic заяви, че във всеки от случаите е блокирала съответните акаунти и е разработила защитни механизми срещу подобно поведение в бъдеще.

Нови пробиви засилват натиска върху Anthropic и индустрията

Anthropic и по-широката индустрия за изкуствен интелект са под засилен контрол заради серия от пробиви, разкрити това лято, свързани с модели на изкуствен интелект и неуспешно проведени тестове за киберсигурност.

Случаите породиха опасения относно способността на компаниите да защитават най-напредналия си софтуер. В сряда Anthropic разкри, че е установила допълнителен пробив, извършен от един от нейните модели по време на тестове за сигурност. По думите на компанията инцидентът е включвал ранна версия на Claude Opus 4.6.