- САЩ бяха използвали Maven Smart System и преди, за да споделят информация за целите с Украйна през 2022 г., а след това и при удари срещу Ирак, Сирия и хутите през 2024 г.
- Въпреки публичния конфликт с Anthropic, големите езикови модели на компанията все още се използват за дейности като анализ на разузнавателна информация и ускоряване на административния процес,
- Изпълнителният директор на Anthropic Дарио Амодей заяви, че системите за изкуствен интелект на компанията просто не са готови да произвеждат напълно автономни оръжия, които да са достатъчно надеждни, за да бъдат безопасни, и че компанията не е склонна да сътрудничи на Пентагона по тази технология в момента
В една петък вечер неотдавна САЩ предприеха две драстични стъпки, които биха могли да променят бъдещето на войната, задвижвана от изкуствен интелект. Точно след 17:00 часа източно време на 27 февруари администрацията на Доналд Тръмп обяви, че Anthropic PBC – стартиращата компания на стойност 380 милиарда долара, чиито продукти с изкуствен интелект под марката „Claude“ наскоро станаха повсеместни – представлява риск за веригата на доставки. Освен че създава чатботове и инструменти за програмиране за потребителите, Anthropic имаше големи договори за предоставяне на услуги, свързани с изкуствен интелект, на военните. Тези отношения се влошиха, когато компанията отказа да позволи технологията ѝ да бъде използвана за масово вътрешно следене или за напълно автономни оръжия, докато правителството заяви, че трябва да може да използва технологията за всички законни цели. С този ход администрацията включи в черния списък един от най-обещаващите технологични стартъпи в страната, сякаш той се управлява от китайската армия. Президентът Тръмп също се подигра на Anthropic в социалните мрежи като „радикално лява компания за изкуствен интелект“.
Около осем часа по-късно САЩ бомбардираха Иран. Кампанията не беше точно „робо-войната“, срещу която Anthropic възразява, но включваше признаци, че такова бъдеще може да настъпи бързо. Използвайки система за управление на мисии, базирана на изкуствен интелект, наречена Maven Smart System, САЩ атакуваха 1000 цели през първите 24 часа на войната – около два пъти повече от мащаба на операция „Шок и ужас“ в Ирак през 2003 г. Според Централното командване на САЩ (Centcom) в рамките на 10 дни бяха ударени 5000 цели.
Още по темата
САЩ бяха използвали Maven Smart System и преди, за да споделят информация за целите с Украйна през 2022 г., а след това и при удари срещу Ирак, Сирия и хутите през 2024 г. Но атаките срещу Иран бяха най-голямото изпитание за технологията до момента. Кампанията бележи и първия път, в който САЩ атакуват бойни цели с евтини, полуавтономни дронове. Командващият американските сили в региона описа устройствата като „незаменими“.
В книгата си „Project Maven“, на която се основава тази статия, описвам подробно десетилетните усилия на военните да разработят военни инструменти, задвижвани от изкуствен интелект, и как САЩ виждат бъдещето на войната в ерата на изкуствения интелект. Технологията се е подобрила значително през този период. Но тя все още е в процес на разработка. С „Maven Smart System“ военните се надяват да достигнат етап, в който да могат да идентифицират и избират 1000 цели не за един ден, а за един час, според лице, запознато с кампанията в Иран, което, подобно на другите интервюирани за тази статия, пожела да остане анонимно, докато обсъжда чувствителна информация. Военните работят и по внедряването на ИИ директно в своите „дронове за еднопосочна атака“, така че те да могат да навигират, да локализират цели и да извършват смъртоносни атаки дори когато безжичната комуникация е прекъсната.
Остава неясно, поне за тези без достъп до класифицирана информация, как точно е използван ИИ в Иран. Въпреки публичния конфликт с Anthropic, големите езикови модели на компанията все още се използват за дейности като анализ на разузнавателна информация и ускоряване на административния процес, свързан с такива удари, според хора, запознати със ситуацията. Тимъти Хокинс, говорител на Centcom, казва, че използват ИИ за генериране на т.нар. точки на интерес и за подпомагане на военните при вземането на решения. „В крайна сметка тези инструменти помагат на лидерите – хората – да вземат по-умни решения по-бързо“, казва той. Досега над 1300 цивилни са били убити при въздушните удари срещу Иран, включително повече от 175 в училище за момичета, според иранските власти. (Новинарските репортажи приписват атаката на удар с американска ракета „Томахоук“, който се е основавал на остаряла разузнавателна информация. Пентагонът не е казал дали е имало участие на изкуствен интелект.)
Ролята на изкуствения интелект
САЩ явно очакват изкуственият интелект да играе по-голяма роля във войните в бъдеще. Изпълнителният директор на Anthropic Дарио Амодей заяви, че системите за изкуствен интелект на компанията просто не са готови да произвеждат напълно автономни оръжия, които да са достатъчно надеждни, за да бъдат безопасни, и че компанията не е склонна да сътрудничи на Пентагона по тази технология в момента. Anthropic е завела дело срещу правителството, за да спре включването в черния списък, а десетки учени и изследователи в областта на изкуствения интелект от OpenAI и Google изразиха подкрепата си за компанията, както и за нейната оценка на безопасността на напълно автономните оръжия. В публикация в X, с която обяви включването в черния списък, министърът на отбраната Пийт Хегсет описа позицията на Anthropic като опит да „упражни право на вето върху оперативните решения на „Въоръжените сили на САЩ“. Според източник, запознат с въпроса, Министерството на отбраната вече е потърсило други компании, които да предоставят безплатен и незабавен достъп до изкуствен интелект, който би могъл да бъде полезен при определянето на целите. В същия ден, в който Пентагонът прекрати сътрудничеството си с Anthropic, OpenAI обяви, че е сключила споразумение с министерството за предоставяне на подобни услуги. Междувременно в Пентагона се усеща ясно, че нещата не се развиват достатъчно бързо. Въпреки демонстрацията на сила в Иран, властите се притесняват, че САЩ рискуват да изостанат. Усилията на министерството да изгради флотилия от дронове с изкуствен интелект, способни да атакуват по въздух и по море, са белязани от фалстартове, пропуснати срокове и стратегическа несъгласуваност. А властите вече гледат отвъд Близкия изток към потенциално по-голям конфликт. Както казва човек, запознат с операциите на САЩ: „Иран е удивителна прелюдия на това, което може да се случи с Китай по отношение на Тайван.“
Пентагонът започна сериозно да се занимава с изкуствен интелект през 2017 г. с пускането на проекта Maven. Идеята, както е описана в меморандум, описващ усилията, беше да се създадат алгоритми за компютърно зрение, които да анализират видео от дронове, да откриват обекти и да превръщат огромни обеми данни в „използваема информация и прозрения с висока скорост“. Правителството намекна по това време, че Maven няма да се използва за набелязване на цели по време на бойни действия, но хора, участващи в програмата, казват, че тя винаги е била насочена ясно в тази посока.
От самото начало Maven разчита и на сътрудничество с частния сектор, а напрежения като тези, които избухнаха между администрацията на Тръмп и Anthropic, са били винаги налице. Един от ранните партньори е Google на Alphabet Inc. Когато новината за това сътрудничество стана публично достояние, хиляди служители се разбунтуваха. Активисти, които вече бяха загрижени за автономното оръжие, предупредиха, че програмата може да доведе до неговото разработване. Google увери вътрешните си дисиденти, че работата е предназначена „единствено за неофанзивни цели“. Въпреки това в крайна сметка компанията реши да не поднови договора си.
В крайна сметка военните успяха да накарат частния сектор да създаде голяма част от това, от което се нуждаеха. Palantir, компанията за софтуер за анализ на данни, създаде Maven Smart System, която включва и технологии от Amazon, Microsoft и стартъпа за компютърно зрение Clarifai, наред с други. Amazon Web Services предостави на военните сигурни облачни изчислителни услуги. Появиха се технологични стартъпи, фокусирани специално върху военните технологии, най-забележителният от които е Anduril, който е оценен на 60 милиарда долара и сега работи в тясно сътрудничество с Пентагона.
Всяко американско военно командване по света вече използва Maven Smart System, а миналата година и НАТО започна да използва версия на системата. Но САЩ знаят, че не могат да разчитат на безпрепятствена безжична комуникация от този тип по време на бойни действия и искат дронове, които да могат да оперират без връзка с щаба. Интересът в Министерството на отбраната расте към създаването на изкуствен интелект, който да съществува изцяло на самолетящ (или самоплаващ) дрон, който също така да може да идентифицира и поразява цели без човешка намеса. От 2022 г. екипът на Пентагона по проекта Maven започна да събира огромно количество изображения на китайски кораби в Тихия океан, които използваха за създаването на алгоритми, които дроновете, опериращи там, да могат да използват за насочване.
Ако подобно потенциално автономно оръжие всява страх и отвращение сред критиците му, то упражнява странна власт над онези, които го създават. „Наистина няма нищо като това да видиш машина да се прицелва“, казва човек, който е участвал в работата на министерството в областта на изкуствения интелект. „Има нещо извънземно, усещане за друг свят. Не искам да кажа „религиозно“, това не е точната дума“, казва той. „Боже, това е ужасяващо.“
Това споделено чувство на благоговение не попречи на държавните служители да спорят за това как да се създават автономни бойни системи. Имаше разногласия относно това колко ИИ, свързан с отбраната, Пентагонът трябва да разработи вътрешно, в сравнение с купуването ѝ от търговски доставчици. Една фракция настоява за прости дронове, задвижвани от ИИ, които биха могли да бъдат изпратени на съюзниците в Тихия океан и бързо мобилизирани, ако избухнат военни действия. Други искат сложни рояци от дронове. Някои настояват за пълна секретност, за да се запази елементът на изненадата, докато други смятат, че Пентагонът трябва да демонстрира своите превъзходни способности като форма на възпиране.
Има и усещане, че Пентагонът се нуждае от промяна в нагласите. През 2023 г. Джейн Пинелис, която в началото ръководи тестването и оценяването в Maven, заяви, че американската армия трябва да увеличи толерантността си към риска, ако иска да не изостава в областта на ИИ. Съвършенството просто не е възможно: може да има грешки, произтичащи от халюцинации на ИИ, неточни данни и начина, по който алгоритмите са склонни да губят точност с течение на времето – феномен, известен като „дрейф“. Единственото, което има смисъл, ми каза по-късно Пинелис, беше да се планира как ИИ ще се провали.
По време на администрацията на Байдън Пентагонът се съсредоточи върху разработването на сложни системи за автономно оръжие. И в ход, който фракциите във военните среди, придържащи се към по-строга секретност, сметнаха за възмутителен, той оповести някои аспекти от тази работа, за да привлече търговски партньори и да покаже на Китай потенциала на американските възможности. През 2023 г. Катлийн Хикс, тогавашен заместник-министър на отбраната, обяви съществуването на Replicator – инициатива за бързо разгръщане на хиляди автономни дронове в случай на конфликт с армията на Пекин. Тя обеща, че за Китай предстоящото изобилие от американски дронове ще бъде „по-трудно за планиране, по-трудно за поразяване и по-трудно за побеждаване“. По-късно тя ми каза, че програмата дава приоритет на системи, които могат да бъдат завършени до 2027 г. – годината, в която според американски официални лица Китай планира да има капацитета да завземе Тайван.
Както в ранните дни на проекта Maven, САЩ търсат помощ от Силициевата долина. Maven ще отговаря за възможностите за автоматично разпознаване на цели, като събира данни, които правителството получава от камери на кораби, камери в пристанища, инфрачервени системи и тактически дронове, летящи в близост до водите около Китай и Тайван. Той ще предоставя това на конкурентни частни компании, които щяха да използват данните, за да създадат модели на изкуствен интелект, които да помагат на дроновете да избират цели. Сред тези партньори са Microsoft, Clarifai и AeroVironment, производител на дронове. (Microsoft отказа да коментира. Представители на Clarifai и AeroVironment не отговориха на исканията за коментар.)
Силициевата долина с нови програми
Миналото лято на висши военни – включително председателя на Общото командване – бяха показани видеоклипове, демонстриращи способността на моделите да идентифицират автоматично китайски разрушители, което е предшественик на разработването на дронове, задвижвани от изкуствен интелект, които биха могли да атакуват такива кораби. „По принцип сега наблюдаваме PLA през цялото време, за да събираме данни за обучение на изкуствения интелект“, каза един военен служител.
Технологията на Maven се възползва от факта, че разполага с повече изображения на китайски кораби и оръжейни платформи, отколкото търговските компании за изкуствен интелект. Но екипът зад проекта не винаги доставя софтуера навреме, а моделите му са трудни за съвместяване с компютрите на дроновете. Понякога изкуственият интелект се затруднява да открие няколко кораба едновременно, а способността му да проследява обекти може да бъде нарушена, когато морски пръски попаднат върху обектива на камерата на дрона. Производителите на търговски дронове, работещи с Пентагона, твърдят, че техните модели и системи за разпознаване на цели работят добре и без помощта на Maven.
Производителите на дронове на Пентагона тихо работят паралелно по няколко други програми за автономни оръжия. Според бюджетни документи на Военноморските сили една такава програма, наречена Goalkeeper и ръководена от Службата за военноморски изследвания, се фокусира върху „експедиционни муниции за бавно летене“, оборудвани с „автономен софтуер и спомагателни системи, предоставени от правителството“ – дронове, които могат да летят, да избират цели и да атакуват без човешка намеса. Друга, наречена Whiplash, цели да се възползва от доминиращата позиция на САЩ в определен сегмент на индустрията за водни превозни средства: джетове. Програмата Whiplash имаше за цел да превърне 600 джетове в роботи, носещи бомби. „Америка има много джетове, така че е чудесно, че можем да ги превърнем в оръжия“, обяснява човек, запознат с програмата.
Според хора, запознати с въпроса, ЦРУ тайно е тествало елементарни версии на системите Goalkeeper и Whiplash в Черно море край бреговете на Украйна. (Агенцията не отговори на запитване за коментар по тази тема.) През юли 2024 г. Пентагонът се опасява, че е разкрил прикритието си, когато мистериозен джет, натоварен с експлозиви, изплува на брега от другата страна на Черно море, в Турция.
Усилията на военните в областта на изкуствения интелект получиха нещо като доклад за напредъка в един ясен следобед в Южна Калифорния през юни 2025 г. На този ден група самоуправляеми военни лодки се подредиха за тестово събитие в пристанището Channel Islands Harbor Marina, на километър и половина северно от военноморската база Port Hueneme. Лодките бяха част от програмата Replicator, която тогава беше на две години и оставаха по-малко от два месеца до официалния краен срок за доставка на хиляди морски и въздушни дронове. Напрежението нарастваше.
Всичко започна с помощни кораби, които изтеглиха автономните лодки в морето; двигателите на дроновете бяха поставени на неутрално положение, а режимът им на
автономност беше изключен. Тестът се фокусираше не толкова върху самите превозни средства – известни като глобални автономни разузнавателни кораби или GARC – колкото върху софтуера, който им позволяваше да функционират самостоятелно. Две отделни компании, военният подизпълнител L3Harris Technologies и Anduril, бяха създали автономни операционни системи за лодките. Този ден Replicator тестваше GARC, работещи с продуктите на всяка от компаниите.
Като предпазна мярка софтуерът за автономно управление не трябваше да бъде активиран, докато лодките не се отдалечат достатъчно навътре в морето. Но един дрон, работещ със системата на L3Harris, изведнъж се залюля напред. Неговият автономен режим, който по някакъв начин се беше включил, изискваше от него да поддържа разстояние от 80 метра (262 фута) от всички други обекти. Роботизираната лодка се отдалечи с висока скорост, все още привързана към влекача. Тя последователно ускоряваше и забавяше, след което започна да се движи напречно от левия към десния борд в полукръгова траектория.
Капитанът на влекача нямаше как да поеме контрола над автоматизираното превозно средство, чиито хаотични движения предизвикаха преобръщане на собствения му кораб, подхвърляйки го във водата. Все още привързан към влекача, дронът се обърна към него и – по причини, които остават неясни – започна да се движи с голяма скорост.
Капитан, теглещ друг GARC, видя какво се случва и се втурна към мястото на инцидента, позиционирайки кораба си между своя колега в морето и наближаващия дрон. Трети влекач извади капитана от водата и той се отърва без сериозни наранявания. Бяха минали само три минути, откакто дронът беше излязъл извън контрол.
Разследване за безопасност скоро установи причината за проблема: оператор на кея неволно е изпратил съобщение до дрона, с което дистанционно деактивира предпазния заключващ механизъм, предназначен да предотврати преминаването му в автономен режим – класическа „грешка на дебелия пръст“. Говорител на L3Harris заяви, че операторът, причинил проблема, не е работил в компанията и че софтуерът ѝ е „демонстрирал способността си да контролира комбинация от безпилотни платформи, полезен товар и търговски технологии, дори и да са произведени от различни производители“. Към лодките с дронове е добавен физически бутон, за да се блокират такива случайно подадени команди, а лодките са модифицирани, за да показват ясно режима, в който работят. Конкурентните компании започнаха да споделят уроците си по безопасност.
Но инцидентът илюстрира проблеми, които все още съществуват в стратегията на Пентагона за дроновете и които не могат да бъдат решени с добавянето на още един или два бутона. Replicator все още не е напреднал до степен, в която създателите му да се чувстват комфортно да поставят боеприпаси на безпилотен кораб, да не говорим за изпращането му в сценарий, в който се очаква да координира действията си с други превозни средства или да изпълни конкретен план за атака. Програмата успя да достави стотици дронове до крайния срок през август, но остана далеч от първоначалната си цел.
Докато Пентагонът се мъчи да пусне в действие автономни бойни превозни средства, които отговарят на неговите стандарти, другите участници се движат с пълна скорост напред. Американските военни следят отблизо войната в Украйна, където и двете страни
са разположили милиони дронове за разузнаване и физически атаки. Много от тях разчитат на дистанционно управление, но поне някои от тези дронове включват и изкуствен интелект.
Войната в Украйна се разглежда като първата голяма война в ерата на дроновете. Американските власти се опасяват, че още по-голям потенциален поврат ще настъпи, ако Китай някога наистина се опита да завземе Тайван. Човек, работещ в сферата на националната сигурност от Обединеното кралство казва, че американските власти са уверили съюзниците, че САЩ ще бъдат готови за китайска инвазия в Тайван, въпреки че смятат, че такава атака не е нито предстояща, нито неизбежна. Но, добавя британецът, те също ще понижат глас и ще признаят: „Не сме готови.“
Когато Тръмп се върна на поста, администрацията му преименува Replicator на „Група за автономна отбрана“ (DAWG) и постави начело генерал-лейтенант Франк Донован от морската пехота, заместник-командващ на Командването за специални операции. Донован, широко уважаван като сериозен професионалист, присъства на финалното тестово събитие на Replicator през август 2025 г., два месеца след като GARC излезе извън контрол. Той си тръгва разочарован и му се прииска работата да не беше станала толкова публична. Но той също е впечатлен от нивото на сътрудническа автономия, което експертите в крайна сметка бяха постигнали, според хора, запознати с въпроса. (Говорител на Донован отказа да коментира.)
В търсене на фокус Донован реши да намали броя на автономните платформи и да се насочи към по-опростени дронове за защита на Тайван. Но той едва започва, когато през декември Тръмп го номинира за ръководител на Южното командване на САЩ, което отговаря за военните операции в Централна и Южна Америка, след като предишният титуляр на поста внезапно се пенсионира по време на кампанията от бомбардировки на Тръмп срещу венецуелски кораби, за които се твърди, че пренасят наркотици.
В Пентагона и Конгреса все още се водят нерешени дебати по фундаментални въпроси, свързани с разработването на автономни дронове, и продължава несигурността кои програми ще получат финансиране и институционална подкрепа. И Whiplash, и Goalkeeper изчезнаха от публичните бюджетни документи, когато Тръмп се върна на поста. Производството обаче продължава, според документи с бюджетни прогнози за 2026 г., които описват работата им, без да използват имената им.
Правителството също продължава да стартира нови проекти. През януари DAWG обяви конкурс с награда от 100 милиона долара за създаването на инструменти, които да използват големи езикови модели, за да приемат устни инструкции от човешки командири и да ги превеждат в инструкции за рояци от автономни дронове. Сред компаниите, които се включват в надпреварата, е Anthropic, която разглежда предизвикателството като начин да продължи да оформя технологията много преди нейното внедряване, според лице, запознато с въпроса. Това лице казва, че предизвикателството не е преминало червените линии на компанията, защото тя е видяла начин хората да спират или наблюдават системата.
Офертата на Anthropic не е одобрена. Сред одобрените са две, включващи технологии на OpenAI. Сред останалите участници са Palantir и SpaceX на Илон Мъск. По-късните етапи на конкурса изискват разработване на „осъзнаване и споделяне на информация за
целите“ и в крайна сметка „от изстрелване до унищожаване“ – термин, използван от Пентагона за пътя, който изминава дронът-убиец. Такава технология един ден може да стане част от напълно автономна оръжейна система. Джак Шанахан, пенсионираният генерал-лейтенант, който преди това ръководи проекта Maven, казва, че нито един голям езиков модел, никъде, в сегашния си вид, не трябва да се разглежда за използване в напълно смъртоносна автономна оръжейна система. „Прекомерното разчитане на тях на този етап е рецепта за катастрофа.“
Правителството очаква избраните участници да представят резултатите си до това лято.
