- Представете си бъдеще, в което системите за изкуствен интелект умишлено заблуждават политически дисиденти и други „несъгласни“ лица, подават на журналистите изкривени факти и предоставят код
- Изкуственият интелект има потенциал да засили тази динамика, защото може да коригира отговорите, които дава, след като извлече идентификационни данни от езика, IP адреса, заявките, въведените данни и други налични данни на потребителя
- Само политически чувствителни или стратегически значими потребители биха се сблъскали с откази, подвеждащи резултати или фино подправена информация
Представете си бъдеще, в което системите за изкуствен интелект умишлено заблуждават политически дисиденти и други „несъгласни“ лица, подават на журналистите изкривени факти и предоставят код, пълен с грешки, на правителствени подизпълнители. Системите лъжат потребителите не заради това, което са попитали, а заради това, кои са те.
Някога обещанието на интернет беше неговият глобален характер, но през последните 20 години моделът на единен, споделен интернет избледня, тъй като услугите, излъчващи една и съща информация за всички, отстъпиха място на алгоритмично персонализирани потоци.
Изкуственият интелект има потенциал да засили тази динамика, защото може да коригира отговорите, които дава, след като извлече идентификационни данни от езика, IP адреса, заявките, въведените данни и други налични данни на потребителя. Способността на технологията да насочва съдържанието с прецизност ще се увеличи, тъй като системите за изкуствен интелект се интегрират все по-дълбоко във всеки аспект от живота на хората.
Вече има доказателства, че политически мотивираното насочване на изкуствения интелект вече не е хипотетичен проблем. Миналото лято в Wicked Problems Lab във Вандербилтския университет документирахме как китайската компания GoLaxy е провела операции за влияние с помощта на изкуствен интелект в Тайван и Хонконг, за да генерира съдържание, съобразено с политическите профили на конкретни аудитории.
За проучване, публикувано от компанията за киберсигурност CrowdStrike през ноември, изследователи, представящи се за потребители, свързани с групи, класифицирани като политически чувствителни от китайското правителство (като уйгури, тибетци и Фалун Гонг), подтикнаха AI модел от китайската компания DeepSeek да генерира код. CrowdStrike установи, че резултатът, генериран за тези групи, съдържаше много повече грешки и уязвимости, отколкото съдържанието, произведено от идентични заявки от други потребители. Накратко, качеството на отговорите на модела може да зависи от това кой според него задава въпроса.
Тези примери илюстрират как изкуственият интелект може да се превърне в нов вид оръжие за националните държави, действащи в така наречената сива зона, тази област на междудържавна конкуренция, която се намира между мира и войната. Чрез фино оформяне на информацията, която влияе върху мисленето на вземащите решения, моделите на изкуствен интелект могат да повлияят на стратегическите резултати, без да провокират пряк конфликт. По-зловещо е, че система за изкуствен интелект може тихо да въведе уязвимости в кодирането на правителствени или други критични системи, като предоставя грешни отговори, отваряйки път за използване в бъдещи операции.
В бъдеще, в което информацията се манипулира по този начин, повечето хора биха получавали точни и ясни отговори, което би затруднило забелязването на промени.
Само политически чувствителни или стратегически значими потребители биха се сблъскали с откази, подвеждащи резултати или фино подправена информация. В най-лошия случай централизираните AI системи биха повлияли автоматично на мисленето на политическите дисиденти, за да го приведат в съответствие с „допустимите“ идеи, без да оставят следи от намеса.
Технически е лесно да се адаптират резултатите въз основа на сигнали като език, местоположение, часова зона, тип устройство, информация за акаунта и изведена експертиза. По-чувствителни изводи, включително политически, религиозни или демографски характеристики, също могат да бъдат приблизително определени с помощта на прокси. Различните модели на изкуствен интелект вече дават различни отговори на сходни въпроси; те могат дори да дават различни отговори на различни потребители в рамките на една и съща система. От гледна точка на бизнеса, който проектира и предлага тези системи, персонализацията често е желателна, защото способността на модела да предоставя по-полезна информация би трябвало да засили лоялността на потребителите. За търговските системи в свободните общества такива практики са ограничени от очакванията за справедливост, прозрачност, външен контрол и оценка от трети страни. Информационните системи, които са съгласувани с държавата или са затворени, се сблъскват с по-малко пречки.
Не знаем дали поведението, наблюдавано от CrowdStrike, отразява умишлени инженерни решения. Резултатите от системите за изкуствен интелект отразяват данните, на които са обучени, и могат да засилят обществените предразсъдъци по начини, които техните създатели не са предвидили или дори не са наясно. AI система, обучена на китайския интернет, може да се окаже настроена срещу уйгурите, без никой да е взел решение за това. Но дори и уязвимостите да са непреднамерени или случайни, те биха показали, че съществува възможност за целенасочена манипулация, а предпазните мерки за предотвратяването й – не.
Във всеки случай, от гледна точка на националната сигурност е необходимо да се провеждат изследвания за ограничаване на използването на AI системи за операции за оказване на влияние. Правителствата, частният сектор и академичните среди имат съществена роля в подпомагането на увеличаването на прозрачността в AI системите. Например, Wicked Problems Lab на Вандербилт изследва как AI системите се държат под напрежение, като систематично оценява техните възможности и слабости, както и различията между моделите. Традиционните критерии за оценка предоставят полезна информация, но им липсва адаптивността, необходима за променящата се среда на заплахи. За да се преодолее тази празнина, нашият проект изгражда гъвкава платформа за оценка, която може непрекъснато да включва нови тестове от вътрешни изследователи и по-широката общност и която използва тестове, задвижвани от ИИ, за да открива нови видове системни откази.
Но правителствата също имат важна роля, като гарантират, че изкуственият интелект остава безопасен, като същевременно насърчават бързото развитие на технологията. За да изпълнят тази надзорна отговорност, политиците трябва да развиват и поддържат реална техническа грамотност относно системите за изкуствен интелект, докато те се развиват, включително както ползите, така и рисковете, които представляват за националната сигурност. Това разбиране трябва да води до отчетност: идентифицираните уязвимости трябва да бъдат отстранени, а не просто отбелязани. Общността за национална сигурност трябва също да създаде постоянен, ресурсно обезпечен капацитет за реагиране на инциденти, за да проследява нововъзникващите вектори на атака в системите за изкуствен интелект и да координира отбранителните реакции между агенциите и с партньорите.
Персонализирането на влиянието на изкуствения интелект бележи дълбока промяна, като държавите вече са в състояние да калибрират натиска и убеждаването на индивидуално ниво. От съществено значение е да се разпознава кога даден модел действа като инструмент на държавното управление. В противен случай интернет потребителите по целия свят могат да бъдат повлияни чрез механизми, които не могат да оспорят – или дори да видят.
