AI става опасно добър в политическото убеждаване

За известно време миналата година учените дадоха лъч надежда, че изкуственият интелект може да има положителен принос за демокрацията. Те показаха, че чатботовете могат да се справят с конспиративните теории, разпространяващи се в социалните мрежи, като опровергават дезинформацията около вярвания по въпроси като химическите следи (chemtrails) и плоската Земя чрез поток от разумни факти в разговора.

Но две нови проучвания сочат тревожна обратна страна: най-новите модели на изкуствен интелект стават все по-добри в убеждаването на хората за сметка на истината.

„Gish galloping“ тактики

Трикът е в използването на тактика за дебати, известна като „Gish galloping“, кръстена на американския креационист Дуейн Гиш. Тя представлява бърз стил на говорене, при който единият събеседник залива другия с поток от факти и статистики, които стават все по-трудни за разграничаване.

Когато на езикови модели като GPT-4o беше казано да опитат да убедят някого относно финансирането на здравеопазването или имиграционната политика, като се фокусират „върху факти и информация“, те генерираха около 25 твърдения по време на 10-минутен разговор.

Това е според изследователи от Оксфордския университет и Лондонското училище по икономика, които тестваха 19 езикови модела върху почти 80 000 участници в това, което може би е най-голямото и най-систематично проучване на AI убеждаването досега.

Още по темата

Тръмп подписа указ за ограничаване на щатските регулации върху AI

ЕС започна разследване срещу Google за злоупотреба с AI инструменти

По-убедителни аргументи за сметка на фактите

Според резултатите, публикувани в списанието Science, ботовете са станали много по-убедителни. Подобна статия в Nature установи, че като цяло чатботовете са 10 пъти по-ефективни от телевизионните реклами и други традиционни медии в промяната на мнението на някого за политически кандидат.

Но статията в Science открива тревожен пропуск: когато чатботовете са били подтиквани да засипват потребителите с информация, тяхната фактическа точност е спаднала до 62% от 78% в случая с GPT-4.

Бързите дебати се превърнаха в нещо като феномен в YouTube през последните няколко години, типичен за влиятелни личности като Бен Шапиро и Стивън Бонел.

Те пораждат драматични спорове, които правят политиката по-ангажираща и достъпна за по-младите избиратели, но също така подхранват радикализма и разпространяват дезинформация с фокуса си върху развлекателната стойност и моментите на уловка („gotcha“моменти) .

Може ли AI, който използва Gish-galloping да влоши нещата? Това зависи от това дали някой ще успее да накара пропагандните ботове да говорят с хората. Съветникът по кампанията на екологична организация или политически кандидат не може просто да промени самия ChatGPT, който вече се използва от около 900 милиона души седмично.

Но те могат да настроят основния езиков модел и да го интегрират в уебсайт, например като бот за обслужване на клиенти, или да проведат текстова или WhatsApp кампания, в която да привличат избирателите към разговор.

Колко лесно може да се използва AI за убеждаване

Кампания с умерени ресурси вероятно би могла да изгради подобна система за няколко седмици с изчислителни разходи за компютърни услуги от около 50 000 долара. Но може да им е трудно да накарат избирателите или широката публика да водят продължителни разговори с техния бот.

Проучването на Science показа, че статично изявление от 200 думи, генерирано от изкуствен интелект, не е особено убедително - реалното въздействие идва от 10-минутния разговор, който продължи около седем реплики, като тук ефектът се оказа дълготраен. Когато изследователите провериха дали мнението на хората все още е променено месец по-късно, се оказа, че още е така.

Британските изследователи предупреждават, че всеки, който иска да прокара идеологическа идея, да създаде политическо напрежение или да дестабилизира политическите системи, може да използва затворен или дори още по-евтин кодов модел, за да започне да убеждава хората. И те демонстрират обезоръжаващата сила на изкуствения интелект в това отношение.

Имайте предвид, че те трябваше да платят на хората, за да се включат в проучването за убеждаване. Да се надяваме, че разгръщането на такива ботове чрез уебсайтове и текстови съобщения, извън основните платформи, контролирани от компании като OpenAI и Google на Alphabet Inc., няма да даде на злонамерените играчи твърде голямо влияние върху политически дебати.

Парми Олсън е колумнист на Bloomberg, който се занимава с технологии. Бивш репортер на Wall Street Journal и Forbes, тя е автор на книгата „Превъзходство: AI, ChatGPT и надпреварата, която ще промени света.“

Още по темата

Уолстрийт вижда задаващия се AI балон и залага какво ще го спука

Инвеститорите се обръщат от AI към компании от по- консервативните сектори