Белият дом иска да има контрол върху пускането на нови AI модели

Администрацията на Доналд Тръмп обмисля издаването на указ за създаване на работна група по изкуствен интелект, съобщава New York Times, като част от серия мерки за засилване на контрола върху бързо развиващата се технология.

Засилен надзор върху AI

Едно от предложенията предвижда въвеждане на държавна процедура за преглед на нови модели, пише изданието, позовавайки се на американски официални лица и запознати с обсъжданията.

Представители на Белия дом са информирали ръководители от Anthropic PBC, Google на Alphabet Inc. и OpenAI за част от разглежданите планове по време на срещи миналата седмица, допълва вестникът.

Всяко съобщение по темата би дошло директно от президента, според служител на Белия дом, говорил при условие за анонимност с цел да даде представа за процеса на изработване на политики. По думите му обсъжданията около евентуални укази на този етап са спекулативни.

Потенциална промяна в политиката на Тръмп

Въвеждането на задължителен формален преглед на нови модели би отбелязало промяна в подхода на президента Доналд Тръмп към изкуствения интелект.

Досега той подкрепяше технологията чрез инициативи за насърчаване на изграждането на центрове за данни и осигуряване на енергийното им обезпечаване. От публикацията на New York Times не става ясно как точно биха функционирали подобни проверки и кои държавни агенции биха ги извършвали.

Още по темата

Новото поколение AI модели изправя киберсигурността пред изпитание

САЩ са похарчили $133 333 за всяка депортация към трети страни

Видеоигри и сладолед в Белия дом - ето какви бяха първите 100 дни на Мъск в DOGE

Според изданието подходът може да наподобява модела във Великобритания чрез Британския институт за сигурност на изкуствения интелект, който изследва и дава препоръки за безопасното използване на водещи модели.

В САЩ редица лаборатории за изкуствен интелект вече доброволно тестват авангардни модели преди пускането им на пазара, съвместно с федералния Център за стандарти и иновации в областта на изкуствения интелект.

Рискове за киберсигурността и напрежение с Пентагона

Усилията на администрацията на Тръмп за оформяне на политика в областта на AI се ускориха, след като Anthropic обяви миналия месец, че революционният ѝ модел Mythos има способност да открива уязвимости в мрежи и може да представлява глобален риск за киберсигурността.

Компанията засега е ограничила достъпа до Mythos до ограничен кръг финансови и технологични компании за тестване на системите им, а американски официални лица работят по разширяване на достъпа за федерални агенции с цел тестване.

В същото време Пентагонът е въвлечен в остър спор с Anthropic заради настояването на компанията за допълнителни предпазни механизми при военното използване на технологията ѝ.

След като преговорите по договора се провалиха през февруари, Министерството на отбраната определи компанията като риск за веригата на доставки и очерта шестмесечен срок за прекратяване на използването на продукта Claude на Anthropic, който до началото на тази година беше единственият AI инструмент, одобрен за работа с класифицирани мрежи.

Политика за сигурност и диверсификация на доставчиците

Началникът на кабинета на Белия дом Сузи Уайлс и други представители на администрацията са се срещнали на 17-ти април с главния изпълнителен директор на Anthropic Дарио Амодей, като сред обсъжданите теми е бил и Mythos.

Американските власти подготвят и меморандум за прилагането на AI в агенциите за национална сигурност, който насърчава използването на множество доставчици с цел ограничаване на рисковете във веригата на доставки и изисква от контрагентите на Пентагона да спазват военната командна структура. 

Още по темата

AI моделът, който плаши Уолстрийт, част 1

Изкуственият интелект захранва икономиката на Тръмп, но избирателите се тревожат

Кой ще замести Хасет в Белия дом, ако стане шеф на Фед