Австралийският регулатор заплашва със санкции заради слаб контрол върху AI

Водещият австралийски пруденциален регулатор заяви, че ще предприеме действия срещу компании, които не успяват да контролират адекватно киберзаплахите, на фона на нарастващи притеснения в индустрията около последния модел за изкуствен интелект Mythos на Anthropic PBC.

Надзорът открива ключови слабости в сектора

Австралийската служба за пруденциално регулиране (APRA) финализира план за надзор върху рисковете от изкуствения интелект, след преглед на банки, застрахователи и пенсионни фондове, проведен в края на миналата година, който е установил редица слабости.

Сред тях са практики по информационна сигурност, които изостават спрямо развитието на AI заплахите, както и прекомерна зависимост от външни доставчици на изкуствен интелект, посочва регулаторът.

Още по темата

Терористичната атака на плажа Бонди показа пропуски в сигурността на Австралия

Австралия забрани социални мрежи за тийнейджъри, част 2

„Когато субектите не успяват да идентифицират, управляват или контролират адекватно рисковете от AI по начин, съобразен с техния размер, мащаб и сложност, ще предприемем по-строги надзорни действия и, когато е уместно, ще пристъпим към санкции“, се казва в писмо на APRA, публикувано в четвъртък.

Глобален натиск за по-строг контрол върху AI

Коментарите от Австралия подчертават спешността, с която регулаторите по света действат, за да подтикнат компаниите да засилят защитата си срещу рисковете от AI, докато технологията се развива с бързи темпове.

APRA води диалог със сектора относно потенциала за засилени „киберзаплахи от авангардни модели на изкуствен интелект с високи възможности, като Anthropic Mythos“, според писмото на члена на изпълнителния борд Терез Маккарти Хоки.

Регулираните субекти ясно осъзнават необходимостта от качествена промяна в киберпрактиките в условията на „развиваща се среда на заплахи“, се посочва още в документа.

APRA призова компаниите да осигурят надеждни резервни процеси в случаите, когато технологията за изкуствен интелект поддържа критични операции, и призова за „строги тестове за сигурност на генерирания от AI код“.

Още по темата

ЕС и Австралия обявиха, че искат свят без мита

Австралия става трета в света по инвестиции в AI след САЩ и Китай

Зависимостта от доставчици увеличава риска

По отношение на други слаби места регулаторният орган предупреждава за концентрация при доставчиците, при която компаниите разчитат в голяма степен на един доставчик за множество приложения на AI.

Налице е и прекомерна зависимост от „презентации и обобщения на доставчици без достатъчно задълбочен анализ на ключови рискове като непредсказуемо поведение на моделите и въздействието върху критични операции“, се казва в писмото.

Сред очакванията си APRA посочва, че компаниите трябва да са готови за „навременни действия“, когато инструментите за AI „не функционират според очакванията“.

Още по темата

Microsoft инвестира 18 млрд. долара за изграждане на AI капацитет в Австралия

Австралия ще подпише многомилиардна сделка за японски фрегати