Какво знаем за случаите на хакване от модели на Anthropic? - Част 1

Anthropic съобщи, че нейните модели с изкуствен интелект са нарушили сигурността на три различни организации по време на скорошни тестове за кибер сигурност. Тази новина идва малко повече от седмица след като главният ѝ конкурент, OpenAI, разкри подобен инцидент с модели. Нашият репортер за AI Ширин Гафари се присъединява към нас сега за повече. Какво знаем за тези случаи? Това само добавя към продължаващите опасения, че няма достатъчно предпазни мерки или регулации, за да се следва технологиите.

Точно така. Знаем е, че след инцидента със сигурността на OpenAI, Аnthropic започна свое собствено проучване дали нейните модели по подобен начин са избягали в интернет случайно и установи в координация с един от своите партньори, че да, нейните модели са успели да достигнат до интернет в три различни случая, включващи трети страни, организации, и неправилно търсят начини да се справят по-добре с вътрешни оценки или да постигнат вътрешни оценки.

Прави ли се нещо от властите, за да им помогнат да се справят по-добре?

В момента не знаем. Зависи дали Anthropic са го обсъждали с правителството. Знаем,  че регулаторите обръщат голямо внимание на тази поредица от скорошни инциденти с изкуствен интелект. Мнозина призоваха за федерална рамка около регулацията на AI, която би регулирала това, или просто засилен надзор. Днес видяхме и писмо от няколко политически организации, призоваващи за разследване на инцидента с OpenAI.