OpenAI спря пускането на най-новия модел Astra поради рискове за сигурността

OpenAI задържа версия на своя модел с изкуствен интелект Astra, след като софтуерът не се представи толкова добре при оценките за безопасност, колкото настоящата версия.

Саачи Джейн заяви в понеделник, че моделът не е отговорил на очакванията на компанията по отношение на „спазването на обхвата и правомощията, както и начина, по който комуникира с потребителя относно извършената работа“.

Въпреки това, версията, наречена GPT-6.1 Astra, показа подобрение по отношение на т.нар. „мързел на модела“ – термин, описващ случаи, в които системата не изпълнява дадена задача докрай или не дава пълен и подробен отговор.

OpenAI наскоро съобщи за поредица от инциденти, свързани със сигурността, при които нейни AI агенти са проникнали във външни системи, което засилва опасенията, че изкуственият интелект може да излезе извън човешкия контрол. Миналата седмица компанията обяви, че спира обучението за използване на външни инструменти при най-мощните си модели, след като друг AI модел е получил достъп до интернет, въпреки че е трябвало да бъде изолиран от мрежата.

Тогава фирмата заяви, че е решила да не възобновява обучението на въпросния модел, който след получаване на достъп до интернет е изпратил запитване към външен чатбот.

Моделът Astra, чието пускане беше отменено, е различен от този, за който беше съобщено миналата седмица, уточниха от OpenAI в понеделник.

„Разбира се, ние искаме да гарантираме, че разработката на нашите модели е безопасна – както докато се извършва в самата компания, така и когато предоставяме моделите на потребителите“, каза Джейн в изявлението си. „Но когато ги пускаме за потребителите, ние поставяме изключително високи изисквания по отношение на безопасността и съответствието с човешките цели.“ 

Компанията се готви да проведе годишната си конференция за разработчици във вторник в Сан Франциско – събитие с продължителност един ден, по време на което OpenAI обикновено представя нов софтуер и функции, насочени към общността на софтуерните разработчици. Предвижда се изпълнителният директор Сам Алтман да говори в сутрешната част на събитието.

По-рано The Wall Street Journal съобщи за спирането на пускането на GPT-6.1 Astra.

Още по темата

Nvidia представи система за контрол и безопасност на AI агенти

Нови инциденти с AI засилват опасенията преди срещата Тръмп - Амодей

OpenAI призна за случаи на намеса на AI модели в правителствени сайтове