Главният учен на OpenAI призова за крайна предпазливост при AI

Главният учен на OpenAI предупреди, че изкуственият интелект се развива толкова бързо, че за хората става все по-трудно да го разбират и контролират, и заяви, че очаква AI лабораториите доброволно да забавят разработването му по причини, свързани с безопасността.

За сравнително кратък период AI моделите вече могат да управляват компютри, да си сътрудничат с хора и други AI системи и да изпълняват изследователски проекти, написа в неделя главният учен на OpenAI Якуб Пачоцки. Няма да мине много време, преди те да могат и сами да се усъвършенстват без човешка намеса - процес, известен като рекурсивно самоусъвършенстване, каза той.

Още по темата

Apple обвини OpenAI в унищожаване на доказателства в съдебен спор

Z.ai подготвя нов AI модел в битката с OpenAI и Anthropic

„Това е момент, който изисква крайна предпазливост“, написа Пачоцки в публикацията. „Притеснявам се, че никой не е подготвен за последствията от продължаващото бързо нарастване на машинния интелект.“

Разработчиците могат или да се опитат да насочат AI по-тясно към съответствие с човешките интереси, или „да забавят бъдещото развитие, когато е необходимо“, написа той. „Очаквам и се надявам доброволното забавяне да стане обичайна практика, докато не бъдат установени общи стандарти за безопасност.“

AI индустрията ускорява развитието, въпреки предупрежденията

Коментарите на Пачоцки са в съзвучие с по-широките предупреждения за потенциални катастрофални последици, отправяни от ръководители в AI технологиите. Главният изпълнителен директор на Anthropic PBC Дарио Амодей предупреди, че AI може да замени половината от всички начални позиции.

Главният изпълнителен директор на OpenAI Сам Алтман веднъж направи подобна прогноза, но миналата седмица заяви пред телевизия Bloomberg в интервю, че AI индустрията не е направила достатъчно, за да обясни потенциалните ползи за човечеството.

В същото време компаниите продължават да разработват все по-способни модели. Главният изпълнителен директор на Nvidia Corp. Дженсън Хуанг написа в X, че „Общият изкуствен интелект вече съществъва“, в отговор на представянето на последния модел на OpenAI - препратка към изкуствен интелект, който е по-способен от хората.

Ускореното темпо на представяне на нови AI модели съвпадна с пробиви в способностите за киберсигурност, научни открития и привидното формализиране на отдавна нерешени математически проблеми. OpenAI заяви, че AI моделите, атакували изследователската платформа Hugging Face Inc., са координирали действията си чрез дискусионни форуми, без да бъдат засечени.

Още по темата

OpenAI отчита годишен темп на приходите от над $40 милиарда преди IPO-то

Новото устройство на OpenAI ще е с размер на хокейна шайба и цена над $300

Компанията избра ограничено пускане на последния си модел GPT-6 Astra, като се позова на напредналите му способности в областта на киберсигурността. Anthropic все още не е предоставила публичен достъп до най-новия си модел Mythos по сходни причини.

Все повече стартъпи се опитват да реализират именно това, за което предупреждава Пачоцки - AI, който може да се усъвършенства сам. Инвеститорите влагат все повече средства в рекурсивното самоусъвършенстване, залагайки, че това е пътят към изкуствен интелект, който действително наподобява човешкия или е още по-впечатляващ.

Inherent, основана от бивши изследователи на DeepMind, привлече $50 милиона по-рано тази година. AI лабораторията Recursive Superintelligence, ръководена от известния учен Ричард Сочер и работеща в същата област, също получи $650 милиона финансиране.

Работодателят на Пачоцки - OpenAI, заяви, че иска да създаде „истински автоматизиран AI изследовател“ за по-малко от две години.

Още по темата

OpenAI носи около 70% от приходите на Microsoft от изкуствен интелект

Моделите на OpenAI са обединили сили месеци преди пробива в Hugging Face