Компанията разработила чатбота с изкуствен интелект ChatGPT ще започне да плаща до 20 000 долара на всеки, който ѝ помогне да открие грешки в своите системи за изкуствен интелект.
В публикация в блога си във вторник компанията пише, че е въвела програма за възнаграждение за грешки, чрез която хората могат да съобщават за слабости, грешки или проблеми със сигурността, които са открили, докато са използвали нейните продукти за изкуствен интелект. Такива програми са често срещани в технологичната индустрия, а OpenAI заяви, че ще си партнира с платформата, която изплаща пари за намиране на грешки Bugcrowd Inc.
Компанията ще изплаща парични възнаграждения в зависимост от размера на откритите грешки, като те варират от 200 долара за това, което тя нарича "открития с ниска степен на опасност", до 20 000 долара за "изключителни открития".
Компанията заяви, че отчасти въвежда програмата, защото вярва, че "прозрачността и сътрудничеството" са ключови за намирането на уязвимости в нейните технологии.
"Тази инициатива е съществена част от нашия ангажимент за разработване на безопасен и усъвършенстван изкуствен интелект", се казва в публикация в блога, написана от Матю Найт, ръководител на отдела за сигурност на OpenAI. "Тъй като създаваме технологии и услуги, които са сигурни, надеждни и заслужават доверие, бихме искали да получим вашата помощ."
На страницата Bugcrowd за програмата за награди на OpenAI са описани подробно редица проблеми, свързани със сигурността на моделите, които не отговарят на условията за награди, включително подкани за забранени действия, въпроси, в резултат на които моделът на изкуствен интелект пише злонамерен код, или запитвания, в резултат на които моделът казва обидни неща на потребителя.
Съобщението не е особено изненадващо. Грег Брокман, президент и съосновател на базираната в Сан Франциско компания, наскоро спомена в Twitter, че OpenAI "обмисля да започне програма за награди" или мрежа от "червени екипи" за откриване на слаби места.
Той направи този коментар в отговор на публикация, написана от Алекс Албърт, 22-годишен ентусиаст, който се занимава с команди за заобикаляне на правилата и на чийто уебсайт са събрани писмени команди, предназначени да заобиколят защитните мерки, които чатботове като ChatGPT са въвели.
"Демократизираната работа на „червените екипи“ е една от причините, поради които внедряваме тези модели", пише Брокман.
Бизнес старт – сутрешен блок с Роселина Петкова и Христо Николов
Dow Jones прибави над 400 пункта след нарасналите надежди за понижаване на лихвите от Фед 
Кадър на деня за 3 май 
Китай започна историческа мисия за вземане на проби от далечната страна на Луната 
Русия е установила контрол над територия от 547 км в четири украински области тази година 
Нетрадиционни, но ефектни и лесни идеи за боядисване на яйца 
Откриха батерия в козунак, БАБХ проверява случая 
Експерти посочиха най-стилните електромобили 
Зеленски: Украйна е в нов етап във войната, ще нарушим плана за настъпление на Русия 
продава, Земеделски имот, 3500 m2 Враца, Студентски Град, 35000 EUR 
продава, Парцел, 5549 m2 Враца област, с.Паволче, 332940 EUR 
продава, Четиристаен апартамент, 158 m2 Враца, Център, 200000 EUR 
продава, Склад, 216 m2 Враца, Дъбника, 82864.45 EUR 
Кои качества силният пол намира за атрактивни? 
Захарова: Москва е готова да обсъди сериозни предложения за мир в Украйна 
Зодиите, които сдържат сълзите си 
Джъстин Бийбър плаче, Хейли е до него 
Най-откачените рекорди на Гинес с мотоциклет 
30-те най-продавани нови коли в България 
Отчаяни мерки: Tesla изгони целия екип на Supercharger 
Volkswagen и Volvo наемат работници от... Узбекистан 
