Могат ли независими тестове да направят AI по-безопасен, част 1

Раян Кришнан е основател и директор на ValsAI, която независимо тества и оценява AI моделите, включително и такива, които не са още пуснати от OpenAI и Anthropic. Той казва, че „интегрираните компании за оценяване ще осигурят равнопоставеност и публично доверие. Сега Раян е при нас. Имате отговор за Дарио Амодей. Да започнем с него. Какво е заключението ви?

Честно, бяха направени доста крайни изказвания в последната седмица.

Не знам откъде идват, но може да създадат обща ненужна несигурност и тревога сред обществеността.

За мен има основание за оптимизъм. От опита ми с ValsAI, защото ние сме на място и работим още с първите лаборатории. Работим с всички основни разработчици на модели, Конгреса и държавните агенции, както и с някои големи фирми.

На публичната сцена има конфликт.

Но като цяло имаме основание да сме оптимисти.

Да кажем какво открива Vals. Ако опростим това, което искат Дарио Амодей и останалите, те настояват за забавяне на разработването на способности, темповете на тази разработка. Така че да позволят да се въведат мерки за безопасност. Вие виждате модели във фаза обучение и преди пускането им, нали?

Да. Забелязваме, че имаше изключително силно финансиране на генерацията на способности на моделите, без да има такива паралелни инвестиции в тестовата фаза  и оценка.

Способността ни да правим по-добри модели изпреварва разбирането им. Това е проблемът.

Мнозина питат защо става точно сега? Дарио Амодей написа за способността на AI да помага в разработката и развитието на бъдещото поколение AI. Подобрение в движение. Това беше в основата на статията му. Вие следите този въпрос във Vals според индекса RSI – на подобрението в движение. Обяснете ни какво търсим, каква е методологията и какво ви показва индексът за способността на AI допринася за развитието на изкуствения интелект.

Това е основният показател, който следи напредъка на основните гранични модели към самоусъвършенстването в движение.

Това е способността на моделите да правят самостоятелно нови версии на самите себе си.

Изцяло без човешка намеса.

За разлика от днес, когато моделите се използват активно, но хората все още участват в процесите.

Например GPT6 е в състояние да създаде GPT7 или Claude да създаде новата версия на самия себе си без участието на хората.

Забелязваме, че има някои ранни признаци, които моделите проявяват. Но все още са далеч от човешката граница.

Можем да съпоставим тези трендове и правим прогнозата, че модели ще избягат от хората вероятно към август 2027г.