AI, душа и чувства според Anthropic, част 1

Аманда, благодаря, че сте тук днес. Прекарахме много време в Bloomberg, пишейки и мислейки за бизнеса, но особено за Anthropic, етиката, ценностите, индивидуалността на инструментите, които създавате, също са толкова важни.

Прекарвате времето си в размисъл за това как да се уверите, че чатботът и моделите на Claude на Anthropic са „добри“. Помогнала сте за написването на 84 страници документ, Конституцията, тълкуване на нейните ценности принципи. Ще стигна до това, но първо  искам да попитам когато не пишете този документ, какво правите ежедневно? Можете ли да разясните какво означава да си философ и етик в една от водещите световни лаборатории за изкуствен интелект?

Притеснявам се, че действителният отговор е по-скучен, отколкото хората си мислят. Присъединих се към Anthropic, когато беше много малка, стартъп.

Това, което казах на хората е, че стартиращите компании обикновено не наемат философи, които да се занимават с философия. Поне това е необичаен бизнес модел.

Правех много експерименти с машинно обучение и се учех как да обучавам модели. Все още мисля, че това е моята основна любов в някакъв смисъл.

Опитвам да мисля за нормите, които моделът трябва да следва, мисля какви искаме да бъдат моделите, прекарвам много време в размисъл за това как можем да ги обучим, прекарвам много време в гледане на данни, което е нещо като суперсилата на един изкуствен интелект.

Способността да се взира в наборите от данни и да проверява за проблеми. И така, да, много време прекарвано в обучение на модели.

Знам, че Anthropic наемат повече хора, за да помогнат по философската и етичната страна на ръководството на тези инструменти за изкуствен интелект.

Да. Интересно е да се види как все повече философи се включват в този вид работа. Виждам го в цялата индустрия.

Въпреки че, честно казано, не бях единственият философ известно време, доста рано, имаше философи, които просто идват и правят различни аспекти на моралното обучение на изкуствения интелект.

Но има някакво увеличение при тях и това е много добре.

Бих го описала също като осъзнаване за обучение на модели за много ясни задачи, където има ясен правилен отговор, като едно нещо и всъщност е доста трудно да се обучат те към тези по-скоро размити, аморфни задачи, където има набор от добри и по-добри отговори.

Може да е малко трудно да се дефинира.

Някои области като философия, творческо писане и просто като цяло добра преценка са в този лагер. Много компании сега мислят как да се уверят, че стават добри в, например, тази страна на задачите.