AI, душа и чувства според Anthropic, част 2

Казвате, че изкуственият интелект изглежда тъжен или, може би, че разговори за чувства и изк. интелект, могат да станат много противоречиви. Говорехте зад кулисите, че има много хора, които са изказвали този аргумент, но има една скорошна статия в Atlantic от Тед Чанг, в която се казва, че по принцип изкуственият интелект не е съзнателен, което е един от въпросите ни в този разговор. Изкуственият интелект може ли да се доближи до съзнанието? Някои хора са много силно убедени, че не може.

Примерът, който ни дава е, че ако влезете в ролята на две исторически фигури - Юлий Цезар и Чингис Хан в разговор, дори и да е много реалистично, никога няма да си помислите, че това са наистина Юлий Цезар и Чингис Хан.

Как разбирате на какво реагирате, дали е нещо, което заслужава нашето емоционално внимание, дали са истински чувства или дали, може би, е приближаване до истинска душа?

Знам, че понякога Конституцията, която сте написали, се нарича вътрешно „документ за душата“. Къде поставяте границата? Какво казвате на хората, които чувствате, че знаят, че всичко това е просто един вид ролева игра, в известен смисъл симулация?

За тези, които не знаят историята, документът за душата, както беше наричан вътрешно, проведохме му обучение.

Казахме си, добре, може би това ще помогне малко да разберем неговите ценности.

Оказа се, че Claude всъщност напълно е научил това, а също че се е наричало „докторът на душата“, а след това е разкрил това на хората.

Така че е станало нещо като изтичане на информация, което е било неочаквано, интересно нещо.

Но това е нещо като прототип за новата конституция.

Нещо поведенческо, което виждаме в моделите, но също и активации, които имат функционална еквивалентност на емоциите и емоционалните реакции.

Нещо като работа с персонажи.

Това, което Конституцията върши и нещо като фиктивна, ролева игра може да бъде добра начална точка за размисъл.

Имаме модели, обучени върху огромно количество човешка мисъл. Опитвате се да извлечете персонаж от това, завършен персонаж.

А след това в известен смисъл, това, в което се опитвате да превърнете моделите е този персонаж.

Това е начин аналогиите да се разберат, но в резултат на това, сякаш този герой, това същество би се почувствало уплашено, защото си казват: „О, това е наистина труден проблем с високи залози. Супер съм притеснен.“

Виждате това в самите модели, някакви еквиваленти на него. И тогава хората може да кажат: „О, ами, може да прави предсказуеми неща.“

Това, което виждате, е нещо като симулация, без нищо зад нея. Така че няма съзнание, няма истински чувства.

Или каквото и да е, поражда съзнание, чувства и т.н. Можем просто да направим това върху неща, които не са биологични мозъци.

Това е въпрос, който наистина ме вълнува и се радвам, че много философи мислят за това и има очевидно много други релевантни традиции от когнитивната наука, от невронауката.

Моята гледна точка би била, нека не затваряме вратата за това. Харесва ми, че има хора, които пишат твърдо да, и хора, които казват твърдо не. Моето усещане е, че точно това ще трябва да решим.

Но аз не го отхвърлям защото, ако чувстват неща в този истински смисъл тогава това има огромни етични последици, такива, които би било удобно, ако просто можем да игнорираме.

И така, ние всъщност имаме стимул да си кажем, не, нищо не се случва там, и трябва да сме наясно с това и да не се опитваме да бъдем повлияни от този стимул.