Хасабис от Google DeepMind настоява за предвидимост на изкуствения интелект

Демис, какво е посланието, което Вие и DeepMind отправятe от тази среща за изкуствения интелект и какви са изводите, които се надявахте да направите за двата й дни?

Посланието, които носим е за предпазлив оптимизъм. Работим върху тази технология, защото смятаме, че ще бъде една от най-полезните за обществото в историята. Но  като всички трансформиращи технологии, и с нея вървят рискове. Трябва да ги приемаме сериозно. 

Рисковете варират от краткосрочни до дългосрочни технологични рискове. Трябва да започнем международен диалог сега. Така че е фантастично да видим как това става на срещата на върха.

Има разногласия сред политиците, но има също разминаване и доста остри разногласия във вашата собствена общност. Вие сте много наясно с това.  Шефът на изкуственият интелект в Mеtа Ян Лекун каза, че може би тук се извършва регулаторно влияние. Други казват, че е „абсурдно да се говори за някои от тези екзистенциални рискове“. Насаждане на страх, това ли правите, Демис?

Не разбира се, че не. Има също светила и в другия лагер, включително някои от колегите на Ян, носители на наградата Тюринг. Всички се познаваме от дълго време в академичната общност.

Що се отнася до нещо като регулаторно влияние и други неща, мисля, че е абсурдно. Аз и Шейн Лег, един от другите съоснователи на DeepMind говорим за безопасността на изкуствения интелект откакто бяхме постдокторанти през 2009 г., дори преди създаването на нашите компании.

Всичко идва на несигурността накъде може да тръгне технологията. Знаем, че е изключително мощна и затова цял живот ще работим по нея. Всички. Смятаме, че тя може да донесе невероятни ползи за науката и медицината, климата, околната среда и може да помогне на обществото да се изправи пред някои от най-големите си предизвикателства и да се справи с някои от тях.

Но има много несигурност накъде ще тръгне технологията при всички възможности, с които разполага.  

Хубаво е, че има несъгласие и дори сред академичната общност. То показва, че това е причината да трябва да продължим с предпазлив оптимизъм. Искаме да сме сигурни, че ще извлечем ползите от иновацията и обещанията, които технологията безспорно притежава.

Но трябва да го направим по отговорен начин, бих казал чрез използване на научен метод, опитвайки се да има колкото се може повече предвидимост на технологията. Прогнозираме предварително какви непредвидени последици може да има.