Алтман предупреди за опасността диктатори да използват AI

Супер интелектът в някакъв момент от развитието си ще може да свърши по-добра работа като главен изпълнителен директор на голяма компания, отколкото който и да е ръководен кадър, със сигурност от мен, или да направи по-добро проучване от най-добрите ни учени. Докато се подготвяме за тази възможност сме водени от три основни убеждения.

Първо, вярваме, че демократизацията на изкуствения интелект е единственият справедлив и безопасен път напред. Демократизацията на изкуствения интелект е най-добрият начин да се уверим, че човечеството процъфтява. От друга страна, централизацията на тази технология в една компания или страна може да доведе до разруха.

Желаното бъдеще след няколко десетилетия трябва да има облика на свят на свобода, демокрация, широко разпространен разцвет и увеличение на човешката дейност. Някои хора искат ефективен тоталитаризъм в замяна на лечение за рака. Не смятам, че трябва да приемаме тази размяна, нито смятам, че има нужда да го направим.

Изкуственият интелект трябва да е продължение на волята на отделния човек. Вероятно ще имаме нужда от супер интелект, за да ни помогне да разберем какъв ще е новият механизъм на управление, да се уверим, че това се случва справедливо и в мащаб. За да се избегнат проблемите като изключително дебалансиран достъп до изчислителна мощ или нещо друго.

Второ, вярваме, че устойчивостта на изкуствения интелект е ключова стратегия за безопасност, но нямаме предвид, че това е единствената стратегия за безопасност. Ще продължим да имаме нужда от създаването на безопасни системи и да преодоляваме технически предизвикателства. Но все повече трябва да започнем да разширяваме начина си на мислене за безопасността, така че да имаме обществена устойчивост.

Никоя лаборатория за изкуствен интелект, никоя система за изкуствен интелект може да достави добър продукт сама. Очевидният пример защо е следният – ще има изключително способни био модели, които са достъпни за хората с отворен код, който би могъл да им помогне да създадат нови патогени.

Имаме нужда от подход на ниво общество за това как смятаме да се предпазим от това. Трето, бъдещето на изкуствения интелект няма да се развие точно според предсказанията на всички. Вярваме, че много хора трябва да имат участие в създаването на резултата. Развитието на изкуствения интелект вече поднесе много изненади и предполагам, че ни предстоят и по-големи такива.

Разбираме, че при толкова мощна технология, хората искат отговори. Но е важно да проявим скромност за това, което не знаем и винаги да помним, че понякога най-доброто ни предположение е грешно. Повечето от важните открития се случват, когато се срещнат технологиите и обществото. Понякога има търкания, понякога взаимна еволюция.

Например, все още не знаем как да гледаме на супер интелект, които би могъл да застане на страната на диктатори и тоталитарни страни. Не знаем как да гледаме на страни, които използват изкуствения интелект, за да водят нов вид война едни с други. Не знаем как да гледаме на това кога и дали страните ще трябва да помислят за нова форма на социален договор. Смятаме, че е важно да разбираме повече за дискусиите в обществото, преди всички да се изненадаме.

Специална бележка, свързана с всички три убеждения. Продължаавме да вярваме, че итеративното разпространение е ключов стратегически пробив и че обществото трябва да бъде доволно и да използва всяко ново ниво на капацитет на изкуствения интелект, да има време да го интегрира, разбере и да реши как да продължи оттук нататък.