Брайън Мойнихан за AI и риска, част 2

Светът се променя доста бързо. В по-широк план тревогите около AI стигнаха нивото на треска. Вие не се срамувахте да изразявате собствените си тревоги. През юли в Bloomberg казахте, че се тревожите структурно за последиците от AI. Сега говорим за човечествотото. Като корпоративен лидер и човек, който помага да внедряването му в компанията и помагане за финансирането търговията като цяло, тревожите ли се от пътя, който сме поели?

Миналата седмица бях в конкурентно предаване и ме попитаха за забавянето. Казах, че би трябвало да забавим. Но не съм човекът, който го управлява. Те вече го казаха.

Интересно е. Малко прилича на Наскар, когато казват на пилота: моля те, намали малко.

Въпросът е кой ще реши как да забавите. Дали управляващият орган – в случая, Конгресът, дали администрацията или частният сектор?

Кой ще каже: трябва леко да намалиш, защото ако продаваш този продукт с последиците му, не можем да го използваме.

Или пък обществото като цяло да го каже.

Но добрата новина е, че всеки забелязва, че темповете на промяната трябва да се наблюдават. Това чухме от лидерите на тези изключителни компании. Те казаха, че темпото трябва да се забави. И че трябва да сме сигурни, че агентите не започват да действат сами.

Това е съвсем различно от използването на AI в контролирана среда.

Ако пуснете напълно автономен агент – това е голямата тревога – той може да създаде проблеми с хакването. Това и подобни въпроси излизат.

Или пък да замени хората, ако вярваме на пресата.

Така че има основание да кажем, че това е страхотен продукт, нека не рискуваме като го караме да прави нещо, което да предизвика свръхрегулация.