Автономните камиони показват как да не позволим на AI роботите да ни убият

Най-притеснителното в предупрежденията, че изкуственият интелект може да унищожи човечеството, е липсата на достатъчно конкретика как един неконтролиран компютърен модел всъщност би могъл да го направи.

Основните сценарии - и списъкът далеч не е изчерпателен - включват ядрени ракети, биологични оръжия и роботи убийци.

Най-често обсъжданите сценарии включват ядрени оръжия и биологични заплахи

С първия сценарий отдавна сме запознати. Неконтролиран AI поема контрола над кодовете за изстрелване на ядрени ракети и повежда света по пътя към апокалипсис. (Вижте филма „Военни игри“ от 1983 г.)

Вторият сценарий предполага, че AI подмамва човек да освободи смъртоносен вирус - нов вариант на старите опасения за лабораторни течове по невнимание („Заразяване“ от 1995 г.), терористични планове („12 маймуни“ от 1995 г.) или схеми за печалба („Мисията невъзможна 2“).

И двата сценария са плашещи, но преди да се стигне до Армагедон, има множество препятствия, включително строгия контрол на службите за сигурност върху незаконните или опасни биологични изследвания.

Индустрията за киберсигурност изглежда разполага с достатъчно възможности да неутрализира AI хакер, особено чрез специализирани AI защити и използването на квантови изчисления за по-силна криптография.

Това ни води до роботите убийци, задвижвани от AI.

Автономните роботи все още са ограничени, но технологията вече се развива

Тук разсъжденията стават малко по-спекулативни, защото мобилни роботи, способни да изпълняват множество задачи, на практика все още не съществуват. Пилотни програми експериментират с хуманоидни роботи, които изпълняват прости задачи в складове и фабрики, но възможностите им са ограничени.

(Всички хуманоидни роботи, които танцуват или участват в маратони в TikTok, са предварително програмирани или се управляват дистанционно от човек и не действат самостоятелно. Тези роботи ще се появят, но все още не са тук.)

Въпреки това идеята за отряди от машини убийци, които унищожават цивилизацията, продължава да съществува в популярното въображение. За щастие, вече имаме реален пример как AI може да бъде внедрен в света без убийствен заговор.

Индустрията на автономните превозни средства показва, че AI може да бъде строго контролиран и да работи безопасно в среда с хора. Waymo LLC, Tesla Inc., Aurora Innovation Inc., Kodiak AI Inc. и други компании за автономно управление прокарват пътя за използването на AI в мобилни роботи, способни да изпълняват множество задачи.

Оказва се, че шофирането е добро начало за внедряване на физически AI около хора, защото вече съществуват множество установени правила и протоколи.

Автономните камиони разчитат на многослойна система за контрол

Компютърът, който управлява AI системата за интерпретиране на данните от зрителните сензори, се намира в самото превозно средство и не се нуждае от интернет връзка, за да работи.

Различни слоеве на AI изпълняват различни задачи - базови модели разпознават обекти от реалния свят, големи езикови модели разбират команди, а модели за действие извършват маневри според данните от сензорите и правилата за движение по пътищата.

Следите от кода са прозрачни, така че програмистите могат да видят как и защо системата е стигнала до дадено решение. Няма AI „черна кутия“, при която е невъзможно да се разбере как компютърът е стигнал до дадено заключение.

Като последен защитен слой бордовият компютър разполага с по-опростен модел, който извършва „проверка за разумност“, за да предотврати опасни или неочаквани маневри, казва Дон Бърнет, главен изпълнителен директор на Kodiak.AI Inc., която е внедрила безпилотни камиони в петролната зона на Пермския басейн и се очаква до края на тази година да ги пусне и по междущатските магистрали.

При малко вероятния случай, в който системата за автономно управление не разбере дадена ситуация, камионът ще намали скоростта, ще се премести на безопасно място и ще поиска помощ.

„Знаем систематично точно как работи. И сме тествали всички сценарии на отказ, така че нищо да не може да се обърка“, каза Бърнет в интервю. „Ако нещо е извън обичайното, системата просто отказва да го изпълни.“

Автономните превозни средства имат конкретна задача, каквато ще имат и роботите, предназначени за множество дейности. Моделът за вземане на решения трябва да се намира в самия робот, което ограничава изчислителните му възможности заради ограниченията на енергията и пространството, а функциите му трябва да бъдат ограничени до задачите, които трябва да изпълнява.

Системата няма нужда да познава сонетите на Шекспир, физиката на орбиталните тела или да разполага с възможност да планира бунт срещу човечеството.

Индустриалните стандарти могат да ограничат автономните роботи до конкретните им задачи

Мобилните роботи трябва да бъдат регулирани чрез стандартите, върху които в момента работят Американският национален институт по стандартизация (ANSI) и Международната организация по стандартизация (ISO), вместо чрез държавни регулации, които не могат да се адаптират достатъчно бързо към технологиите.

Компаниите работят за получаването на тези сертификати, за да покажат, че отговарят на индустриалните стандарти и така да увеличат шансовете си за клиенти и договори. Стандартите на ANSI и ISO се преразглеждат и променят много по-често от държавните регулации, за да следват темпа на иновациите.

Един от стандартите трябва да бъде изискването мощните AI модели да бъдат ограничени и концентрирани върху конкретно възложените им задачи. Ако даден инструмент е опасен, той трябва да бъде третиран като такъв, както биологичните лаборатории внимават да не допуснат разпространението на вируси.

Модели, които могат да се отклоняват от инструкциите си, не трябва да управляват мобилни роботи, които работят в близост до хора.

Така нареченият авариен превключвател е сложен или дори невъзможен за реализация при AI модел, интегриран в облака и захранван с данни от множество взаимосвързани центрове за данни. При физическия AI обаче авариен превключвател или бутон за незабавно спиране имат много смисъл и трябва да бъдат видими и достъпни в случай на проблем.

Роботите са инструменти, предназначени да помагат на хората, и няма нужда да бъдат толкова интелигентни. Те не трябва случайно да нараняват хора, а със сигурност никога не трябва да имат възможност да го правят умишлено. Автономните превозни средства са модел за това как да гарантираме, че роботите изпълняват само това, което им е възложено.

Томас Блек е колумнист на Bloomberg Opinion, пишещ за индустрията и транспорта. Бил е репортер на Bloomberg News, покриващ логистиката, промишлеността и частната авиация.