Гроси: ООН има нужда от правила за AI оръжията

Изкуственият интелект променя военното дело толкова бързо, колкото променя и търговията. Трябва ли ООН да оглави усилията за установяване на световни правила за автономните оръжия? Какво трябва да включват тези правила?

Има определени ограничения, които могат да бъдат приложени, но трябва да сме изключително внимателни. Някои хора казват, че имаме нужда от еквивалент на Международната агенция за атомна енергия за изкуствения интелект. Защото тук имате международна организация, която се занимава с много сложна технология и се справя добре.

За съжаление, начинът, по който работят алгоритмите, по който се разработват моделите на фронта, по много разпръснат начин в различни юрисдикции правят нещата изключително сложни – да се тръгне с подход отгоре, твърде нормативен за изкуствения интелект.

Трябва да направим следното и да го направим заедно – с онези, разработващи подобни модели в различни части на света – ще имаме нужда от платформа за сътрудничество, за да определим заедно какви са конкретните поведенчески способи, за които да се договорим. Целта не е да спираме иновациите, от които всички имаме нужда, но и да не загубим по-важния фактор – хората.

Ще подкрепите ли система за верификация за автономни оръжия?

Система за верификация за автономни оръжия, подобна на тази при ядреното оръжие ще бъде илюзия. Имаме нужда от нещо друго. За мен би било добре да кажа „да, ще направим същото като онова, което правим в Международната агенция за атомна енергия“. Само че там нещата се основават на материалния баланс между реални неща. Изкуственият интелект е съвсем друго измерение и изисква различен подход.