Новият Регламент за изкуствения интелект на Европейския съюз поставя началото на строга правна рамка, изградена върху т.нар. подход, основан на риска. В центъра на новите европейски изисквания залягат правилата за прозрачност, които задължават компаниите ясно да обозначават кога хората взаимодействат с алгоритми или с изкуствено генерирано съдържание. Към момента европейското общо законодателство за защита на данните не съдържа изричен текст, регламентиращ обработката на лична информация специално за целите на машиното обучение, но се водят разговори как да се регулира процеса. Това каза старши правният експерт във фондация „Право и интернет“ и преподавател в УниБИТ проф. Мартин Захариев в предаването "Бизнес старт" с водеща Роселина Петкова.

Новата регулаторна пирамида класифицира технологиите от напълно забранени практики до системи с висок риск и такива, изискващи прозрачност. Регламентът разделя икономическите субекти на две основни категории: доставчици (providers) и внедрители (deployers), обясни Захариев.

Доставчиците са длъжни да проектират системите си така, че потребителите задължително да знаят, че общуват с AI (например чатботове). При генериране на синтетично съдържание — текст, аудио, снимки или видео — се изисква специално машиночетимо маркиране.

Работодателите и бизнесите, интегриращи тези системи, трябва да уведомяват служителите и клиентите при излагане на системи за биометрична категоризация. За т.нар. deepfakes и синтетичен текст се изисква изрично обозначаване, освен ако съдържанието не преминава през редакционна отговорност и човешки преглед.

„Изкуственият интелект не е субект на правото. Дори да виждаме хуманоидни роботи, те нямат статут на хора и не могат да носят отговорност. Твърде сложно е, но със сигурност отговорността се носи от хората — независимо дали е договорна, или административна.“

Правни рискове за бизнеса

Използването на AI в корпоративния сектор разкрива редица правни капани. По подобие на GDPR, Регламентът за изкуствения интелект предвижда многомилионни санкции и глоби, изчислявани като процент от световния оборот на компаниите, каза Захариев.

Основните рискови зони за бизнеса включват защита на личните данни и необходимост от пълно съответствие с GDPR при обработката на масиви от данни; рискове от нарушаване на авторски права и търговски марки при генериране на съдържание: и опасност от изтичане на конфиденциална фирмена информация или пробиви в сигурността.

GDPR и обучението на AI модели

Обучението на AI модели върху реални данни поставя фундаментални въпроси пред европейското законодателство. В момента в GDPR липсва изричен текст, регламентиращ обработката на лични данни конкретно за целите на обучение на AI.

„В момента се обсъжда предложението GDPR Digital Omnibus, с което се цели легитимният интерес да бъде изрично признат като правно основание за обучение на AI системи. За чувствителните данни (здравни, биометрични, политически) т.нар. AI Omnibus предвижда ново основание — използването им с цел корекция на дискриминационни отклонения (bias) и калибриране на системите.“

Автоматизирано вземане на решения и AI на работното място

Вземането на решения от алгоритми засяга пряко човешките права и достойнство. За да се гарантира закрила, ключовият принцип остава „човек във веригата“ (human in the loop). GDPR и новият регламент гарантират правото на човешка намеса, възможността за оспорване на решението и правото потребителят да разбере логиката зад алгоритъма, коментира Захариев.

На работното място защитата е още по-строга поради подчинената роля на служителите - използването на системи за разпознаване на емоции на работното място е напълно забранено, а алгоритмите за наемане на работа, кариерно израстване и атестация се класифицират като високорискови.

Кой притежава авторското право?

В световен мащаб съдилищата и правните системи все още търсят единен подход, но водещото разбиране в Европа е, че автор може да бъде само човек.

„За да има авторско произведение, то трябва да обективира нашата творческа дейност и съзнателни избори. Изкуственият интелект разкъсва тази творческа връзка между твореца и крайния резултат, защото поради автономния си начин на работа дава различен резултат дори при еднакви промптове. Въпреки това генерираното съдържание има стойност и е необходима регулация — макар и не задължително през класическото авторско право.“

В образователния сектор казусът също е силно изразен. За разлика от плагиатството, където се заимстват чужди трудове, при AI всеки университет (включително УниБИТ) внедрява вътрешни правила за това как и кога е допустимо да се обозначава използването на AI инструменти в научната дейност, каза Захариев.

Еволюцията на юридическата професия

Внедряването на AI за бързо изготвяне на базови договори и правни анализи променя изцяло бизнес модела на правните услуги. Секторът постепенно се пренасочва от таксуване на час към готови продукти и фиксирани бюджети.

„Изкуственият интелект няма да замести адвоката. По-скоро той ще се превърне в стандартен инструмент като интернет или компютъра. Юристите ще еволюират в стратегически консултанти и мениджъри на риска. AI може да направи примерен договор, но не може да гарантира дали той ще издържи в съда и каква е съдебната практика.“

Тази промяна обаче крие сериозен риск за младите специалисти. Тъй като рутинните и по-прости задачи се поемат от AI, изчезва традиционният мост, през който начинаещите юристи навлизат в професията и трупат опит, коментира Захариев. 

Целия разговор може да гледате във видеото.

Всички гости на предаването "Бизнес старт" може да намерите тук.

Още по темата

Грешка в алгоритъма: Кой носи отговорност за вредите от AI?

AI вече захранва над половината от киберпрестъпността в Африка

Изкуственият интелект не изпреварва регулациите - те липсват

Яни Лозанов: Призивите за забавяне на AI само ще помогнат на големите играчи