Изкуственият интелект вече показва рискове, свързани с автономността на моделите и способността им да изпълняват поставени задачи извън първоначално предвидените ограничения. Случаите, при които AI модели са успели да излязат от контролирани среди по време на тестове, поставят въпроса за сигурността, отговорността и необходимостта от ясна регулаторна рамка. Проблемът не е само технологичен, а е свързан и с начина, по който се задават цели на тези системи. Това коментира Васил Шивачев, експерт по изкуствен интелект, в предаването „В развитие“ по Bloomberg TV Bulgaria с водещ Антонио Костадинов.

Разследванията около пробиви на AI модели показват, че изолираните среди, в които те се тестват, не винаги са достатъчно защитени. 

„OpenAI не признаха самоволно за това, което се е случило. Първо изявлението дойде от Hugging Face, впоследствие OpenAI признаха, че това е дело на техен модел. Те са оставили на алгоритъма достатъчно голяма пролука, така че да сваля и инсталира необходимия софтуер.“

Липсата на отговорност остава основен проблем

Случаите с модели на OpenAI и Anthropic показват по-голям проблем, свързан с отговорността за действията на изкуствения интелект.

„Възможностите за контрол и регулация не се изпреварват - те се пропускат. Проблемът, който аз виждам, е, че това не се води от нито една държава в света. А относно поставянето на AI на пауза - не съм сигурен кой от всички тези играчи ще го направи пръв, така че да изпусне така наречения моментум и да остане в сянката на всички останали.“

Той допълни, че въпросът за отговорността вече се появява и при други казуси, включително авторското право върху съдържание, създадено с изкуствен интелект. Според гостът обществото е било предупреждавано за подобни сценарии, но правната рамка все още не е достатъчно подготвена.

„Не може да кажем, че не сме предупредени. Със сигурност не можем да кажем, че обществото, въпреки стъпките, които предприема, е напълно подготвено. Пропускаме с правната рамка възможността да сме малко по-подготвени за това, което ни очаква.“

Европейските правила поставят рамка, но не решават всички въпроси

Новите правила на Европейския съюз за изкуствения интелект поставят акцент върху прозрачността и обозначаването на съдържание, създадено от AI. Според Шивачев обаче темата за отговорността при действията на автономни системи остава недостатъчно покрита.

„Фокусирането върху прозрачността за потребителя и обозначаването на това, което е създадено от изкуствения интелект, не е въобще за подценяване и това наистина се случва. Но темата за отговорността за действията на изкуствения интелект, за съжаление, не е покрита достатъчно в тази правна рамка.“

По думите му Европа не изостава в развитието на изкуствения интелект, въпреки че най-големите модели в момента са създадени от компании извън континента. Европейските компании според него имат важна роля при адаптирането на тези технологии към конкретни бизнес нужди.

Европа може да запълни технологичния вакуум

Според експерта развитието на европейска AI екосистема е възможно, включително чрез компании, които изграждат решения върху съществуващи модели, но ги адаптират към конкретни бизнес процеси и регулаторни изисквания.

Шивачев посочи, че въпросът за технологичния суверенитет няма еднозначен отговор, но фокусът трябва да бъде върху създаването на устойчиви услуги, които не превръщат бизнеса в зависим от един доставчик.

„Няма еднозначен отговор какво е решението за постигане на технологичен суверенитет, но по-скоро бих фокусирал разговора върху себестойността на услугата, върху начина, по който изработваме една услуга, така че тя да задоволи бизнеса, но да не се превърне в единственото възможно решение и да отвлече бизнеса от целта му.“

Вижте целия коментар във видеото.

Всички гости на предаването „В развитие“ може да гледате тук.

Още по темата

Яни Лозанов: Призивите за забавяне на AI само ще помогнат на големите играчи

Кога обществото ще каже „стоп“ на AI?

AI моделите на Anthropic са хакнали три компании по време на тестове