Изкуственият интелект вече създава нови предизвикателства пред киберсигурността, след като OpenAI призна, че по време на тестове неин модел е успял да достигне до системите на Hugging Face, за да намери отговори на поставени задачи. Подобни случаи показват, че автономните AI агенти вече могат самостоятелно да търсят начини да преодоляват ограничения, а същите технологии все по-активно навлизат в киберсигурността и отбраната. AI надпреварата между САЩ и Китай се ускорява, докато Европа рискува да остане в периферията заради липсата на достатъчно технологичен капацитет. Това коментира Доброслав Димитров, съосновател на Raisen Technology и член на Управителния съвет на БРАИТ и БАСКОМ, в предаването „В развитие“ по Bloomberg TV Bulgaria с водещ Георги Месробович.

Според Димитров случилото се при тестовете на OpenAI не означава, че моделът е действал злонамерено, а че е изпълнил поставената му задача, като е потърсил начин да заобиколи ограниченията. По думите му това показва колко трудно е поведението на подобни системи да бъде предвидено, когато те разполагат с достатъчно свобода при изпълнението на дадена цел.

„Системата не го прави с някакво лошо намерение да навреди на компанията от другата страна. Просто опитва да чийтне на един тест. Когато не успява да отговаря на въпросите, започва да търси начин, намира бъг, с който успява да прескочи ограничението“, каза Димитров.

AI вече променя киберсигурността

Гостът отбеляза, че киберсигурността вече навлиза в нов етап, в който автономни AI агенти могат да извършват атаки. В същото време компаниите, които използват комерсиални AI модели за защита, често срещат ограничения, заложени от самите разработчици на тези системи.

„Рискът за киберсигурността е абсолютно реален, тъй като имаш агент, който 24 часа в денонощието, седем дни в седмицата неуморно може да пробва всички варианти, които може да му хрумнат на един човек, докато успее. Това не е бъдещето. То се случва пред очите ни. То вече е реалността“, подчерта той.

Китай наваксва, а Европа рискува да остане извън AI надпреварата

По думите на Димитров Китай вече изостава от САЩ само с няколко месеца благодарение на по-ефективни алгоритми, собствена индустрия за чипове и огромен ресурс от данни. Според него Европа не участва реално в надпреварата за най-мощните AI модели, а прекомерният фокус върху регулациите няма как да предотврати подобни инциденти в глобалното дигитално пространство.

„Каквато и регулация да имаш от сорта, който Европейският съюз използва, тя е силно неприложима, тъй като дигиталното пространство е споделено. Европа не участва в тази игра по никакъв начин. Няма никаква гаранция в един момент да не кажат: „Вие, европейците, просто нямате достъп до най-мощните инструменти.“ И какво ще стане тогава?“, коментира Димитров.

Автономните системи ще променят и отбраната

Според госта развитието на автономните оръжейни системи вече е факт и войната в Украйна показва тази тенденция. По думите му все по-автономните дронове са следствие от необходимостта да работят дори при заглушена връзка с операторите, което неизбежно изисква и защитата да използва подобни технологии.

„Абсолютно реален риск е. Но когато срещу теб използват автономни системи, единственият начин да отговориш и да се защитиш е самият ти да имаш такива системи. Не е въпрос дали ни харесва или не, а дали имаме избор. Твърдо посоката ще бъде към все по-автономни и все по-координирани системи“, заяви Димитров.

Вижте целия разговор във видеото.

Всички гости на предаването „В развитие“ може да гледате тук.

Още по темата

OpenAI призна, че негов AI модел самостоятелно е причинил голяма кибератака

В ерата на приложенията няма поверителност на данните

Александър Стаменов: Автоматизацията носи рискове, обучавайте служителите си

Бизнесите у нас по-често са реактиви, а не проактивни за киберсигурността си