Ролятана изкуствения интелект в киберсигурността е изцяло трансформираща, особено след пробива на генеративния AI. Основата обаче е положена много по-рано – с натрупания опит от машинното обучение и индустриални приложения на изкуствения интелект. Съществуват примери от българската индустрия, където AI се използва, за да се предвиди повреда на машина до 72 часа предварително. Анализираните казуси показват спестявания от порядъка на 30 хил. евро на машина, редуциране на повредите и избягване на „авариен режим“. Това каза Христиан Даскалов, председател на Цифровия иновационен хъб "Тракия", в предаването „UpDate“ на Bloomberg TV Bulgaria с водещ Антоанет Василева.

AI променя киберсигурността: атаките се ускоряват, но и защитата става по-умна

По думите му ключовата разлика при генеративния AI е мащабът и скоростта на навлизане. Даскалов се позова на данни, които свърза с прогноза от 2023 г. за достигане на 1 млрд. потребители за няколко години напред, като отбеляза, че реалното „насищане“ е дошло много по-бързо. Това означава, че няма незасегната индустрия, включително и киберсигурността.

От гледна точка на заплахите той очерта тенденцията AI да съкращава драматично времето за създаване на зловреден код. Ако преди изграждането е отнемало часове, днес процесът е много по-кратък, а прогнозите сочат още по-рязко ускорение с навлизането на нови подходи. В същото време събеседникът посочи „другата страна на монетата“ – AI Може да се използва за анализ на данни в реално време и по-бързо неутрализиране на инциденти.

Той даде пример с работа по линия на ЕС и програма „Цифрова Европа“, в рамките на която в България е изграждана система за детекция на атаки чрез анализ на данни, подпомогнат от високопроизводителни изчисления и отворен код. Според събеседника решението е достигнало до прототипно ниво именно благодарение на ускорените иновации през последните години и наличието на силна научна екосистема, като посочи и ролята на института INSAIT.

Уязвимости, „етично хакерство“ и защо AI не може да замени човека

По темата за AI-ускорените кибератаки Даскалов използва метафора, че AI е „като брадва“ – може да служи за полезни цели, но и да бъде инструмент за вреда. Според него негативният ефект е особено видим при компрометиране на системи, където скоростта се превръща в основно оръжие срещу защитата.

В момента това се случва за един ден, а прогнозите за 26-та година са, че би могло да се реализира в рамките на 20 минути. Тоест, от проникването на системата до ексилтрирането на данните и излизането на нападателя от тази система за 20 минути. Може да си представите всъщност какво предизвикателството е за хората, които отсреща защитават.

Събеседникът допълни, че друг критичен фронт е експлоатирането на уязвимости. Той обясни, че има публични бази данни, където изследователи публикуват открити пробойни, за да получат организациите време за „пачове“, но прозорецът за реакция се свива. По думите му времето за експлоатация на неразрешена уязвимост е спаднало от седмици до дни и дори до минути, което поставя защитниците „една стъпка“ назад.

В тази рамка Даскалов аргументира защо киберсигурността не може да стане „изцяло AI“. Според събеседника зад внедряването на всяка технология стоят хора, дори те да са по-малко и по-високо квалифицирани. Той отбеляза, че това води до изкривявания на пазара на труда – намалява нуждата от entry-level позиции и повишава търсенето на по-старши кадри, включително в България, където има много завършващи, но трудна реализация.

Като практичен изход той посочи състезанията „capture the flag“, глобални платформи и програми за търсене на уязвимости (bug bounty), които дават реален опит и увереност. Той обясни и защо настоява „етичното хакерство“ да се урегулира – така че изследователи да могат да тестват и докладват уязвимости по стандарти и протоколи, без риск от санкции.

Според събеседника процесът Coordinated Vulnerability Disclosure трябва да стане по-достъпен и защитен законово, като даде пример и с практики, свързани с Белгия, както и с усилия на ENISA за координация и спускане на информацията през националните центрове.

Регулации и инструменти за бизнеса: AI Act  и подготовка за нов режим

Даскалов коментира и европейската регулация за AI, като направи разграничение между клаузи, които вече действат като добри практики, и правила, които предстои да станат задължителни. Той обясни, че при General Purpose AI системи – включително масово използвани чатботове – се въвеждат изисквания за обозначение, че дадено съдържание е генерирано от подобна систем. Това би позволило на потребителите по-лесно да проверяват дали снимка или видео е генерирано, а не да разчитат единствено на външни фактчекъри.

Той подчерта и забраните за високорискови приложения, като обясни, че биометричният AI е недопустим извън специфични правоохранителни функции, и че  сценарии за масово следене няма да се допускат в ЕС. В същото време Даскалов предупреди, че ако законът се прилага неразумно, може да доведе до „технологична зима“ и блокаж, включително в чувствителни области като образованието, където партньори от чужбина вече се колебаят дали да участват в пилотни проекти.

По отношение на по-строгата отговорност за киберсигурността на компаниите и ръководствата им, гостът не смята, че българският бизнес е напълно готов, но и не очаква „драматично“ развитие „от днес за утре“. Според събеседника помощта може да дойде чрез инструменти като AI Helpdesk на Европейската комисия и мрежата от цифрови иновационни хъбове, които да консултират безплатно бизнеса. Целта е бизнесът да получи обслужване „през едно гише“, без да се „лута“, особено микро-, малките и средните предприятия.

Вижте целия коментар във видеото.

Всички гости на предаването „UpDate“ може да гледате тук.

Още по темата

ЕС вече налага санкции на България заради неприетата директива за киберсигурност

AI, киберсигурност и регулации: какво очаква технологичният бизнес през 2026 г.

Сривът на Cloudflare разкри риска от концентрацията на услуги за киберсигурност

Българско решение за киберсигурност се използва активно от норвежката армия