Изкуственият интелект навлиза в нова фаза, в която може самостоятелно да открива критични уязвимости в софтуерни системи. Това поставя реални рискове пред киберсигурността, особено на фона на съществуващ пазар, в който т.нар. zero-day уязвимости достигат цена от около 1 млн. долара. Това заяви Теодор Панайотов, съосновател на Coursedot и Ethermind в предаването „В развитие“ с водещ Антонио Костадинов.

Панайотов определи Mythos Preview - най-усъвършенствания модел на Anthropic - като следващата логична стъпка в развитието на изкуствения интелект - модели, които излизат извън парадигмата на класическия чатбот.

По думите му новото поколение модели е изцяло агентно („fully agentic“), което означава, че те могат самостоятелно да изпълняват задачи, а не просто да асистират на потребителя.

Откриване на уязвимости от десетилетия

Една от най-впечатляващите способности на подобни модели е откриването на критични уязвимости, които са останали незабелязани с години. Например, става дума за бъг в OpenBSD, който съществува от 27 години, както и за уязвимости във FreeBSD, които позволяват ескалация на привилегии чрез свързване на вътрешни компоненти без необходимост от външен злонамерен код.

„Това са системи, които са изключително добре одитирани, и въпреки това подобни проблеми са останали скрити с десетилетия“.

Проблемът възниква, когато тези способности се автоматизират. Вместо единични висококвалифицирани експерти, могат да се използват цели армии от AI агенти, които работят денонощно, без прекъсване и при значително по-ниска цена, ограничена основно до разходите за електричество и хардуер. Това, според Панайотов, създава сериозен риск.

Риск за доверието в системата

Инвеститорите са по-притеснени не толкова от самата технология, колкото от ефекта ѝ върху доверието в системата. Най-големият риск е свързан със загубата на доверие в банковата система, финансовите пазари и платежната инфраструктура.

Особено тревожен е сценарият, при който автономни агенти извършват плащания, търгуват помежду си и оперират без човешка намеса. В подобна среда всяка уязвимост може да има системен ефект.

Според Панайотов индустрията разполага с ограничен период за подготовка, който той оценява на между шест и дванадесет месеца. Причината е, че всяка нова технологична разработка бързо получава алтернативи с отворен код, често идващи от Китай, които могат да бъдат използвани без централен контрол.

Open source: възможност и риск

Отворените модели създават едновременно възможности и рискове. От една страна, те подпомагат технологичния суверенитет, увеличават достъпността и стимулират иновациите. От друга страна, защитните им механизми често могат да бъдат премахнати бързо, което позволява тяхната злонамерена употреба и затруднява контрола върху разпространението им.

„До момента не съм виждал open source модел, който да не бъде ‘хакнат’ в рамките на ден.“

Европа и технологичният суверенитет

Европа изостава в изграждането на технологични гиганти, като причините включват липса на достатъчно мащабни инвестиции, ограничен брой data центрове и зависимост от външни инфраструктури. Въпреки това се наблюдава засилено движение към технологичен суверенитет, включително чрез развитие на локални облачни решения.

Подценяване на киберсигурността

Панайотов потвърди становището, че много компании третират киберсигурността като второстепенна тема. Според него България до момента до голяма степен е избягвала сериозни инциденти, но това не трябва да създава фалшиво усещане за сигурност.

Още по темата

Mythos променя киберсигурността: открива узязвимости, пропускани с десетилетия

Къде се крият инвеститорите в бурята? Киберсигурност, енергия, но не и злато

AI ускорява атаките: киберсигурността става битка на скорости

„Vibe coding“ и новите рискове

Нарастващата популярност на AI инструментите за писане на код води до нови предизвикателства. Все повече хора създават софтуер бързо и лесно, но този код често не е достатъчно сигурен.

Това създава необходимост от масов одит и допълнително обезпечаване на сигурността. „Всеки може да създава код, но той не е сигурен“, подчерта Панайотов.

Въпросът за достъпността на киберсигурността остава отворен. В момента много от AI моделите са силно субсидирани и работят на загуба, което означава, че бъдещото ценообразуване остава несигурно.

Бъдещето на софтуерната индустрия

По думите на Панайотов една от основните промени в индустрията е свързана с преминаването от модел на лицензиране „per seat“ към такъв, базиран на резултатите („outcome-based“). Това означава, че компаниите все по-често ще плащат за реално свършена работа, а не за брой потребители.

Паралелно с това все повече организации обмислят дали да купуват готов софтуер или да изграждат вътрешни решения, като в много случаи изборът се насочва към вътрешна разработка, обясни още Панайотов.

Според него бъдещето на индустрията ще бъде силно динамично. По-малък брой хора ще могат да постигат по-високи резултати, а необходимостта от адаптация ще бъде постоянна.

Целия разговор гледайте във видеото.

Всички гости от предаването "В развитие" може да видите тук.

Още по темата

Икономисти ревизират прогнозите си за Китай, тъй като AI ускорява вноса

DeepSeek започна ценова война и при AI моделите

Китай внезапно блокира сделката за 2 млрд. долара на Meta за AI стартъпа Manus

AI няма да пазарува вместо нас, а ще ни помага да избираме по-добре