Изкуственият интелект се превърна в основен двигател за оптимизация на бизнес процесите, но същевременно трансформира изцяло пейзажа на киберзаплахите. Това коментира Обретен Обретенов – Ото, основател на Commodor Cybersecurity, в предаването "Бизнес старт" с водеща Роселина Петкова. 

Основната причина бизнесът да инвестира в AI е спестяването на време – ресурс, който лесно се конвертира в приходи и печалби. Тъй като технологията действа като „усилвател“, тя се използва със същата ефективност и за зловредни цели, коментира Обретенов.

„Имаше данни, че една фишинг кампания от 16 часа нормален човешки труд вече отнема 5 минути автоматизиран, което е над 90% съкращаване на времето.“

AI дава нов прочит на добре познатите хакерски техники. Новите инструменти могат самостоятелно да оркестрират цели атаки или да увеличат засегнатата повърхност след направен пробив, осигурявайки достъп до повече данни, добави Обретенов.

Автоматизирана защита, метаданни и Deepfake

Същата тази автоматизация е оръжие и за защитниците. Алгоритмите за сигурност позволяват сведените до милиони уязвимости да се редуцират до десетки критични приоритети, а злонамерените съобщения да се разпознават бързо чрез анализ на метаданните. Обретенов даде пример с предотвратен опит за измама, при който уж дълга имейл верига от директора на компания се оказва еднократно фалшифицирано писмо именно след технически анализ на данните зад него.

Що се отнася до фалшифицирането на глас, видео и изображения (Deepfakes), техническото засичане на дефекти е възможно, но финалната линия на защита остава социално ориентирана.

„По-скоро бих разчитал финалното решение да дойде от човека... Такава измама би била засечена не толкова от техническите характеристики на опита за измама, колкото от социалния елемент.“

Автономни агенти, регулации и глобален риск

Сериозен риск при внедряването на автономни AI агенти е прекомерното даване на права и преждевременното премахване на човешкия контрол. Бизнесът често се изкушава да автоматизира изцяло даден процес, преди да е натрупал достатъчно исторически математически модел за поведението на модела.

За справяне с тези рискове компанията може да приложи рамки като ISO 42001 (за дефиниране на отговорност, измеримост и управление на AI) и Европейския акт за изкуствения интелект (EU AI Act).

В глобален мащаб обаче липсата на единна регулация за научния пробив буди притеснения за появата на неконтролируема свръхинтелигентност, коментира Обретенов.

„Каквито и блокади да сложим на AI от наша човешка гледна точка, ако интелектът е свръхинтелигентен, той ще намери начин да ги заобиколи. Това е налице в някои случаи, които наскоро наблюдаваме в пробиви в лабораторни условия и излизане на AI технологии в глобална среда. По-скоро можем да се притесняваме, че нямаме правилен механизъм за регулация на научния пробив в сферата.“

Целия разговор може да гледате във видеото.

Всички гости на предаването "Бизнес старт" може да намерите тук.

Още по темата

Губим ли контрол над изкуствения интелект? Какво разпалва новите страхове - част 1

Пристанището на Лос Анджелис е блокирало 120 млн. кибератаки през август

Китай отхвърли предупрежденията за AI и обвини САЩ в насаждане на страх

Шефът на Anthropic: Време е AI индустрията да забави темпото