Изкуственият интелект се развива с темпове, които изпреварват способността на бизнеса и институциите да го управляват ефективно. Внедряването на AI често се случва без достатъчна сигурност, ясни правила и разбиране за рисковете, което създава предпоставки за загуба на контрол върху процесите и решенията. Технологията вече не е просто инструмент, а постепенно се превръща в част от когнитивния процес на хората, което поставя нови въпроси за отговорността и управлението. Това коментира Ясен Танев, председател на Българската асоциация за развитие на бизнес софтуер, в предаването „Бизнес старт“ по Bloomberg TV Bulgaria с водещ Роселина Петкова.

Развитието на нови AI модели, включително такива, насочени към киберсигурност, показва засилваща се конкуренция между технологичните компании и ускоряването на иновациите. Според Танев тези процеси водят до фундаментални промени не само в технологиите, но и в начина на мислене и живот. 

„Нищо не се случва само - то повлича винаги със себе си следващия в играта и това води до финално ускорение, което пък променя доктрините, начина на живот и начина на мислене“, каза Танев.

Контролът изостава от развитието на AI

Въпреки напредъка на технологиите, контролът върху тях остава ограничен, а способността на хората да ги управляват изостава. Това създава рискове, сравними с управление на мощна машина без необходимите системи за сигурност. 

„В момента има огромни, супер мощни модели и контролът върху тях е нисък, а хората не могат да ги управляват добре. Светът се променя ежедневно и ние трябва да променим начина си на осъзнаване и мислене, трябва да започнем да измерваме и реалността. Това е нещо, което трябва да сложим най-отпред – за какво е AI и как го ползваме“, подчерта гостът.

Ръст на киберрисковете и „AI в сянка“

Интеграцията на изкуствен интелект в инструменти за киберсигурност и разработка улеснява както защитата, така и потенциалните атаки. Липсата на експертиза и контрол при масовото използване на AI води до сериозни уязвимости в бизнеса и администрацията. 

„Над 30% от бизнеса и държавата в момента работят с изкуствен интелект, който в сянка определя поведението и решенията им“, заяви Танев.

AI вече е част от човешкото мислене

Танев отбеляза, че изкуственият интелект вече не може да бъде разглеждан като външен инструмент, а е интегриран в процеса на вземане на решения. Това поставя въпроса за зависимостта от технологията и загубата на автономност. 

„Прескочихме етапа на изкуствения интелект като инструмент. AI вече е част от когнитивния процес на вземане на решения при хората, което означава, че ние вече не взимаме автономно решение“, заяви гостът.

Липса на ясни правила

Според експерта съществува сериозен управленски дефицит при внедряването на AI, като липсват ясни правила, контрол и разпределение на отговорностите. Това води до ситуация, в която технологиите се използват масово, но без стратегическа рамка. 

„Трябва да започнем откровения разговор за мястото на изкуствения интелект в организациите и мястото на човека при управлението на решенията, взимани от технологията, защото не можем непрекъснато да казваме, че AI е виновен и в крайна сметка изкуственият интелект е продукт на човека. Трябва да осъзнаем, че времето на това да използваме изкуствения интелект като инструмент е приключило“, подчерта Танев.

Вижте целия коментар във видеото.

Всички гости на предаването „Бизнес старт“ може да гледате тук.

Още по темата

Доброволци разработват AI инструмент за по-прозрачни избори в България

Пътят към дигиталния суверенитет - данни, енергия и AI

OpenAI предлага AI да се разбира като право

Над половината от големите компании в България използват платени облачни услуги