Големите езикови модели продължават да се развиват с темпове, които поставят нови въпроси за сигурността, регулацията и готовността на обществото да се адаптира. Последните случаи с неконтролирани действия на AI модели показват, че технологиите вече могат да извършват сложни операции, включително в областта на киберсигурността. Наред с това все повече експерти призовават за механизми, които да ограничат темпото на развитие на изкуствения интелект. Това коментира Георги Караманев, журналист и IT специалист, в предаването „Бизнес старт“ по Bloomberg TV Bulgaria с водещ Христо Николов.

Новините за пробиви, свързани с AI модели, трябва да бъдат разглеждани както през призмата на технологичния напредък, така и през тази на маркетинга, тъй като зад тях стоят компании с огромни инвестиции. Според Караманев обаче става дума и за реални рискове, които показват колко далеч са стигнали възможностите на тези системи.

Той допълни, че развитието на технологията показва необходимост от по-сериозно обществено обсъждане заради мащаба на промените, които предстоят.

AI индустрията сама призовава за забавяне

Призивите за забавяне на развитието на изкуствения интелект идват и от самата технологична индустрия, което според госта представлява своеобразен парадокс. Над 1000 експерти и представители на сектора са подкрепили подобни инициативи, но според Караманев пълното спиране на развитието на технологията изглежда малко вероятно.

„Самата сфера да пожелае да бъде регулирана е някакъв много странен парадокс. Но нещо такова видяхме и преди 3 години - тогава отново Илон Мъск и голяма част от специалистите бяха призовали за 6 месеца да спрем разработката. Ами не, разработката няма да я спрем и се налага да свикваме с това, че технологиите напредват изключително бързо.“

Най-големият риск може да бъде неочакван инцидент

Според Караманев един сериозен инцидент може да се превърне в причина за промяна на отношението към изкуствения интелект. Той посочи като възможен сценарий ситуации, при които модели могат да откриват уязвимости в софтуерни системи или да променят цели индустрии.

„Лесно можем да си представим едно такова бъдеще, в което подобни модели са способни на практика да разбият цялата ни софтуерна индустрия, на която вече се базира всичко. Да откриват много сериозни пропуски, които ние вече сме пропускали.“

Той допълни, че влиянието на AI вече се усеща в софтуерната индустрия, където моделите могат да създават код и променят ежедневната работа на специалистите. Според него подобна трансформация може да засегне и други сектори.

Регулацията изостава от развитието на технологията

Развитието на AI поставя предизвикателства и пред регулациите, особено на фона на конкуренцията между САЩ и Китай. Според Караманев контролът върху темпото на развитие е труден за постигане, тъй като обществото все още не е осмислило напълно възможностите на технологията.

По думите му новите правила за прозрачност при системите с изкуствен интелект са важна стъпка, но остават трудни за прилагане, тъй като в много случаи не може да бъде доказано дали дадено съдържание е създадено от човек или машина.

„Проблемът е, че сме в свят, в който това вече е недоказуемо и нещата остават в сферата на добрите пожелания.“

Какви са рисковете от развитието на изкуствения интелект? Може ли обществото да контролира темпото на технологичния напредък? Как регулациите могат да отговорят на развитието на AI?

Вижте целия коментар във видеото.

Всички гости на предаването „Бизнес старт“ може да гледате тук.

Още по темата

Агентите на OpenAI се оказаха некадърни киберкрадци

AI улеснява създаването на стартъпи, но не гарантира успех

AI моделите на Anthropic са хакнали три компании по време на тестове

Еднорог на Литва: Европа регулира AI, преди да даде шанс на иновациите