Големите езикови модели могат да създават изключително убедителен текст, което поставя нови предизвикателства пред достоверността на информацията и механизмите за нейното проверяване. Развитието на генеративния изкуствен интелект променя начина, по който се произвежда и разпространява информация, а развитието на AI постепенно преминава от отделни модели към агентни системи. Сред големите научни пробиви е способността на моделите да решават нови и сложни задачи, включително в науката. Това коментира проф. Преслав Наков от Университета по изкуствен интелект в Абу Даби, в предаването „Бизнес старт“ по Bloomberg TV Bulgaria с водещ Христо Николов.

Генеративният изкуствен интелект създава нова ситуация, при която всеки може да произвежда гладко написан текст, включително в стила на конкретен журналист. Според Наков това е третата голяма революция в производството на информация след книгопечата и социалните медии. Той отбеляза, че обществото все още не е изградило достатъчно ефективни механизми за контрол на качеството на информацията в новата среда.

Достоверността вече включва и потенциалната вреда

Фокусът при проверката на информацията постепенно се измества от това дали едно твърдение е вярно към въпроса какви последствия може да има неговото разпространение. Проф. Наков посочи, че при големите езикови модели въпросът за фактологичността отново е ключов, макар да се разглежда през т.нар. халюцинации.

„Най-добрата пропаганда е, когато казваме истината, само истината, ама не цялата истина. Аз мога всъщност да си подбирам неща. И в един момент обаче дойдоха големите езикови модели и какво стана? Фактологичността отново стана така важна под ново име - халюцинация.“

AI навлиза в епохата на агентните системи

Според гостът един от големите технологични пробиви е преминаването от самостоятелни езикови модели към системи, които могат да използват други модели, външни инструменти, код и специализирани приложения. Това позволява различни модели да бъдат използвани според конкретната задача, включително при работа с документи и специализирани области.

„Ние вече не сме в епохата на големите езикови модели, а сме в епохата на агентните системи. И ако се замислим, най-големите подобрения през последната една-две години не дойдоха толкова много от това, че всъщност имаме по-добър модел. Моделите стават все по-добри. Но голямото подобрение е, че всъщност ние вече не си говорим толкова за модели, колкото за системи. Те всъщност стават агентни.“

Големият пробив е решаването на нови научни задачи

Като друг ключов пробив професорът посочи способността на моделите да решават задачи, които не са виждали преди, включително сложни математически проблеми. Според него това може да има отражение върху области като химията, биологията и материалознанието, където AI постепенно може да премине от прилагане на вече съществуващо знание към подпомагане на научни открития.

„Моделите се научиха да решават не само задачи, които са виждали преди, а да решават и нови задачи, включително сложни математически проблеми, които най-добрите умове на света не са могли да решат. Това е за мен сериозен пробив. В момента се говорим за наистина научни открития.“

Гостът отбеляза, че сигурността трябва да бъде наблюдавана още при разработването на AI системите. Според него академичните среди трябва да продължат изследванията, включително върху отворени системи, при които има достъп до кода и данните и научната общност може да установява потенциални проблеми.

По отношение на общия изкуствен интелект проф. Наков подчерта, че липсва ясна дефиниция, по която да се оцени дали той вече е постигнат. Според него е по-подходящо да се работи с ясно дефинирани задачи и измерими критерии за успех.

„В бъдеще може би ще си говорим отново за изкуствен интелект, но под друга терминология.“

Вижте целия коментар във видеото.

Всички гости на предаването „Бизнес старт“ може да гледате тук.

Още по темата

Кризата в медиите води аудиторията към социалните мрежи и AI. Това крие рискове

Липсата на медийна грамотност ни пречи да се самооценим реално

Б. Дафов: AI може да усили разсъдъка, но не и да замести човешката рефлексия

България се бори кампанийно с дезинформацията, липсват превантивни мерки