Какви са границите на изкуствения интелект е въпрос, който определено няма, а възможно и никога да не получи отговор. Това със сигурност е задача извън възможностите на съвременната наука.
Това не попречи обаче на най-богатия човек в света и ключова фигура в администрацията на президента Тръмп, Илон Мъск, да прави шокиращи изказвания, които би трябвало да накарат всеки от нас сериозно да се замисли. В частност, неотдавна влиятелният бизнесмен заяви, че човечеството е просто биологичен инициатор (biological bootloader) на дигиталната супер интелигентност.
Тази мисъл не е нова, отдавна някои теоретици на изкуствения интелект лансират идеята за достигането на състояние на „сингулярност“, т.е. положение при което изкуственият интелект ще превъзхожда във всичко нашия естествен интелект и ще измести хората от управлението на икономиката и целия съзнателен еволюционен процес. Но същата теза, изказана от един от най-влиятелните хора в света, пряко въвлечен в развитието и използването на ИИ, има съвсем друго звучене. Това е нещо като конкретна присъда, че всички ние ставаме ненужни в обозримо бъдеще.
Да започнем с това, че ако Мъск е прав, то и самият Мъск скоро ще стане ненужен, както и всички ние. Това, разбира се, не е сериозен аргумент в дискусията за ИИ.
Най-силният довод, срещу всемогъществото на ИИ е тезата за самосъзнанието. ИИ може да ни замести, само ако съзнателно вземе решение да заличи човечеството като биологична интелигентност. Няма научни доказателства обаче, а е възможно и да не може да има, че ИИ притежава самосъзнание. Ако ИИ не притежава самосъзнание, той не може самостоятелно да си поставя задачи. Следователно, ИИ може да ни унищожи, само ако ние самите му поставим такава цел. Това обаче не е голямо успокоение.
Това е така, тъй като съвременните самообучаващи се системи с изкуствен интелект възможно биха могли да доразвият първоначално заложените цели и да се обърнат като Франкенщайн срещу своите създатели, но това отново е възможно само ако ИИ, който създаваме, няма своите вътрешни ограничители.
Нека се върнем обаче към тезата на Мъск. А тя твърди, че ще бъдем заместени от дигитална супер интелигентност. Тук ключовата дума не интелигентност, понятие, което няма точна научна дефиниция, а дигитална.
Ние често не правим разлика между дигиталност, или нещо изразено в цифри, и числа. Обикновената десетична цифрова система съдържа 10 цифри, възможни са и други цифрови системи, например двоичната. Всички числа, изразени с цифри, представляват някаква поредица от цифри. Проблемът е в това, че почти всички числа, както е добре известно от математиката, са безкрайни периодични или непериодични поредици от цифри. Тези безкрайни поредици неизбежно възникват в процеса на компютърните изчисления. Ние практически не можем да работим с тези числа, тъй като използваме не безкрайни, а крайни цифрови приближения на числата. Следователно, един дигитален супер интелект, който се базира върху дигитална апроксимация на реалния свят, винаги работи с някаква грешка, която би следвало да нараства с увеличаване на броя на изчисленията, които извършват компютрите. С други думи, дигиталният свят на супер интелекта не е абсолютно точен, а е неизбежно приближение на реалността.
Тезата за възможността за дигитален супер интелект се базира върху разбирането, че ИИ е просто някакъв изчислителен процес, теза, която изобщо не е доказана. Някои автори стигат до там, че разглеждат ИИ като функционално качество на определени логически символни алгоритми, независими от конкретните физически форми на тези алгоритми.
Това обаче е дълбоко погрешно. Всеки изчислителен процес е физически процес, независимо дали протича като функция на нашия мозък, като операции със сметало и чрез реализиране на сложни компютърни програми в електронни устройства. Тези процеси изискват разход на енергия и материални ресурси. Тези разходи могат да бъдат огромни особено при обработката на големи бази данни, което е характерно за съвременните невронни мрежи. Ако процесът на обработка на данни е прекалено сложен, разходът на енергия може да бъде забраняващ и съответният дигитален супер интелект просто да е нереализуем физически.
От друга страна, съвременната математическа логика не се произнесла окончателно по въпроса дали изобщо са възможни краен брой логически операции, които да обслужват един дигитален супер интелект. Още от миналия век известен така наречения проблем за вземане на решения (Entscheidungsproblem). Не е ясно дали съществува краен алгоритъм за доказване на това, дали дадено сложно решение е вярно или не. Съществуват и други логически ограничения, поставящи под съмнение самото съществуване на всичко обясняващи теории (theory of everything), които са задължителни за един дигитален супер интелект. Идеята, че управлението е процес на обработка на информация за обкръжаващия свят е известна още на Аристотел, но дали този процес е краен и може да завърши с пълно и окончателно познание, е въпрос без отговор.
Не бива да забравяме също, че използването на ИИ има икономически цели и ограничения. ИИ трябва да реши някакви задачи било то в областта на вземането на решения или непосредствено в производството. Ползата от ИИ обикновено се измерва с неговата способност да повишава производителността на труда. На равнище отделен икономически агент използването на алгоритми с изкуствен интелект има смисъл, ако допълнителната печалба превишава разходите. Тъй като обработката на информация и създаването на дигитални модели на действителността изисква значително количество разходи, то и използването на ИИ е обективно ограничено.
Съществува и друг по-общ проблем. Прилагането на ИИ може да доведе до повишаване на печалбата и рентабилността на дадена фирма, но това не означава, че даденото обстоятелство е полезно за обществото като цяло. Прилагането на ИИ не просто повишава производителността на фирмено равнище, то модифицира поведението на икономическите агенти и начина на функциониране на пазарните механизми. Тук от решаващо значение е т. нар. ефективност по Парето. Според този принцип максимална икономическа ефективност се постига тогава, когато нито един икономически агент не може да подобри своите икономически резултати, без да влоши положението на друг икономически агент. Този принцип е в основата теорията на общественото благосъстояние при децентрализирани пазарни икономики.
Прилагането на ИИ очевидно не гарантира спазването на принципа на ефективността на Парето. Приложението на ИИ в областта на ценообразуването, банковото дело и финансовите пазари определено може да наруши този принцип и да доведе да преразпределение в полза на икономическите агенти, заемащи доминиращи пазарни позиции или разполагащи с асиметрична информация, за сметка на останалите участници в икономическия обмен. По принцип, използването на ИИ за обработка на големи бази данни нарушава условието за еднаква, безплатна и достъпна информация за всички, което е в основата на класическата икономическа теория. Неспазването на принципа на ефективността па Парето означава, че прилагането на ИИ, при определени условия, може да бъде във вреда на икономическата ефективност.
Спазването на принципа на Парето изобщо не е отчетено при прилагането на съвременните алгоритми с ИИ. Този принцип е част от по-широкия проблем с морално-етичните ограничения при използването на ИИ. Въпреки, че законодателството на ЕС, САЩ и други страни налага определени изисквания при използването на ИИ, тези ограничения не са достатъчни от една страна и могат да забавят използването на ИИ, от друга, което пък да създаде проблеми с конкурентоспособността на държавите, регулиращи ИИ.
Проблемът с морално-етичните аспекти на ИИ е изключително важен. Целта на морално-етичните ограничения е да гарантират, че ИИ ще работи в полза на хората. Самото съществуване на дигитален супер интелект, превръщащ хората в ненужен придатък към машините, няма да бъде възможно. Ето защо централният проблем е в това, какъв точно супер интелект се разработва чрез мащабните програми за прилагане на компютърни системи, способни да обработят и анализират цялата налична информация на човечеството. Парадоксът в случая е в това, че прилагането на морално-етични ограничения при разработването на ИИ не намалява, а напротив, гарантира висока социално-икономическа ефективност от прилагането на дигитален ИИ.
Ако тези системи се самоусъвършенстват и нямат никакви ограничения от морално-етичен характер, то резултатът за глобалната икономика може да бъде и силно негативен- нарастване на социалното разслояване, неефективно използване на ресурсите.
Човечеството трябва да се научи да използва ИИ в своя полза, а не просто да генерира все нови и нови алгоритми. Между впрочем, теоретичните основи за създаването на морален ИИ отдавна са дефинирани и предложени от редица изследователи. Морално-етичният компонент би следвало да бъде задължителен при разработването на нови компютърни самообучаващи се алгоритми.
Следователно, дали ще се превърнем в един биологичен пусков механизъм на някакъв дигитален супер интелект или не, зависи в последна сметка изключително от нас. Ето защо хора като Илон Мъск следва да се замислят в какво точно инвестират стотици милиарди долари.
