AI предлага на банките нови начини да повтарят стари грешки

Изключителният шум около изкуствения интелект през тази година засегна и финансовата индустрия, но повечето банки с право бяха предпазливи да се впуснат директно в коловоза. В един толкова строго регулиран бизнес цената на грешката може да бъде изключително висока.

Няколко големи банки започнаха годината, като забраниха на служителите си да експериментират с ChatGPT на работното си място. Те бяха обезпокоени от фактическите грешки, "халюцинациите" и рисковете от плагиатство, присъщи на публичната версия на инструмента за генериране на текст. Зад кулисите обаче същите кредитори се бореха за таланти в областта на високите технологии, като същевременно проучваха как биха могли да използват генеративния AI и какво би могъл да прави по-добре от инструментите за прогнозен AI или машинно обучение, използвани от години в работата по откриване на измами и борба с изпирането на пари.

През септември "Morgan Stanley" стана една от първите големи банки, които внедриха истински инструмент за генеративен изкуствен интелект в бизнеса си - вътрешен чатбот за финансовите си консултанти, базиран на технологията на OpenAI, който има за цел да помогне на всички нейни консултанти да изглеждат така умни, колкото нейните най-добри консултанти. Това беше смел ход. Големият риск при генеративния AI се състои в това, че тези инструменти са проектирани така, че да дават приоритет на свободното общуване пред точността, както се казва в неотдавнашен доклад на UK Finance, браншова организация, и Oliver Wyman, консултанти.

Те са създадени така, че да звучат убедително, сякаш зад думите им стои солидна аргументация, както и знания. Всъщност няма конкретна вътрешна структура и данните далеч не са перфектни. 

Генеративният AI не е разрешил и вече съществуващи проблеми с изкуствения интелект, които могат да представляват голям риск за банките: Потенциалът за пристрастност в данните или резултатите и липсата на прозрачност в начина, по който са достигнати заключенията му. Когато продавате на някого инвестиционен продукт или данъчно-ефективна структура, трябва да сте сигурни, че тя е подходяща за клиента. Ако откажете на някого жилищен кредит, трябва да можете да докажете, че това не е заради цвета на кожата му. Хората в банките успяват да правят тези неща погрешно в продължение на години без помощта на роботи. 

"Банките трябва да внедрят безопасен, справедлив и ефективен изкуствен интелект, за да намалят риска и да изградят доверие", написа наскоро Майк Мейо, анализатор в Wells Fargo & Co. "Нито една банка не иска да бъде назидателен пример за това, как се греши с помощта на изкуствен интелект."

Morgan Stanley се защити, като ограничи изходните данни, които чатботът ѝ използва, до собствения си интелектуален капитал. Според Джеф Макмилън, ръководител на отдел "Анализи, данни и иновации", тези данни са били щателно проверени, за да се гарантира, че са точни и организирани за AI по начин, който има за цел да гарантира, че той постоянно получава правилните отговори.

Банката също така е ограничила потенциалните си отговори. "Ако го попитате за това как да откриете доверителна сметка, ще получите тази информация", каза Макмилън по имейл. "Но ако я попитате за футболен мач, тя просто ще каже, че не знае. А ние вярваме, че "не знам" е валиден и справедлив отговор."

Това е добро ограничение. Точно както някои хора, генеративният ИИ може да е склонен да оформя несигурни или неправилни отговори с висока степен на увереност. 

Все още е рано, но докато американските банки изглеждат по-надеждни за потенциала на генеративния ИИ за увеличаване на приходите, това не е така в Обединеното кралство. Според проучване на UK Finance само 13% от финансовите групи смятат, че ИИ ще увеличи продажбите. Повечето от тях твърдят, че основните ползи ще бъдат свързани с оперативната ефективност. 

Все пак само 9% от 23-те големи финансови компании, отговорили на проучването на UK Finance, са внедрили по-прости инструменти за предсказващ ИИ за множество задачи, а 12% са ги внедрили за по-малко от няколко. Нито един от анкетираните не е използвал широко генеративен ИИ, а само 5% са го използвали ограничено. Въпреки това 17% са провеждали пилотни програми или експерименти за доказване на концепцията с по-новата технология с надеждата да я използват в бъдеще.

Ползите, които банките очакват, не включват непременно големи съкращения на персонала. Много фирми виждат в тези инструменти повишаване на способностите на персонала - като при чатбота на Morgan Stanley - и превръщането им в своеобразен ко-пилот за генериране на идеи, обслужване на клиенти или управление и представяне на данни.

Несъвършенството на генеративния изкуствен интелект означава, че все още може да има много работа при проверката на резултатите от него. Междувременно различни умения могат да се окажат по-полезни от тези, които притежават много банкови служители днес. Например, Morgan Stanley установи, че най-добрите хора в писането на подсказки за подобряване на нейния чатбот са младежи с хуманитарна диплома, които умеят да общуват.

За да илюстрират шумотевицата около изкуствения интелект, консултантите от McKinsey това лято заявиха, че генеративният изкуствен интелект може да добави стойност за компаниите между 2,6 и 4,4 трилиона долара годишно - т.е. потенциално повече от сегашния брутен вътрешен продукт на Калифорния! McKinsey смята, че банките биха могли да получат до 340 млрд. долара от тези печалби.

Подобни прогнози са глупави и вероятно никога няма да бъдат доказани като верни или грешни. Но банките ще се опитат да използват изкуствения интелект по всеки възможен начин - все пак финансите са първият информационно-технологичен бизнес. Те обаче трябва да действат бавно и внимателно. Пред тях има цял нов свят от опасности.