Превръщането на ChatGPT в "секси" може да не свърши добре за хората

Сам Алтман придава на най-големия чатбот в света флиртуваща личност. Очаквайте някои нежелани последствия

18:04 | 18 май 2024

Автор: Парми Олсън

Снимка: Bloomberg

"Тя". Това беше единственият туит, който главният изпълнителен директор на OpenAI Сам Олтман публикува, докато неговите помощници демонстрираха нов ChatGPT със същите примамливи вокални нюанси, използвани от Скарлет Йохансон във филма за човек, който се влюбва в своя AI.

Най-впечатляващото нещо за новия GPT-4o ("o" означава "омни") е, че той може да обсъжда това, което "вижда" през камерата на телефона ви в реално време, умение, което Google фалшифицира в демонстрация за своя AI модел миналия декември. По-стряскащо беше, че не просто звучеше човешки, но ... странно съблазнително.

"Здравей", каза новата версия на ChatGPT със свенлив женски глас на млад мъж в основната видео демонстрация на компанията. "Виждам, че се носиш със суичър на OpenAI. Добър избор."

В демонстрация на живо в централата на OpenAI в Сан Франциско, AI системата изненада публиката, когато внезапно каза: „Уау, това са много впечатляващи дрехи, които носите“, на някого, на когото помагаше със задача по алгебра. Bloomberg News, която присъства на събитието, нарече тона му „флиртуващ“.

В друга видео демонстрация (по-горе), AI, отново с женски глас, се засмя кокетно, докато служител на OpenAI се преструваше, че го моли за съвет какво да облече за интервю. „О, Роки!“ — каза AI, кикотейки се, след като мъжът си сложи доста глупава шапка. „Това е доста силно изявление!“

Ако предимно мъжете инженери на OpenAI се опитват да изградят перфектната приятелка, те изглежда са на прав път. Въпреки това, ако компанията се опитва да изгради по-точен и надежден AI модел, те все още имат какво да направят. GPT-4o все още е само малко по-напред в ключови бенчмаркове за AI (вижте диаграмата по-долу), а ранните тестове показват, че продължава да прави грешки при ключови задачи.

Компанията вместо това се фокусира върху скок в потребителското изживяване, превръщайки GPT-4o в по-скоро потребителска игра, отколкото такава за корпоративни клиенти. Нейният нов модел може да преценя емоции и да реагира на аудио толкова бързо, колкото човек би направил в разговор. Това би могло да изпълни дългосрочна цел в технологиите за „околен компютър“, който избягва да се налага да се взирате в малкия екран и да пишете, за да говорите и показвате неща на компютъра.

Има много потенциал в това, от уроци на живо до това да накарате умен дигитален асистент да анализира екрана на вашия компютър, докато работите. Но усилията на OpenAI да направи своя AI толкова ангажиращ са смущаващи.

Какви са социалните и психологическите последици от това редовно да говорите с флиртуващ, забавен и в крайна сметка съгласяващ се с вас изкуствен глас по телефона си и след това да се сблъскате с много различната динамика с мъжете и жените в реалния живот? Какво се случва, когато емоционално уязвимите хора развият нездравословна привързаност към GPT-4o?

OpenAI не отговори на тези въпроси към момента на писане, нито обясни защо е дал на GPT-4o толкова повече персоналност. Ако целта ѝ беше да направи своя продукт по-ангажиращ с потребителите - както вече се опита да направи с разработчиците - това може да отвори кутията на Пандора, заплашвайки с коварни ефекти върху колективното ни психично здраве. Не забравяйте, че тези приоритети са това, което накара Facebook да създаде алгоритми, които популяризират най-скандалните публикации на нейния сайт, за да накарат хората да скролват все повече, помагайки да сее по-голямо политическо разделение.

И все пак можете да разберете защо Алтман може да настоява да направи своя чатбот по-ангажиращ. Растежът на потребителите за ChatGPT е в застой, тъй като конкурентни ботове като Claude на Anthropic и Gemini на Google се надпреварват за пазарен дял. Вероятно затова той също прави GPT-4, най-модерният модел на OpenAI на пазара, безплатен за всички.

OpenAI не описва GPT-4o като „личен асистент“, но изглежда това е нещото, което компанията и нейните конкуренти сега преследват.

Компанията за изкуствен интелект на Илон Мъск x.AI също работи върху приложение, което ще действа като личен асистент, според оферта за финансиране от април 2024 г., видяна от Bloomberg Opinion. Приложението за $20 на месец, което също ще има безплатно ниво, има за цел да покаже генерирана от AI емисия с предложени новинарски статии и напомняния например за закупуване на цветя в близкия магазин за рожден ден на приятел или за закупуване на билети за концерт за любима група, която е на турне, според един слайд. Чрез интегриране с лични данни от X ще може да се създаде „супер заредено социално изживяване“. Мъск туитна във вторник, че предстои „голямо надграждане на Grok“.

Meta също проучва AI-подпомогнати слушалки с камери, а нейните смарт очила Ray-Ban вече включват AI асистент.

Тъй като технологичните гиганти се доближават до дигиталните асистенти, те може да видят личността като ново бойно поле на ИИ. Но надпреварата да направиш чатботовете по-секси може да има странни странични ефекти. Позоваването на "Тя" беше може би подходяща метафора за Сам Алтман: Филмът не завършва добре за хората.

Парми Олсън е колумнист на Bloomberg, който пише мнения за технологиите. Бивш репортер на Wall Street Journal и Forbes, тя е автор на книгата „Ние сме анонимни“.