ByteDance и Alibaba премахват персонализираните AI чат функции

ByteDance Ltd. и Alibaba Group Holding Ltd. спират функции, които позволяват на потребителите да създават и разговарят с персонализирани AI асистенти, в подготовка за новите китайски регулации, които ще уреждат взаимодействието между хора и изкуствен интелект. 

Doubao на ByteDance, най-популярният AI чатбот в Китай, ще прекрати на 15 юли функцията, която позволява на потребителите да персонализират собствени AI персонажи, според известие в приложението, видяно от Bloomberg News.

Известието насочва потребителите към отделно, самостоятелно приложение за AI асистенти. Qwen на Alibaba е издал подобно предупреждение, както и други големи платформи, Yuanbao на Tencent Holdings Ltd., според местни медийни публикации. 

ByteDance и Alibaba спират функции за персонализирани AI персонажи

Внезапното оттегляне идва преди новите регулации в Пекин, които трябва да влязат в сила в средата на юли, целящи засилване на надзора върху услугите с изкуствен интелект, наподобяващи човешкото поведение.

Притесненията са свързани с това, че чатботовете могат да симулират човешки личности и емоции, както и с потенциалната емоционална привързаност, която потребителите могат да развият. Именно тези рискове са сред основните мотиви за новата рамка, представена първоначално през април.

Още по темата

Следващият умен ход на AI може да е отказът от чатботовете

AI клубове за самотни сърца: има ли тенденция за влюбвания в чатботове

Новите регулации в Пекин целят контрол върху емоционалното въздействие на AI

Новите директиви представляват една от най-обхватните регулаторни рамки, насочени към ограничаване на потенциалните вреди от изкуствения интелект, въпреки че част от компаниите предупреждават, че прекалено строгите правила могат да забавят иновациите.

Те отразяват нарастваща глобална тревога относно психологическото въздействие на разговорните AI системи. В САЩ технологични платформи също са под засилен правен натиск за подобни функции.

OpenAI Inc. и подкрепяната от Alphabet Inc. Character.AI са изправени пред серия от високопрофилни съдебни дела, в които се твърди, че хиперреалистични чатботове са създали опасни емоционални зависимости и в крайни случаи са допринесли за самоубийства на уязвими потребители.

Глобалните опасения за психичното въздействие нарастват

Под ръководството на Администрацията по киберпространството на Китай, новите правила забраняват на платформите да генерират съдържание, което предизвиква екстремни емоции при непълнолетни или създава нездравословни емоционални зависимости, които отслабват реалните междуличностни връзки.

Рамката също така забранява на доставчиците да използват чувствителни данни от потребителски разговори за обучение на бъдещи AI модели.

Новите китайски правила забраняват емоционални зависимости и рисково обучение на данни

Китайските платформи за чатботове отдавна предлагат възможност за персонализиране на AI агент чрез кратки текстови команди, като сред най-популярните опции са виртуални гаджета и приятели, нелицензирани дигитални терапевти и симулирани клонинги на поп-идоли.

Освен чатботовете, регулаторният контрол в Китай върху „изкуствената интимност“ вече обхваща и физически хардуер. Две индустриални групи в роботиката настояват за по-строги етични стандарти в момент, когато бързо нарастващ пазар на ботове-компаньони и хуманоидни системи навлиза в домовете на потребителите, съобщи People’s Daily в събота.

Още по темата

Децата може да са технологично грамотни, но са уязвими онлайн

AI става опасно добър в политическото убеждаване