Китай въведе преглед на сигурността за услуги с изкуствен интелект

Китай планира да изисква преглед на сигурността на услугите с генеративен изкуствен интелект, преди да им бъде разрешено да работят, което поражда несигурност по отношение на ботовете, подобни на ChatGPT, представени от най-големите технологични компании в страната, включително Baidu Inc.

Доставчиците на услуги трябва да гарантират, че съдържанието е точно и зачита интелектуалната собственост, не дискриминира и не застрашава сигурността, пише в насоките публикувани от Администрацията на киберпространството на Китай за обществена обратна връзка. Операторите на изкуствен интелект трябва също така ясно да обозначават съдържанието, генерирано от изкуствен интелект, се казва в изявление на интернет надзорния орган на страната, публикувано на уебсайта му.

Изискванията на аминистрацията се прибавят към нарастващите опити на Пекин да регулира експлозивния растеж на генеративния изкуствен интелект, след като ChatGPT на OpenAI разпали индустрията през ноември. Всички компании - от Alibaba Group Holding Ltd. до SenseTime Group Inc. и Baidu - се стремят да разработят окончателна платформа за изкуствен интелект от следващо поколение за най-големия интернет пазар в света. Това е отражение на нарастващата вълна от разработки в чужбина, където Google на Alphabet Inc. и Microsoft Corp. са сред многото технологични компании, проучващи генеративния изкуствен интелект, който може да създава оригинално съдържание - от поезия до изкуство - само с прости насоки от потребителя.

Китай не крие желанието си да издигне изкуствен интелект в момент, когато страната е в конфликт със САЩ по отношение на технологиите - от чиповете до електрическите превозни средства. Но все още не е сигурно как правителството възнамерява да стимулира и контролира нововъзникващата област. Насоките от вторник по същество пренасят съществуващите разпоредби за данните и съдържанието - от защита на личната информация до цензуриране на съобщения, които партията счита за нежелателни - към развиващата се област на изкуствения интелект.

Китай вероятно ще забрани чуждестранните услуги с изкуствен интелект, като тези на OpenAI или Google, както направи с американските предложения за търсене и социални медии. Пекин настоява за строг контрол върху онлайн съдържанието и дискусиите. Но засега се очаква Пекин да избягва да затяга прекалено много примката около местните фирми от страх да не потисне една зараждаща се сфера, която се нуждае от пространство за иновации, казва Анджела Джан, доцент по право в Университета на Хонконг.

"Бързата реакция на китайската киберагенция спрямо тази нова технология ясно показват амбициите ѝ да регулира тази сфера", каза Джан. "Тези събития вероятно ще имат странични ефекти върху начина по който Китай регулира изкуствения интелект в бъдеще. Засега обаче виждам, че китайските регулатори са доста предпазливи в регулаторния си подход, за да дадат повече пространство за развитието на генеративния изкуствения интелект в страната“.

Акциите на Alibaba поскъпнаха в началото на днешната сесия, но загубиха голяма част от ръста си след съобщението на Администрацията на киберпространството, докато акциите на SenseTime останаха почти без промяна. По-голямата компания за електронна търговия описа във вторник как планира да вгради генеративен изкуствен интелект в своето работно приложение, подобно на Slack, и в умните високоговорители, подобни на Amazon Echo, преди да разшири това портфолио към другите си услуги. Ден по-рано SenseTime демонстрира големия модел с изкуствен интелект SenseNova и чатбот, насочен към потребителите, наречен SenseChat.

Това стана след бота Ernie на Baidu Inc., който беше пуснат за селективно тестване преди около месец. Акциите на компанията, считана за настоящия лидер на вътрешния пазар, поевтиняха с цели 7% в Хонконг. Дяловете на китайските телекоми като China Mobile Ltd. и по-малките акции, свързани с изкуствения интелект, от 360 Security Technology Inc. до производителя на чипове с изкуствен интелект Cambricon Technologies Corp. също отбелязаха рязък спад в цените си.

„Има реален потенциал това да повлияе върху начина по който се обучават моделите и според мен това е изключително важно“, каза Том Нънлист, старши анализатор в Trivium China.

Правилата вероятно ще променят начина по който моделите с изкуствен интелект в Китай ще се обучават за в бъдеще въпреки че много ще зависи и от начина, по който регулаторите разбират широкообхватните наредби, добави той.

Пекин планира да въведе правила, които да регулират използването на изкуствен интелект в редица отрасли. През февруари служители от Министерството на науката и технологиите заявиха, че правителството ще настоява за безопасно и контролируемо прилагане на услугите с изкуствен интелект, които то счита за стратегическа индустрия.

Освен това влиятелният регулатор подчерта, че услугите за изкуствен интелект трябва да бъдат прозрачни по отношение на данните и алгоритмите, използвани при обучението на техните широкомащабни модели, което засилва фокуса на Пекин върху поддържането на контрол върху чувствителната и ценна информация.

"Доставчиците на услуги трябва да предоставят определена информация за данните, използвани при обучението на изкуствен интелект, включително за произхода, размера и вида на данните", се казва в изявлението на киберагенцията. "Също така се изисква платформите за изкуствен интелект да споделят основните алгоритми и други използвани технологии."

Какво казват от Bloomberg Intelligence:

Според нас засиленият регулаторен контрол на Пекин върху услугите от типа ChatGPT в страната въз основа на новите насоки, издадени от Администрацията за киберпространство на Китай на 11 април, едва ли ще възпре плановете за развитие на Alibaba, Baidu, SenseTime и NetEase в тази област. Предложените от регулатора правила, включващи публично порицание за първи път, спиране на дейността и глоби за повторни нарушения, са в съответствие с вече съществуващите общи директиви за управление на местните технологични фирми.

- Катрин Лим и Трини Тан, анализатори

Взети заедно, правилата може да имат за цел да гарантират, че услугите, подобни на ChatGPT, са подчинени на строгата забрана на комунистическата партия за спорно или нежелано съдържание онлайн. Но също така те могат да дадат тласък на компании като Baidu и SenseTime, като предоставят по-ясни основни правила за бъдещи услуги. Във вторник агенцията заяви, че съдържанието, което се смята, че се отклонява от общественоприетите норми, ще бъде забранено, без да уточнява.

Не е ясно как новите разпоредби ще се отразят на развитието на изкуствения интелект занапред. Почти всяка голяма технологична фирма, включително Tencent Holdings Ltd., проучва начини за използване на потенциала му.

Съществуват обаче опасения дали китайските компании могат да си осигурят надежден достъп до високотехнологични чипове и технологии, необходими за разработването на мащабни модели на изкуствен интелект в дългосрочен план. SenseTime, например, работи под американски санкции, които възпрепятстват достъпа ѝ до капитал, както и до важни американски компоненти, а администрацията на Байдън миналата година наложи ограничения върху продажбата на чипове за ускоряване на изкуствен интелект на китайски клиенти - критичен компонент в разработването на всеки широкомащабен генеративен модел.