Новата европейска регулация за AI - заслужава ли си цената

Европейските закони за изкуствен интелект ще струват на компаниите цяло състояние, но залогът е доверието. Изкуственият интелект доказа своя потенциал да революционизира здравеопазването, да спасява животи и е на път да се превърне в индустрия за 200 милиарда долара до 2030 г., пише venturebeat.com.

Следващата стъпка няма да бъде просто да се надгради върху тези пробиви, а да се изгради доверие, така че те да могат да бъдат приложени безопасно, без да се пренебрегват уязвимите групи и с ясна прозрачност, така че притеснените хора да могат да разберат как е взето всяко решение.

Изкуственият интелект не е технология на утрешния ден. Той вече е тук. На дневен ред е законодателството, което трябва да го регламентира.
По-рано тази година Европейският съюз очерта предложенията си за законодателство в тази област и отвори врати за обратна връзка. Стотици компании и организации се включиха в дискусиите. Европейската комисия приключи периода на консултации през август и следва дебат в Европейския парламент.

Освен че направо забранява някои употреби (разпознаване на лица за идентифициране в обществени пространства и социална „оценка“ например), фокусът му е върху регулирането и прегледа, особено за системите за изкуствен интелект, считани за „високорискови“. Това са системите, използвани при вземане на решения за образование или заетост.

Всяка компания със софтуерен продукт, считан за високорисков, ще трябва да разполага с щемпел 'Conformité Européenne' (CE), за да започне да се предлага на пазара. Продуктът трябва да бъде проектиран така, че дейността му да се надзирава от хора, да избягва прекомерна автоматизацията и тя да бъде прецизно преценена само до най-нужното. 

Загрижеността за последствията от подобна регулация нарастват. Твърди се, че това може да задуши европейските иновации, тъй като това ще направи още по-привлекатевлни за талантите онези региони, в които ограниченията не са толкова строги,  като например САЩ. 

Очакваните разходи за привеждане на високорисковите продукти с изкуствен интелект са в центъра на вниманието на компаниите производители. Очакванията са, че всяка компания ще трябва да инвестира около 400 000 евро. Новите регламенти със сигурност ще попречат и на първоначалните инвестиции, твърдят експерти от САЩ. Критиките са в ход, но все пак плюсовете на законовите изменения и подходът, който поставя във фокус рисковете от изкуствения интелект, не са малко. 

"Аз одобрявам подхода на Европейския съюз към регламентирането на AI. Защо трябва да ме е грижа? Живея в Обединеното кралство и моята компания Healx, която използва AI за откриване на нови възможности за лечение на редки заболявания, е базирана в Кеймбридж", споделя Тим Гилианс, съосновател и изп. директор на медицинския стартъп Healx. "Тази есен Обединеното кралство публикува своя собствена национална стратегия за изкуствен интелект, която е предназначена да поддържа "минимални" регулации в сектора. Но никоя технологична компания не може да си позволи да игнорира случващото се в ЕС".

След въвеждането на Общия регламент на ЕС за защита на личните данните (GDPR) се наложи изискват почти всяка компания с уебсайт, независимо от коя страна на Атлантика се намира, да реагира и да се адаптира към новите изисквания, които бяха въведени през 2016 г. Очевидно е, че всеки, който иска да развива бизнеса си в Европа, трябва да се придържа към правилата, припомня Гилианс.

За области като здравето това е от изключително значение. Използването на изкуствен интелект в здравеопазването почти неизбежно попада под етикета „висок риск“. И в това няма нищо странно, предвид факта, че става дума за решения, които влияят на здравето на пациентите и променят живота им.

"Грешки в самото начало на тази нова ера на изкуствения интелект могат да навредят на общественото възприятие безвъзвратно. Вече знаем как добронамерените инициативи в областта на здравеопазването с изкуствен интелект могат да доведат до поддържане на структурен расизъм, например. Оставени без внимание, те ще продължат", алармира Гилианс.

Ето защо фокусът на законодателството върху намаляването на прекомерното залитане към AI и определянето на златен стандарт за изграждане на обществено доверие е жизненоважен за индустрията. Ако в AI система се подават данни за пациенти, които не представляват точно целева група (жените и малцинствените групи често са недостатъчно представени в клиничните изпитвания), резултатите могат да бъдат изкривени.

Това уврежда доверието, а доверието е от решаващо значение в здравеопазването. Липсата на доверие ограничава ефективността. Това е част от причините, поради които толкова големи групи хора на Запад все още отказват да се ваксинират срещу COVID. 

Пробивите на AI няма да означават нищо, ако пациентите са подозрителни към диагноза или терапия, произведена от алгоритъм, или не разбират как са направени заключенията. И двете водят до пагубна липса на доверие.

През 2019 г. Harvard Business Review установи, че пациентите са мнителни към медицинския изкуствен интелект, дори когато е доказано, че превъзхожда лекарите. Това е така, защото вярваме, че нашите здравословни проблеми са уникални. Не можем да започнем да променяме това възприятие без доверие.