ЕС се опитва да сключи нова сделка за правилата за AI след маратон от преговори

Закон за AI трябва да е устойчив в бъдеще, да защитава основните права, който да е в състояние да осигури достатъчна степен на защита на всички уязвими групи, казват европейски депутати

11:26 | 8 декември 2023
Обновен: 11:31 | 8 декември 2023

Автор: Джилиан Дойч

Снимка: Bloomberg LP

Преговарящите от Европейския съюз се събират отново в петък сутринта, за да се опитат да постигнат най-всеобхватното регулиране на изкуствения интелект в западния свят.

След като проведоха една наистина маратонска сесия, започнала в сряда и продължила почти 24 часа, екипите от Европейския парламент и 27-те държави членки се споразумяха за допълнителни правила за моделите на изкуствен интелект с общо предназначение, които имат широк спектър от възможни приложения, като например този, който управлява ChatGPT на OpenAI Inc. Те обаче останаха в задънена улица по въпроса доколко да ограничат използването на технологията за сканиране на лица в реално време от правителствата на ЕС.

Оспорваната среща е може би най-яркият пример за предизвикателството, пред което са изправени регулаторните органи - да балансират между потенциалните ползи от технологиите за изкуствен интелект и необходимостта от защита на гражданите от рисковете. Това е дилема, която разделя световните лидери и технологичните ръководители, тъй като генеративните инструменти като ChatGPT и Bard на Google набират популярност.

Дебатът за това дали правителствата могат да използват камери, които сканират лицата на хората в реално време, и софтуер, който категоризира хората, отдавна е чувствителна и разединяваща тема. Въпреки че миналата пролет парламентът гласува за пълна забрана на технологията за сканиране на лица в реално време, много държави от ЕС се борят да използват технологията за целите на правоприлагането и националната сигурност.

Преговарящите постигнаха значителен напредък през нощта от сряда срещу четвъртък, но тъй като някои служители заспаха на бюрата си, страните се споразумяха да подновят разговорите в 9 ч. брюкселско време в петък. Това дава на законодателите - много от които са разделени по въпроса за използването на биометрични данни дори в собствените си политически групи - повече време да преработят актуализираното компромисно предложение на държавите от ЕС.

Най-новото компромисно предложение ще позволи на полицията да сканира лица в тълпата, за да открива хора, които са били отвлечени, трафикирани или сексуално експлоатирани; да предотвратява терористични атаки или други физически заплахи за нападение; или при криминално разследване, включително тероризъм, трафик на наркотици и оръжие и убийства. Софтуерът, който категоризира хората въз основа на раса и религия, ще бъде забранен, освен ако полицията не се нуждае от данните, за да идентифицира лице, свързано с конкретно престъпление или заплаха, според документа, разгледан от Bloomberg.

Брандо Бенифеи, един от водещите автори на закона в парламента, се опита да смекчи очакванията за сделка в петък.

"Искахме закон за AI, който да е устойчив в бъдеще, който да защитава основните права, който да е в състояние да осигури достатъчна степен на защита на всички уязвими групи", заяви Бенифей на събитие на Групата на социалистите и демократите в четвъртък. "Това е нашето усилие и също така се надявам, че в тази последна миля ще успеем да извлечем най-доброто от него."

Предложеното използване на биометрични данни предизвика остра критика от страна на външни групи. Даниел Льофер, политически анализатор в Access Now, се обяви против разрешаването му за прогнозна полицейска дейност и нарече технологията "псевдонаучна" и "отвратително расистка" в дискусия в четвъртък. Ако парламентът приеме това, "той се отказва от ангажимента си да защитава хората от най-вредните употреби на AI", каза той.

ЕС - подобно на САЩ и Обединеното кралство - се бори да намери баланса между желанието да насърчава собствените си стартиращи компании за изкуствен интелект, като френския еднорог Mistral AI и германската Aleph Alpha, и да се предпазва от потенциални обществени рискове.

Политиците на ЕС се съгласиха да изискват от разработчиците на модели на изкуствен интелект, които са в основата на инструменти като ChatGPT, да спазват основни изисквания за прозрачност. Компаниите с модели, които представляват системен риск, ще трябва да подпишат доброволен кодекс за поведение, за да работят с Комисията за намаляване на рисковете. Планът е подобен на правилата на ЕС за модериране на съдържанието в Закона за цифровите услуги.

Някои критици твърдят, че кодексите за поведение са равносилни на саморегулиране, което не е достатъчно, за да се гарантира, че компаниите разработват тази технология по безопасен начин. Други твърдят, че правилата скоро ще засегнат много разработчици.

Правилата са "все още бреме за насърчаване на шампионите на ЕС в тази област", заяви Хюго Вебер, вицепрезидент по корпоративните въпроси във френската софтуерна компания за електронна търговия Mirakl. Доставчиците извън ЕС ще получат "конкурентно предимство пред европейците".