/ Автор: orsecadmin | Оставить комментарий
По данным «Коммерсанта», два комитета Европарламента — по внутреннему рынку и по гражданским свободам — одобрили проект закона (.pdf) об искусственном интеллекте (AI Act). 84 депутата проголосовали за, 7 — против, 12 воздержались. В июне должен будет проголосовать Европарламент в целом. После этого пройдут обсуждения документа с Еврокомиссией, а также со странами—членами ЕС. Ожидается, что закон будет окончательно принят в конце нынешнего или начале следующего года.
- 144-страничный законопроект описывает правила использования различных систем на основе ИИ, в том числе систем распознавания лиц, предиктивной аналитики, генеративного ИИ, беспилотных автомобилей и других.
- Все основанные на ИИ системы и инструменты по новому закону должны подразделяться по уровню риска — от низкого до неприемлемого.
Закон станет первым в мире примером разностороннего и всеобъемлющего регулирования использования искусственного интеллекта, на который в дальнейшем так или иначе будут ориентироваться власти других стран и корпорации.
«Мы находимся на пороге создания по-настоящему значимого для цифровой среды законодательства, не только для Европы, но и для всего мира»,— отметил один из авторов законопроекта депутат Брандо Бенифеи.
Законопроект запрещает применение целого ряда инструментов и систем, позволяющих с помощью ИИ следить за гражданами и, в частности, создавать профили потенциальных преступников.
- В числе прочего Закон об ИИ предусматривает запрет использования систем распознавания лиц и других систем «удаленной биометрической идентификации» в режиме реального времени в общественных местах. В последние годы они получили широкое распространение в разных странах.
- Помимо распознавания лиц в классическом смысле, позволяющего определить личность человека по видео, закон запрещает также и так называемое распознавание эмоций. Оно работает сходным образом и выявляет состояние человека — это может быть использовано работодателями или полицией для выявления уставших работников или водителей.
- Также закон запрещает использование полицией систем предиктивной аналитики для профилактики правонарушений. Такие системы, анализируя огромные массивы данных, делают прогноз о вероятности совершения преступления и составляют профили потенциальных правонарушителей. Помимо общей непрозрачности такого прогнозирования подобные системы ИИ уже критиковали за то, что они воспроизводят стереотипы, господствующие в обществе. Так, представители малообеспеченных групп населения могут быть отнесены ИИ к группе высокого риска только потому, что они чаще контактируют с социальными службами и их данные с большей вероятностью можно найти в государственных базах, на основе которых ИИ и делает прогнозы.
- Закон содержит нормы жесткого регулирования различных «высокорисковых систем, основанных на ИИ». К ним относят физические объекты — беспилотные автомобили, медицинские приборы с применением ИИ, основанные на ИИ системы управления критической инфраструктурой и т. д. Сбой в их работе угрожает жизни людей или ведет к другим серьезным последствиям.
- Что касается генеративного ИИ, то есть, в частности, основанных на ИИ чат-ботов, таких как ChatGPT, закон не запрещает их использование, но довольно жестко его регулирует. В числе прочего создатели таких систем должны раскрывать информацию о том, какие защищенные авторским правом книги, музыкальные произведения, картины и др. использовались при обучении ИИ. Это должно помочь бороться с нарушением авторского права и плагиатом.
Для стимуляции разработок Европарламент подумал об исключениях для исследовательской деятельности в правилах — для проектов ИИ, предоставляемых по лицензиям с открытым исходным кодом. В частности, проект продвигает государственные нормативные песочницы в целях тестирования ИИ перед его внедрением.
Депутаты также предлагают расширить право граждан на жалобы на ИИ.
Сейчас проект правил должен быть одобрен всем Европарламентом, голосование ожидается на сессии 12-15 июня. Пункт о запрете полицейского прогнозирования также поддерживают Amnesty Tech, Human Rights Watch, Совет коллегий и адвокатских палат Европы, Европейская адвокатская ассоциация и ещё более 50 подобных групп по всей Европе.
С заботой о вашей безопасности, команда Origin Security