Это положение применяется к (1) поставщикам, которые размещают на рынке или вводят в эксплуатацию системы ИИ, независимо от того, учреждены ли эти поставщики в Европейском союзе или в третьей стране; (2) пользователям систем ИИ в ЕС; и (3) поставщикам и пользователям систем ИИ, находящимся в третьей стране, если продукты, произведённые системой, используются в ЕС.
Термин «система ИИ» широко определяется как «программное обеспечение, разработанное с использованием одного или нескольких методов и подходов, перечисленных в Приложении I, которое для заданного набора определённых человеком целей может генерировать результаты, такие как контент, прогнозы, рекомендации или решения, влияющие на среды, с которыми оно взаимодействует». Комиссия применяет основанный на оценке рисков, но в целом осторожный подход к ИИ и признаёт потенциал ИИ и множество преимуществ, которые он предоставляет, но в то же время остро осознаёт опасности, которые эти новые технологии представляют для европейских ценностей, основных прав и принципов.
Это объясняет, почему предложение начинается с перечисления четырёх типов методов искусственного интеллекта, которые запрещены:
- Размещение на рынке, ввод в эксплуатацию или использование системы ИИ, которая применяет сублиминальные техники, находящиеся за пределами сознания человека, для существенного искажения поведения человека таким образом, что это причиняет этому человеку или другому человеку физический или психологический вред.
- Размещение на рынке, ввод в эксплуатацию или использование системы ИИ, которая использует уязвимости конкретной группы лиц в связи с их возрастом, физической или умственной инвалидностью для существенного искажения поведения лица, принадлежащего к этой группе, таким образом, что это причиняет этому человеку или другому человеку физический или психологический вред.
- Размещение на рынке, ввод в эксплуатацию или использование системы ИИ государственными органами или от их имени для оценки или классификации благонадёжности физических лиц с помощью социального рейтинга, ведущего к вредному или неблагоприятному обращению, которое либо не связано с контекстами, в которых данные были первоначально сгенерированы, либо необоснованно или непропорционально.
- Использование систем «реального времени» дистанционной биометрической идентификации (читай: распознавания лиц) в общедоступных местах в целях правоохранительной деятельности, однако при условии широких исключений, которые, в свою очередь, подчиняются дополнительным требованиям, включая предварительное разрешение на каждое отдельное использование, которое должно быть предоставлено судебным органом или независимым административным органом в государстве-члене, где используется система.
Основная часть предложения посвящена высокорисковым системам ИИ. Высокорисковые системы ИИ должны быть тщательно протестированы до их размещения на рынке или ввода в эксплуатацию и на протяжении всего их жизненного цикла, в том числе посредством обязательной системы управления рисками, строгих требований к данным и управлению данными, требований к технической документации и ведению записей, а также требований к постмаркетинговому мониторингу и отчётности об инцидентах.
Оценка соответствия третьей стороной или самим поставщиком и, для автономных систем ИИ, регистрация в центральной базе данных, созданной и поддерживаемой комиссией. Применяются различные процедуры в зависимости от типа системы и от того, охвачена ли система уже существующим законодательством о безопасности продукции.
Обязательства по предложению затрагивают все вовлечённые стороны: поставщика, импортёра, дистрибьютора и пользователя. Существуют специальные положения, касающиеся прозрачности, чтобы гарантировать, что люди знают, что имеют дело с системой искусственного интеллекта, но также позволяют пользователям интерпретировать результаты системы и использовать её надлежащим образом.
Статья 14 предложения подчёркивает, что системы ИИ должны быть спроектированы и разработаны таким образом, чтобы гарантировался человеческий надзор во время использования.
Стремясь продемонстрировать, что комиссия осознаёт возможности, предоставляемые технологией ИИ, предложение также содержит несколько положений в Разделе V, которые излагают меры в поддержку инноваций. Они включают схемы регуляторных песочниц и обязанность государств-членов предоставлять определённые услуги и средства для маломасштабных поставщиков и пользователей.
В соответствии с позициями, занятыми в других законодательных инициативах, связанных с данными, именно на государства-члены возлагается обеспечение соблюдения правил об ИИ. Регламент предусматривает суровые административные штрафы за различные виды нарушений, составляющие для компаний от 2% до 6% от общего годового мирового оборота. Предложение предусматривает создание Европейского совета по ИИ с различными задачами, включая содействие национальным надзорным органам и комиссии в обеспечении единообразного применения регламента, выпуск заключений и рекомендаций, а также сбор и обмен передовым опытом между государствами-членами.
Регламент, после его принятия, вступит в силу через 20 дней после его публикации в Официальном журнале. Он будет применяться через 24 месяца после этой даты, но некоторые положения будут применяться раньше. Этот длительный «льготный период» увеличивает риск того, что, несмотря на усилия комиссии сделать регламент устойчивым к будущим изменениям, некоторые из его положений будут опережены технологическим развитием ещё до того, как они вообще начнут применяться.
Теперь предложение направляется в Европейский парламент и Совет для дальнейшего рассмотрения и обсуждения. Учитывая спорный характер ИИ, большое количество заинтересованных сторон и вовлечённых интересов, представляется справедливым предположить, что путь к принятию будет тернистым и долгим. Вероятно, будет много поправок в Европейском парламенте и обсуждений с государствами-членами. Источник здесь.