Недавно мы писали о новом законе ЕС, регулирующем искусственный интеллект.Эта статья посвящена мнениям экспертов о регулировании. В частности, они выражают обеспокоенность несовершенством ИИ.
По мнению учёных, сверхмощные базовые модели, адаптирующиеся к различным задачам, могут сделать все системы искусственного интеллекта небезопасными, полными предрассудков и непрозрачными. Предлагаемого закона ЕС об искусственном интеллекте может быть недостаточно для смягчения этой угрозы.
Поскольку появление сверхмощного нового типа ИИ не было в полной мере учтено в предлагаемом законе ЕС, это может означать, что закон быстро устареет. Трудно предсказать, как технология будет внедряться в будущем. Это могут быть новые и неожиданные способы.
Базовые модели обучаются на огромных объёмах данных крупнейшими технологическими компаниями мира. Затем они будут адаптированы к широкому кругу задач и станут инфраструктурой, на которой будут строиться другие приложения.
Следовательно, любые недостатки базовых моделей будут унаследованы приложениями, созданными на их основе. Существует опасение, что базовые модели вызовут недостаточную безопасность и предвзятость в ИИ.
Одно исследование показало, что модель, обученная на основе онлайн-текстов, воспроизводит предрассудки интернета, приравнивая ислам к терроризму. Эта предвзятость может неожиданно проявиться, если модель используется, например, в образовании.
Таким образом, если основа ошибочна, последующее использование будет ложным.
В августе учёные из Стэнфордского университета сообщили, что нет чёткого понимания того, как работают базовые модели, что будет в результатах ошибок и на что они вообще способны.
Даже несмотря на то, что некоторые учёные обеспокоены тем, что базовые модели станут широко распространёнными, некоторые стартапы уже начали использовать модели для создания инструментов и сервисов искусственного интеллекта. Среди них — автоматически генерируемая игра «Подземелья и драконы», помощники для электронной почты и рекламные тексты.
Традиционные системы искусственного интеллекта создаются для конкретной цели. Например, диагностика рентгеновских снимков проводится после сбора данных, построения модели и развёртывания. Искусственный интеллект может точно определить, есть ли у пациента пневмония, затрачивая на это гораздо меньше времени, чем специалист.
Однако современные приложения изолированы, и их нельзя использовать без наблюдения человека, поскольку они не обладают знаниями здравого смысла.
Базовые модели обучаются на широком спектре данных, таких как онлайн-текст, изображения или видео. Они всё чаще представляют собой комбинацию всех трёх — и поэтому после некоторой доработки могут применяться к широкому кругу различных приложений.
Например, GTP-3, модель, созданная исследовательской лабораторией OpenAI в Сан-Франциско (но теперь лицензируемая исключительно Microsoft), обучена на 570 гигабайтах интернет-текста и может быть настроена для создания, скажем, чат-ботов на всевозможные темы.
Но проблема с обучением системы искусственного интеллекта на всём интернете заключается в том, что становится гораздо сложнее понять, почему базовая модель даёт определённый вывод, чем когда данные, на которых она обучается, точно определены.
Хотя ИИ может генерировать правдоподобные ответы на вопросы, базовые модели не обладают никаким глубоким пониманием мира. Их выводы не основаны ни на какой истине; они основаны лишь на статистических закономерностях, которые хорошо звучат вместе. В одном тесте базовую модель обманули, заявив, что яблоко с надписью «iPod» на нём — это iPod.
Может быть хорошо, если система искусственного интеллекта может предложить творческие идеи писателю, но это рискованнее, если она лежит в основе чат-бота, который должен давать точные ответы. Искусственный интеллект не обладает эмпатией. Он собирает самые разнообразные данные из интернета, иногда без какого-либо фильтра. Это приводит к тому, что ответы чат-ботов могут звучать недопустимо грубо, затрагивая вопросы пола, расы, национальности, религии.
Более того, поскольку эти модели извлекают общедоступные данные из интернета, злоумышленники могут размещать информацию в сети, обманывая систему искусственного интеллекта, чтобы она изменила свои выходные данные. Это называется «отравлением данных». Это может привести к тому, что она будет думать, например, что человек, подвергающийся преследованиям, является преступником или террористом.
Копнуть глубже
Критики говорят, что проблема предлагаемого ЕС закона об ИИ заключается в том, что он регулирует или прямо запрещает конкретное использование ИИ, но не углубляется в базовые модели, лежащие в основе этих приложений. Закон, например, запретит приложения искусственного интеллекта с «социальным рейтингом» или те, которые «эксплуатируют уязвимости определённой группы людей».
Вместо этого система ИИ общего назначения будет подпадать под действие закона только в том случае, если «предполагаемая цель» попадает в сферу его действия.
Более того, это означает, что закон переложит бремя регулирования с крупных технологических гигантов США и Китая, которым принадлежат базовые модели, на европейские малые и средние предприятия и стартапы, которые используют модели для создания приложений искусственного интеллекта.
По мнению экспертов, регулирование должно в большей степени фокусироваться на общих качествах всей системы искусственного интеллекта, например, является ли она предвзятой или может ли сообщить пользователю, что не уверена в своём ответе.
Если базовая модель не имеет представления о своих собственных «ограничениях знаний», для ИИ нормально рекомендовать ваш следующий сериал на Netflix. Но это может быть рискованно, если он назначает лекарства.
Системы высокого риска
Законодатели, вероятно, будут продолжать возвращаться и менять закон об ИИ в будущем, чтобы впоследствии запретить или регулировать новое использование ИИ, вместо того чтобы в первую очередь убедиться в надёжности базовых моделей. Базовые модели должны быть заранее классифицированы в законе как системы высокого риска.
Другие эксперты по искусственному интеллекту также согласны с тем, что закон нужно изменить, чтобы учесть новые вызовы базовых моделей.
Представитель Комиссии подтвердил, что подход закона об ИИ заключается в тщательном изучении «предполагаемого использования», а не «технологии как таковой». Но если система ИИ классифицируется как «высокорисковая», то «лежащая в её основе технология» будет «подвергнута строгому регуляторному контролю».
Список того, что считается «высокорисковым» ИИ, также может «гибко обновляться», если новое и неожиданное использование ИИ «создаст законные опасения по поводу защиты здоровья, безопасности и основных прав человека», — сказал он.
*Эта статья была переписана и сокращена для публикации в нашем блоге. Оригинальную статью можно найти здесь. *
- Если вы находите наши посты убедительными, вы можете подписаться здесь. Если у вас есть вопросы, вы можете написать на info@digt.com: мы будем рады получить обратную связь.*