Участники переговоров из крупных институтов Европейского Союза заявили, что наконец достигли политического соглашения по новому Закону об искусственном интеллекте, который станет первым в мире — и потенциально самым влиятельным — всеобъемлющим сводом правил для сектора искусственного интеллекта, но есть вопросы, пишет журнал Fortune.

Точные детали еще предстоит раскрыть, а окончательный текст еще должен быть официально одобрен Европейским парламентом и национальными правительствами блока, но примерно известно, каких правил следует ожидать, когда закон вступит в силу через пару лет. (Добровольный « Пакт об искусственном интеллекте » устранит разрыв между настоящим и будущим.)

Правила для ИИ

Базовые модели (например, GPT-4) и системы общего назначения, построенные на их основе (например, ChatGPT), должны будут сопровождаться технической документацией и подробными описаниями содержания, на котором они обучаются. Те, кто, как предполагается, представляют системные риски, должны будут пройти «состязательное тестирование» и соблюдать правила, касающиеся кибербезопасности и энергоэффективности. 

Сделка предусматривает создание спонсируемых государством «регулятивных песочниц», чтобы стартапы и малые предприятия могли разрабатывать и обучать новые системы искусственного интеллекта, а также тестировать их в реальных условиях, прежде чем выпускать их. Парламент заявил, что это защитит более мелких игроков от «неоправданного давления со стороны отраслевых гигантов, контролирующие цепочку создания стоимости». Важно отметить, что модели с полностью открытым исходным кодом будут менее строго регулироваться, чем проприетарные модели.

Системы искусственного интеллекта высокого риска в таких областях, как страхование и банковское дело, а также те, которые могут повлиять на поведение избирателей, должны будут пройти оценку воздействия, и европейцы смогут требовать объяснений о том, как были приняты решения, которые могли оказать на них влияние. Некоторые вещи будут полностью запрещены, например, социальный рейтинг, системы распознавания эмоций на рабочем месте, системы искусственного интеллекта, эксплуатирующие уязвимые места, и системы биометрической категоризации, использующие такие характеристики, как раса и сексуальная ориентация.

Телега впереди лошади

В первую очередь довольны достигнутым соглашением, естественно, сами переговорщики. Им удалось довести дело до финиша в этом году. Если бы решение перенесли на 2024-й, оно могло бы стать жертвой хаоса перед надвигающимися европейскими выборами.

Но технологические лоббисты и правозащитники весьма недовольны. Так, Даниэл Кастро, глава финансируемого Apple Фонда информационных технологий и инноваций (ITIF), сказал:

«Учитывая, как быстро развивается ИИ, законодателям ЕС следует сделать паузу в любом законодательстве, пока они не поймут, что именно они регулируют… Быстрые действия могут создать иллюзию прогресса, но это не гарантирует успеха».  

Ассоциация индустрии компьютеров и коммуникаций (CCIA), в состав которой также входят Google , Meta, Amazon и Apple, также заявила, что

Забота о будущем в области искусственного интеллекта была принесена в жертву ради быстрой сделки 

CCIA приветствовала тот факт, что, в отличие от первоначального проекта Европейской комиссии, окончательный компромисс позволяет разработчикам «продемонстрировать, что система не представляет высокого риска», но заявила, что «строгие обязательства» Закона «замедлят инновации в Европе» и «приведут к оттоку европейских компаний, занимающихся искусственным интеллектом, и росту поиска талантов в других местах». 

Европейская организация потребителей (BEUC) выразила обеспокоенность, что закон позволит использовать системы распознавания эмоций на основе искусственного интеллекта за пределами рабочего места, и заявила, что он оставит такие вещи, как виртуальные помощники, «практически нерегулируемыми». 

Потребители справедливо обеспокоены мощью и охватом искусственного интеллекта и тем, как он может привести к манипуляциям и дискриминации, но Закон об искусственном интеллекте не решает в достаточной степени эти проблемы,

— сказала заместитель генерального директора Урсула Пахл.

А European Digital Rights (EDRi) предсказала, что «дьявол будет крыться в деталях» технических проектов, которые появятся в ближайшие недели. EDRi обеспокоен тем, что соглашение знаменует собой первый случай, когда ЕС легализует распознавание лиц в общественных местах (хотя и ограничивается несколькими приложениями, такими как поиск подозреваемых и предотвращение террористических атак) и содержит «исключения из правил, когда правоохранительные органы, органы миграции и национальной безопасности используют ИИ «высокого риска».

«Наша борьба с биометрической массовой слежкой будет продолжаться», — заявила в своем заявлении старший политический советник EDRi Элла Якубовска.