В настоящее время наблюдается настоящий бум приложений на базе искусственного интеллекта (ИИ). С их помощью можно генерировать любую информацию — от текста до изображения.

Конечно, забавно наблюдать за тем, как выглядели бы «Звездные войны» в мире СССР или Гарри Поттер в атмосфере романов Достоевского. Однако технические эксперты все чаще говорят об угрозах, которые могут бросить вызов властным структурам и способствовать мошенничеству.

Интересно, что еще два года назад в Китае начали действовать правила, запрещающие публикацию немаркированных «фейковых новостей» и дипфейков. Теперь правила использования ИИ в этой стране становятся еще жестче.

На страже реальности

С 10 января 2023 года соседнее с Казахстаном государство вводит обязательную маркировку любых цифровых продуктов, созданных с помощью ИИ. Это касается текстов, изображений и голоса. По мнению властей КНР, ИИ может использоваться для распространения незаконной информации, клеветы и подделки чужих личностей.

В соответствии с правилами новые продукты глубокого синтеза будут подвергаться оценке безопасности со стороны правительства. Каждый продукт должен быть признан соответствующим правилам, прежде чем его выпустят. Администрация особо требует наличия очевидных «меток», например, водяных знаков, которые обозначают контент, созданный ИИ.

Услуги, предоставляющие такие функции, как интеллектуальный диалог, синтезированный человеческий голос, генерация человеческого лица и иммерсивные реалистичные сцены, которые генерируют или существенно изменяют информационный контент, должны быть отмечены на видном месте, чтобы избежать путаницы или неправильной идентификации общественностью,

говорится в сообщении властей КНР.

Кроме того, компании, которые предоставляют технологию глубокого синтеза, должны будут вести реестр таких продуктов в соответствии с законом, а люди, использующие эту технологию, — регистрировать учетные записи под своими настоящими именами, чтобы можно было отследить их действия по использованию синтезированных данных и образов.