В ЕС предложили запретить жестокий ИИ-контент с детьми  07.02.2024 Василий Смирнов #Европа#Искусственный Интеллект#Регулирование

Европейская комиссия рассматривает возможность введения уголовной ответственности за созданные ИИ изображения и дипфейки, демонстрирующие сексуальное насилие над детьми (CSA).

Child sexual abuse is a heinous crime which has evolved significantly over the past years.Today, we are adopting a proposal to update the criminal law rules on child sexual abuse and sexual exploitation.Learn more → https://t.co/mtz68GuEJJ#SecurityEU pic.twitter.com/QF7TsFX7cy

— European Commission (@EU_Commission) February 6, 2024

Законопроект криминализирует распространение контента с жестоким обращением с несовершеннолетними. Документ подразумевает введение нового уголовного преступления.

Положения предусматривают наказание за хранение и обмен «руководствами для педофилов» по созданию CSA-материалов с помощью нейросетей. В предложении также упоминаются неназванные чат-боты на основе искусственного интеллекта, используемые для этих целей.

«Угроза злоупотреблений реальна и возросла во всем ЕС. Например, в сети продолжают появляться руководства для педофилов, свидетельствующие о возросшей угрозе для наиболее уязвимых групп населения. Присутствие детей в онлайне и технологические инновации создают новые возможности для злоупотреблений. Только в 2022 году в Евросоюзе зарегистрировано 1,5 млн сообщений о CSA», — говорится в заявлении ведомства.

Для реализации инициативы Еврокомиссия намерена внести поправки в соответствующий закон от 2011 года. Однако окончательное решение по предложенным правилам примут Европейский парламент и Европейский совет.

Эти меры являются частью более широкого пакета, направленного на предотвращение сексуального насилия над детьми, повышение осведомленности о рисках в Интернете, облегчение процесса информирования о преступлениях и предоставление государственной поддержки, включая право на финансовую компенсацию.

Ранее британская компания по надзору за интернетом Internet Watch Foundation сообщила о быстром распространении ИИ-материалов с сексуальным насилием над детьми. Согласно отчету исследователей, всего за один месяц на одном из даркнет-форумов обнаружено более 20 254 изображений CSA.

Напомним, в мае 2023 года один из пионеров отрасли Джеффри Хинтон предупредил о потенциальных угрозах, связанных с ИИ. До этого экс-глава Google Эрик Шмидт заявил, что технология представляет собой «экзистенциальный риск», из-за которого многие люди могут «пострадать или погибнуть».

Темная эра ИИ: почему этика искусственного интеллекта важна

Telegram (основной канал) Discord Instagram Нашли ошибку в тексте? Выделите ее и нажмите CTRL+ENTER