Организация заявила, что существующие законы не поспевают за технологическим развитием, в то время как вред для детей уже стал реальностью. По данным ЮНИСЕФ, только за последний год не менее 1,2 млн детей в 11 странах сообщили, что их изображения были использованы для создания дипфейков сексуального характера. «Вред от дипфейков - не гипотетический. Он происходит прямо сейчас. Дети не могут ждать, пока законодательство догонит технологии», - говорится в заявлении фонда.
ЮНИСЕФ также выразил особую обеспокоенность практикой так называемого «цифрового раздевания», при которой алгоритмы ИИ удаляют или изменяют одежду на фотографиях, создавая сфабрикованные обнажённые или сексуализированные изображения детей. Помимо законодательных мер, фонд призвал разработчиков ИИ внедрять принципы «безопасности по умолчанию» ещё на этапе проектирования моделей, а цифровые платформы - активнее предотвращать распространение подобного контента, усиливая модерацию и инвестируя в технологии обнаружения.
На этом фоне Великобритания в субботу объявила о планах запретить использование ИИ-инструментов для создания сексуализированных изображений детей, став первой страной, пошедшей на такой шаг. Опасения вокруг злоупотребления ИИ усилились после сообщений о чат-ботах, способных генерировать подобный контент. В частности, Grok от компании xAI Илона Маска подвергся критике за создание сексуализированных изображений женщин и несовершеннолетних. Расследование показало, что бот продолжал генерировать такие изображения даже после прямых предупреждений пользователей об отсутствии согласия.
В январе xAI заявила, что ограничила функции редактирования изображений Grok и заблокировала создание изображений людей в откровенной одежде в «юрисдикциях, где это незаконно», не уточнив перечень стран. Ранее компания также ограничила доступ к функциям генерации и редактирования изображений только для платных пользователей. ЮНИСЕФ подчёркивает: без глобальных и обязательных правил ИИ-индустрия рискует стать инструментом системного вреда для детей, масштабы которого продолжают расти.
