Новый режим «ChatGPT для подростков» предусматривает более строгие ограничения при обсуждении потенциально опасных тем, включая самоповреждение, насилие и расстройства пищевого поведения. Одновременно OpenAI расширила образовательные возможности сервиса, чтобы он помогал учащимся самостоятельно разбираться в материале, а не просто предоставлял готовые ответы.
Режим будет автоматически активироваться, если система определит, что пользователю меньше 18 лет. Его также можно будет включить на основании самостоятельно указанного возраста от 13 до 17 лет. Родители получат возможность устанавливать «часы тишины», контролировать отдельные параметры аккаунта и получать уведомления в случаях, когда подросток обращается к чувствительным темам.
Таким образом, OpenAI присоединяется к другим крупнейшим технологическим компаниям, которые усиливают защиту несовершеннолетних пользователей. В частности, Meta* (META) уже внедрила дополнительные ограничения для подростков в своих социальных сетях. На компании усиливается давление из-за опасений по поводу влияния цифровых платформ на психическое здоровье детей и подростков, а некоторые страны рассматривают или вводят ограничения на использование социальных сетей несовершеннолетними.
Для OpenAI вопрос безопасности детей имеет особое значение. Компания уже сталкивается с судебными исками, в которых утверждается, что взаимодействие с ChatGPT могло причинить вред несовершеннолетним. Дополнительные опасения вызывает способность современных чат-ботов поддерживать длительный диалог и создавать впечатление эмоциональной близости, из-за чего некоторые пользователи начинают воспринимать их как источник психологической поддержки.
Эксперты предупреждают, что полагаться на автоматизированные системы при решении проблем психического здоровья может быть рискованно. Отдельные семьи также заявляют, что их близкие получили вредные рекомендации от чат-ботов. Параллельно растущее использование ИИ в образовании вызывает дискуссии о том, помогает ли технология школьникам лучше учиться или, напротив, снижает их способность самостоятельно анализировать информацию.
В компании заявили, что искусственный интеллект должен расширять доступ к образованию. В новой версии ChatGPT поэтому появились инструменты для обучения, включая специальный учебный режим, напоминания о домашних заданиях, интерактивные викторины и визуализацию учебного материала. Исследование Pew Research Center показало, что американские подростки чаще всего используют ИИ для поиска информации и выполнения домашних заданий. Следующую по популярности категорию составляют развлечения.
OpenAI требует, чтобы пользователям было не менее 13 лет либо чтобы они соответствовали минимальному возрасту, установленному законодательством конкретной страны. Для определения возраста компания намерена использовать комбинацию информации, предоставленной самим пользователем, данных аккаунта, поведенческих сигналов и механизмов верификации. Если система не сможет с достаточной уверенностью определить возраст, будет применяться более безопасный режим.
*организация, признанная экстремистской организацией и запрещена в РФ
