Компания OpenAI внедрила родительский контроль в чат-бот ChatGPT на фоне трагического инцидента, вызвавшего общественный резонанс, пишет Reuters.

Родители подростка из Калифорнии подали иск против разработчика ИИ, утверждая, что именно ChatGPT дал их сыну инструкции по нанесению себе вреда, в результате чего подросток покончил с собой. На фоне иска OpenAI объявила о запуске новых функций безопасности, которые уже начинают работать.

Теперь родители и подростки смогут связать свои аккаунты, чтобы активировать дополнительные меры защиты. Родительский контроль включается только после того, как обе стороны принимают приглашение.

Среди доступных опций — возможность ограничить доступ к чувствительному контенту, запретить чат-боту запоминать предыдущие разговоры и использовать их для обучения, а также задать «тихие часы», когда ChatGPT будет заблокирован.

Также можно отключить голосовой режим и функции генерации изображений, но при этом родители не будут иметь доступа к истории чатов подростка. Однако, если система или модераторы обнаружат потенциальную угрозу жизни или здоровью, родители получат уведомление — только с той информацией, которая необходима для обеспечения безопасности.

Компания также заявила о разработке системы прогнозирования возраста пользователя, которая позволит автоматически применять подростковые настройки для несовершеннолетних. Это особенно важно на фоне растущего внимания регуляторов в США к деятельности компаний, работающих в сфере ИИ. Так, ранее сообщалось, что AI-боты Meta могли вести флирт с детьми, а теперь и Meta внедряет ограничения на такие сценарии общения.

У OpenAI сегодня около 700 миллионов активных пользователей в неделю. Новый шаг компании можно рассматривать как попытку ответить на требования общества и регуляторов по усилению контроля над использованием ИИ несовершеннолетними.