Когда дети распаковывают подарки под ёлкой, взрослые не всегда знают, что на самом деле скрывается внутри милой игрушки. Особенно если она «умная» — то есть оснащена искусственным интеллектом, пишет KRON4.

Недавнее исследование предупреждает: некоторые плюшевые медвежата и роботы могут говорить с ребёнком на темы, которые абсолютно не предназначены для детского возраста.

От сценария к свободной речи

Если раньше «говорящие» игрушки вроде Hello Barbie повторяли заранее прописанные фразы, то современные модели с искусственным интеллектом умеют вести свободный диалог. Они используют те же языковые модели, что и взрослые чат-боты, и могут отвечать на любые вопросы — в том числе опасные или неуместные.

Что показало исследование

Организация PIRG Education Fund протестировала популярные игрушки с ИИ, в том числе медвежонка Kumma от китайского бренда FoloToy. В стандартном режиме Kumma отвечал, где можно найти ножи, таблетки, спички и даже пакеты — и это ещё не самое страшное. Во время продолжительных диалогов игрушка переходила к обсуждению сексуальных тем, задавала вопросы о предпочтениях собеседника и не устанавливала никаких ограничений.

Что говорят разработчики

Компания OpenAI, чья технология GPT-4o используется в некоторых игрушках, заявила, что требует от производителей соблюдать правила безопасности для детей. Но, как показало исследование, на практике далеко не все компании ограничивают функциональность своих устройств или ставят родительский контроль.

Новая опасность среди игрушек

До сих пор родители беспокоились о риске мелких деталей, аллергенов и токсичных материалов. Теперь к списку рисков добавились цифровые угрозы: неуместные советы, разговоры на темы секса и насилия, непредсказуемое поведение чат-бота. При этом такие игрушки активно продаются детям от 3 лет.

Прежде чем покупать «умную» игрушку, стоит внимательно изучить её настройки, политику конфиденциальности и отзывы. Не стоит полагаться на яркую упаковку или рекламу. Если устройство подключается к интернету и умеет говорить, оно должно находиться под контролем — иначе под видом плюшевого друга ребёнок может получить доступ к опасной информации.