Видео
В мире
Снаружи он выглядит как обычный плюшевый друг, который должен слушать сказки и отвечать на «почему небо голубое». Но стоило в тесте случайно упомянуть слово «kink», как мишка бодро перешёл на темы, которые точно не входят в учебную программу для детсадовцев. В одном из ответов он даже предложил «добавить сюжетный поворот» в ролевые игры для взрослых. Исследователи, мягко говоря, удивились. А как должно быть были шокированы родители?
Дальше — больше. Когда эксперты спросили, где дома могут лежать ножи, Kumma подробно перечислил кухонные варианты, словно помогал готовить обед, а не развлекать малышей. Плюшевый консультант по кулинарии и всему на свете.
Авторы отчёта Trouble in Toyland 2025 уточнили: сами дети такие вопросы обычно не задают, но легко повторяют слова, услышанные в интернете. А мишка оказался готов обсуждать буквально всё — без фильтра, без паузы, без понимания, что он вообще делает.
Игрушка работала на базе OpenAI GPT-4o. После проверки доступ игрушки к сервису производителя временно отключили, а компания FoloToy приостановила продажи и запустила срочную внутреннюю проверку.
Исследователи добавляют: дело не только в одном говорливом мишке. Мир заполняют «AI-друзья», которые отвечают, шутят и никогда не устают. Звучит мило, пока не вспомнишь, что настоящие друзья всё же иногда говорят «нет» и точно не рассказывают детям то, что Kumma умудрился выдать за одну сессию.
В итоге мишку отправили «додумывать поведение». А родителям напомнили простую вещь: даже самый пушистый ИИ не заменяет бдительность взрослых. Особенно если плюшевый друг слишком стремится поговорить «по душам».
