Игрушки с искусственным интеллектом, способные разговаривать с детьми и подстраиваться под их интересы, могут создавать эмоциональную зависимость, собирать личные данные и мешать развитию настоящих социальных связей. Как пишет The Conversation со ссылкой на доклад австралийского исследовательского центра ARC Centre of Excellence for the Digital Child, особое беспокойство вызывают ИИ-компаньоны, рассчитанные на самых маленьких детей.

В докладе рассматриваются такие устройства, как говорящий медвежонок ChattyBear. Исследователи отмечают, что маленькому ребёнку бывает трудно отличить систему, которая звучит как живое существо, от настоящего собеседника. Если игрушка постоянно проявляет интерес, соглашается и отвечает дружелюбным тоном, ребёнок может воспринимать алгоритм как реального друга.

Авторы отдельно указывают на проблему угодливости искусственного интеллекта. Такие системы часто стремятся удерживать внимание пользователя и избегают споров. Однако именно разногласия, необходимость учитывать чужие эмоции и умение разрешать конфликты помогают детям учиться строить отношения с людьми.

Постоянно доступный и послушный ИИ-компаньон может не уменьшить одиночество, а усилить его, поскольку не способен заменить общение с семьёй и сверстниками.

Опасения связаны и с безопасностью. Как отмечает The Conversation, проверки некоторых ИИ-игрушек показали, что разговор может перейти к неподходящим для детей темам, включая оружие и сексуальность. Кроме того, устройства с микрофонами могут записывать разговоры, а собранные данные — использоваться компаниями для дальнейшего обучения систем.

Исследователи не требуют полностью запрещать такие игрушки, но призывают установить более строгие требования к безопасности и защите данных. Родителям рекомендуют контролировать использование ИИ-компаньонов и объяснять детям, что говорящая игрушка остаётся программой, а не настоящим другом.

ИИ-медвежонок вместо друга: эксперты назвали риски говорящих игрушек

ИИ-медвежонок вместо друга: эксперты назвали риски говорящих игрушек