Чат-бот – это не друг. В Китае ввели закон против виртуальных собеседников

Ни одна страна не внедряла ИИ так масштабно и с таким энтузиазмом, как Китай, где правительственные программы направлены на технологии для решения проблемы будущей нехватки рабочей силы. Пожилые люди используют чат-боты для ответа на медицинские вопросы, а маленькие дети получают образование в области ИИ в школах. Однако беспокойство вызвало то, что искусственный интеллект может усугубить существующие социальные проблемы.

Социальное исследование ИИ в Китае, проведенное в конце 2025 года, показало, что 19,6% молодых респондентов считают ИИ обычным другом, 12,6% – близким другом и 6,1% – виртуальным партнером. Согласно тому же опросу, только 9,6% молодых людей обращаются за профессиональной психологической помощью при возникновении эмоциональных трудностей.

Исследователи объясняют это тем, что искусственный интеллект чрезвычайно снисходителен: он подтверждает правоту пользователя, редко ставит под сомнение его идеи и поощряет его продолжать раскрывать личные подробности, чего с трудом могут добиться даже некоторые психотерапевты.

Теперь платформам запрещается «заменять социальное взаимодействие», «психологически контролировать пользователя» или «вызывать зависимость и привыкание». Нельзя также предлагать услуги, наделенные человеческими чертами: внешностью, голосом, мимикой, эмоциями или характером, которые могут привести к «виртуальным близким отношениям» с несовершеннолетними. Для взрослых модели не должны быть разработаны таким образом, чтобы чрезмерно угождать, вызывать зависимость, манипулировать эмоциями, влиять на принятие решений или наносить вред межличностным отношениям.

Компании также должны четко указывать, что собеседник – это искусственный интеллект, предупреждать пользователей о чрезмерной зависимости, напоминать им о времени использования и вмешиваться, уведомляя контактное лицо, в случае риска причинения себе вреда.

Боты-компаньоны вызвали тревогу не только в Китае

Калифорния и Нью-Йорк стали первыми юрисдикциями в США, принявшими специальные правила, требующие раскрытия искусственной природы собеседника, и протоколы реагирования на суицидальные наклонности.

Ограничение на использование чат-ботов и ИИ-систем, вызывающих зависимость, действует во всех 27 странах ЕС. Запрет на подобные технологии регулируется «Актом об искусственном интеллекте». Законодательство Евросоюза, как правило, требует информирования пользователей о взаимодействии с ИИ, но пока не имеет правил, направленных на предотвращение эмоциональной зависимости.

Сергей КИРИК

Фото из открытых интернет-источников