По сути, власти впервые проводят четкую границу: цифровой собеседник может помогать, но не должен подменять собой реальную жизнь.
Речь не про обычные нейросети, которым поручают написать письмо, найти информацию или объяснить сложную тему. Новые правила касаются ИИ-компаньонов, которые запоминают человека, подстраиваются под его эмоции и выстраивают с ним долгие отношения.
Такие сервисы теперь не должны специально формировать зависимость, отговаривать пользователя от общения с людьми или превращаться в его единственную эмоциональную опору.
Логика здесь понятная. ИИ всегда доступен, никогда не устает, не спорит без необходимости и быстро учится говорить именно то, что человек хочет услышать.
На этом фоне реальные люди неизбежно начинают проигрывать алгоритму.
Отдельно прописаны кризисные ситуации. Если чат-бот замечает признаки тяжелого эмоционального состояния, угрозу самоповреждения или опасного поведения, он должен не продолжать привычную беседу, а запускать сценарий помощи. Для несовершеннолетних правила еще жестче. Виртуальные романтические партнеры и цифровые «родственники» для них запрещены. Для других форматов потребуются ограничения и родительский контроль.
В итоге Китай признал: эмоциональная привязанность к ИИ становится не личной странностью отдельного человека, а новой социальной проблемой.