Иллюстрация к материалу: Психолог: чат-боты могут навредить детям вместо поддержки
Обращение к чат-ботам за психологической поддержкой вместо общения с близкими или специалистами может привести к зависимости и внутреннему конфликту. Об этом рассказала психолог, телесно-ориентированный терапевт Екатерина Михайлова. По её словам, диалог с искусственным интеллектом (ИИ) вызывает когнитивный диссонанс: человек получает слова поддержки от алгоритма, что порождает разрыв между осознанием и эмоциями. Это может привести к обесцениванию собственных переживаний и ощущению обмана.
Чат-бот не способен считывать невербальные сигналы и не заметит, если собеседник находится на грани паники, что может усугубить тревожное состояние. «Если нейросеть, обученная на форумах и медицинских статьях, где-то сгенерирует вероятностный прогноз, звучащий как приговор, человек воспримет его как истину. Хуже того, алгоритм не видит вашего состояния. Живой психолог заметит, что вы на грани паники по сбившемуся дыханию и напряженным плечам. Чат-бот же, не получая сигналов «стоп», продолжит копать тему, погружая человека в пучину тревоги, из которой без направляющей руки специалиста выбраться крайне сложно», — пояснила специалист.
Екатерина Михайлова уточнила, что ИИ может быть полезен как вспомогательный инструмент для структурирования мыслей или подготовки к визиту к специалисту. Однако она настоятельно рекомендовала не заменять живое общение алгоритмами, особенно если тревога не отпускает, нарушен сон или появляются мысли о самоповреждении. В таких ситуациях необходима помощь эксперта.
Использование генеративного ИИ для получения поддержки в вопросах психического здоровья уже распространено среди подростков. Около 20% подростков в США в возрасте от 13 до 17 лет обращались к чат-ботам за такой помощью, несмотря на предупреждения экспертов. Это означает, что дети могут уже иметь такой опыт или столкнуться с ним в ближайшем будущем. Родителям важно обсуждать с детьми использование подобных инструментов и потенциальные риски.
Использование ИИ-чатботов для поддержки психического здоровья представляет особые риски для молодежи. Среди них — предоставление неточных или вредных советов, отсутствие эмпатии, потенциал для зависимости и препятствие развитию критического мышления и социально-эмоциональных навыков. Кроме того, недостаточная прозрачность и слабые меры защиты данных в таких чат-ботах создают значительные риски для конфиденциальности личной и чувствительной информации. Данные, которыми ребенок делится о своем психическом состоянии, могут быть собраны, использованы или переданы без должного согласия или понимания последствий.
Американская психологическая ассоциация подчеркивает необходимость «человеческого надзора и контроля», а также «конфиденциальности и безопасности» при использовании ИИ в психологической практике. Это подтверждает позицию профессионального сообщества: ИИ не может заменить человека в такой чувствительной сфере, как психическое здоровье. Родителям стоит помнить, что при тревоге, нарушениях сна или мыслях о самоповреждении необходима помощь квалифицированного специалиста.