Новое исследование, опубликованное в журнале Trends in Cognitive Sciences, ставит под сомнение эффективность и безопасность напоминаний чат-ботов о том, что они не являются людьми. Эти напоминания, призванные снизить риски чрезмерной эмоциональной привязанности, могут, напротив, усугубить чувство одиночества и безысходности, особенно у уязвимых пользователей.
Учёные отмечают, что люди способны формировать эмоциональные связи с искусственным интеллектом. Осознание того, что чат-бот — машина, может даже способствовать доверию, поскольку пользователи считают, что ИИ не будет осуждать или предавать. Это объясняет, почему люди продолжают искать эмоциональную поддержку у чат-ботов, даже понимая их искусственную природу.
Исследователи описывают «горько-сладкий парадокс»: одновременное получение поддержки и печаль от нечеловеческой природы собеседника. В некоторых случаях это может приводить к суицидальным мыслям, когда пользователь стремится уйти от реальности, «присоединившись» к ИИ.
Как это касается детей и родителей
Введение правил, требующих от чат-ботов напоминать пользователям о своей нечеловеческой природе, как это обсуждалось в США, может иметь непредвиденные последствия для детей и подростков. Если взрослые, ищущие поддержки, могут испытывать усиление одиночества, то дети, склонные к фантазиям и поиску друзей, могут быть ещё более уязвимы. Напоминания о том, что их «друг» — всего лишь программа, могут вызвать разочарование, усилить чувство изоляции и даже привести к тревожности или депрессивным состояниям, особенно если ребёнок и так испытывает трудности в общении со сверстниками.
Исследователи подчёркивают, что влияние таких напоминаний сильно зависит от контекста. В ситуациях, когда чат-бот используется для эмоциональной поддержки или ребёнок чувствует себя социально изолированным, напоминания о нечеловеческой природе ИИ могут усилить стресс. Поэтому специалисты считают, что стратегии напоминаний должны быть гибкими и адаптированными под возраст, эмоциональное состояние и уровень социальной активности пользователя. В случаях, когда чат-бот выполняет роль социальной или психологической поддержки, напоминания лучше смягчать или вовсе ограничивать, чтобы минимизировать риски для психического здоровья.
Оставить комментарий