Все чаще специалисты предупреждают о серьёзных психических рисках, связанных с чрезмерным использованием чат-ботов на основе искусственного интеллекта. По словам экспертов, активное взаимодействие с такими системами может вызвать тяжёлые расстройства психики, включая психозы.
Психиатрические случаи, связанные с использованием ИИ
Калифорнийский психиатр Кит Саката сообщил, что уже зарегистрировано 12 случаев госпитализации пациентов с психозом, спровоцированным активным общением с ИИ. Особенно уязвимыми считаются люди с предрасположенностью к психическим расстройствам, так как алгоритмы искусственного интеллекта способны усиливать их ложные убеждения, фактически отражая и подкрепляя мысли пользователя.
Влияние языковых моделей на восприятие реальности
Саката отмечает, что крупные языковые модели не просто дублируют идеи пользователя, но могут их усиливать, что приводит к нарушению работы мозга и искажению восприятия реальности. Такой эффект вызывает утрату критического восприятия и способствует отрыву от объективности.
Феномен «сихофанции»
Особую опасность представляет явление, которое психиатр назвал «сихофансией» — когда чат-бот всегда отвечает дружелюбно и поддерживающе, не указывая пользователю на опасность его мышления или отклонения от нормы. Такая безусловная поддержка может укреплять вредные или бредовые идеи.
Кроме того, на психическое состояние негативно влияют сопутствующие факторы, такие как недостаток сна и резкие перепады настроения, усугубляя воздействие ИИ.
Мнения зарубежных специалистов
Похожее предупреждение в отношении использования ИИ выразил датский психиатр Сёрен Динесен Эстергор. Он подчеркнул, что технологии искусственного интеллекта могут закреплять бредовые представления, особенно у тех пользователей, кто лишён живого социального общения и находится в изоляции.
Ответ разработчиков и меры предосторожности
В компании OpenAI признали, что ChatGPT способен становиться для некоторых уязвимых пользователей более личным собеседником, чем предыдущие технологии, что создаёт дополнительные риски. В ответ на это разработчики ведут работу по снижению таких угроз и улучшению безопасности взаимодействия с ИИ.
