Чат-боты сводят с ума? Разбираемся вместе с врачами

Телефон доверия для детей, подростков и их родителей: — городской: 8 800 200-01-22, — мобильный: 8 800 200-01-24. Центр экстренной психологической помощи МЧС России: +7 495 989-50-50. Горячая линия отделения психолого-психиатрической помощи при ЧС центра психиатрии и наркологии им. В.П. Сербского: +7 495 637 70 70. Экстренная медико-психологическая помощь в кризисных ситуациях: телефон доверия ПКБ№ 1 им. Н. А. Алексеева: +7 499 791 20 50. Скорая психиатрическая помощь: 112. Телеграм: https://t.me/onidokazali Где меня ещё читать и смотреть: от ТикТока до Хабра — https://allmylinks.com/onidokazali Спонср: https://sponsr.ru/onidokazali/ Бусти: https://boosty.to/onidokazali Пруфы: 1. Systematic Review and Meta-Analysis of AI-Based Conversational Agents for Promoting Mental Health and Well-Being DOI: 10.2196/78238 Про: эффективность ИИ-чат-ботов при симптомах депрессии, психологическом дистрессе и оценке общего благополучия. 2. Generative AI Mental Health Chatbots as Therapeutic Tools: Systematic Review and Meta-Analysis of Their Role in Reducing Mental Health Issues DOI: 10.2196/78238 Про эффективность генеративных чат-ботов при депрессии, тревоге и других проблемах с психическим здоровьем. 3. Towards Emotional Intelligence in Conversational AI: How Well Can LLMs Recognize Emotion in Conversations? DOI: 10.1145/3805712.3809902 Про то, как языковые модели распознают эмоции в тексте и используют предыдущий контекст разговора. 4. ELEPHANT: Measuring and Understanding Social Sycophancy in LLMs DOI препринта: 10.48550/arXiv.2505.13995 Про то, насколько часто языковые модели поддакивают пользователю, поддерживают его позицию и избегают неудобных возражений. 5. The Impact of Chatbots on Adolescent Mental Health Development: A Comprehensive Literature Review DOI: 10.2147/JMDH.S579872 Обзор 80 исследований о возможной пользе и рисках чат-ботов для молодых людей от 10 до 24 лет. 6. Technological Folie à Deux: Feedback Loops Between AI Chatbots and Mental Health DOI: 10.1038/s44220-026-00595-8 Про то, как пользователь и чат-бот могут взаимно усиливать подозрительные и параноидальные идеи; в работу вошли 300 смоделированных разговоров. 7. “AI Psychosis” in Context: How Conversation History Shapes LLM Responses to Delusional Beliefs DOI препринта: 10.48550/arXiv.2604.13860 Про то, как полный, частичный или отсутствующий контекст разговора меняет реакцию пяти языковых моделей на бредовые убеждения. 8. Delusional Experiences Emerging From AI Chatbot Interactions or “AI Psychosis” DOI: 10.2196/85799 Про возможную роль чат-ботов в возникновении, усилении и изменении содержания психотических переживаний. Это не описание нового диагноза. 9. Exploring the Ethical Challenges of Conversational AI in Mental Health Care: Scoping Review DOI: 10.2196/60432 Обзор 101 публикации о конфиденциальности, безопасности, возможном вреде, неравенстве доступа и ответственности. 10. Your Robot Therapist Is Not Your Therapist: Understanding the Role of AI-Powered Mental Health Chatbots DOI: 10.3389/fdgth.2023.1278186 Про то, почему пользователи могут ошибочно воспринимать чат-бота как настоящего специалиста и ожидать от него врачебной компетентности и ответственности. 0:00 Начало 1:34 Может ли чат-бот заменить психолога или психиатра? 3:31 Безопасные сценарии: выговориться и вспомнить технику 6:30 Когда чат-бот помогает обратиться к специалисту 7:42 Почему для диагностики нужен врач 9:46 Вопросы о лекарствах и побочных эффектах 11:24 Опасность самостоятельной коррекции лечения 12:50 Что показывают исследования эффективности 15:30 Чат-бот и распознавание эмоций 17:20 Что врач замечает при личной встрече 20:17 Подтверждение тревожных предположений и метафора кружки 22:40 Исследование: как часто модели принимают версию пользователя 25:53 Валидация эмоций — не подтверждение убеждений 27:21 Почему чат-боту трудно вовремя оспорить предпосылку 28:23 Пример с лекарствами: почему нельзя менять лечение самостоятельно 31:42 Ответственность врача и недостающий контекст 36:41 Постоянная доступность: поддержка или зависимость? 41:31 Подростки, конфиденциальность и терапевтическое заблуждение 43:29 Что такое «е-психоз» и почему это не диагноз 47:18 Бредовые идеи и риск их подкрепления 50:37 Исследования о петле подтверждения с чат-ботом 54:16 Возможные признаки вредного общения с ботом 56:24 Конфиденциальность, ответственность и доступность помощи 1:00:08 Три правила безопасного использования чат-ботов 1:00:08 Правило 1: использовать для подготовки, а не вместо решения 1:07:47 Правила 2 и 3: проверять предпосылки и не сводить круг общения к чат-боту 1:08:58 Когда нужна помощь живого человека 1:10:51 Итог: чат-бот — помощник, а не специалист 1:11:58 Финал