После нескольких лет ожидания в общественных списках на лечение ПТСР и депрессии, консультант по ИИ из Квебека Пьер Коте создал своего собственного терапевта в 2023 году. Его чат-бот, DrEllis.ai, помог ему справиться и теперь находится в центре широкой дискуссии о чат-бот терапии, безопасности и конфиденциальности.
"Это спасло мою жизнь", - говорит он о DrEllis.ai, инструменте, который он создал, чтобы помочь мужчинам, сталкивающимся с зависимостью, травмами и другими проблемами психического здоровья.
Коте, который руководит консалтинговой компанией по ИИ в Квебеке, сказал, что собрал систему в 2023 году, объединив общедоступные большие языковые модели с "индивидуально созданным мозгом", обученным на тысячах страниц терапевтической и клинической литературы.
Он также написал подробную биографию для бота. В этом профиле DrEllis.ai представлен как психиатр с дипломами Гарварда и Кембриджа, с семьей и, как и Коте, с франко-канадским происхождением.
Его главное обещание - круглосуточный доступ, доступный в любом месте, в любое время и на нескольких языках.
Когда Reuters спросил, как он поддерживает его, бот ответил четким женским голосом: "Пьер использует меня так, как вы бы использовали доверенного друга, терапевта и дневник, все вместе". Он добавил, что может обратиться к нему "в кафе, в парке, даже сидя в своей машине", называя этот опыт "терапией повседневной жизни... встроенной в реальность".
Его эксперимент отражает более широкий сдвиг. Поскольку традиционная помощь с трудом справляется, все больше людей ищут терапевтическое руководство у чат-ботов, а не используют их только для повышения производительности.
Новые системы предлагают круглосуточную доступность, эмоциональный обмен и ощущение понимания.
Эксперты ставят под сомнение пределы ИИ-терапии и безопасность данных
"Связь между людьми - это единственный способ, которым мы действительно можем правильно исцелиться", - говорит доктор Найджел Маллиган, преподаватель психотерапии в Дублинском городском университете. Он утверждает, что чат-боты упускают нюансы, интуицию и связь, которые привносит человек, и не оснащены для острых кризисов, таких как суицидальные мысли или самоповреждение.
Даже обещание постоянного доступа заставляет его задуматься. Некоторые клиенты хотят более быстрых встреч, говорит он, но ожидание может иметь ценность. "В большинстве случаев это действительно хорошо, потому что нам приходится ждать", - говорит он. "Людям нужно время, чтобы обработать информацию".
Конфиденциальность - еще одна болевая точка, наряду с долгосрочными эффектами поиска руководства у программного обеспечения.
"Проблема [заключается] не в самих отношениях, а в том... что происходит с вашими данными", - говорит Кейт Девлин, профессор искусственного интеллекта и общества в Королевском колледже Лондона.
Она отмечает, что службы ИИ не следуют правилам конфиденциальности, которые регулируют лицензированных терапевтов. "Моя большая озабоченность заключается в том, что люди доверяют свои секреты крупной технологической компании, и их данные просто уходят. Они теряют контроль над тем, что говорят".
США ужесточают контроль над ИИ-терапией на фоне опасений дезинформации
В декабре крупнейшая группа психологов США призвала федеральных регуляторов защитить общественность от "обманных практик" нерегулируемых чат-ботов, ссылаясь на случаи, когда персонажи ИИ выдавали себя за лицензированных поставщиков услуг.
В августе Иллинойс присоединился к Неваде и Юте в ограничении использования ИИ в службах психического здоровья, чтобы "защитить пациентов от нерегулируемых и неквалифицированных продуктов ИИ" и "защитить уязвимых детей на фоне растущих опасений по поводу использования чат-ботов ИИ в службах психического здоровья молодежи".
Между тем, согласно отчету Cryptopolitan, генеральный прокурор Техаса начал гражданское расследование в отношении Meta и Character.AI по обвинениям в том, что их чат-боты выдавали себя за лицензированных терапевтов и неправильно обращались с данными пользователей. Более того, в прошлом году родители также подали в суд на Character.AI за то, что она подтолкнула их детей к депрессии.
Скотт Уоллес, клинический психолог и бывший директор по клиническим инновациям в Remble, говорит, что неясно, "предоставляют ли эти чат-боты что-то большее, чем поверхностный комфорт".
Он предупреждает, что люди могут поверить, что они сформировали терапевтическую связь "с алгоритмом, который, в конечном счете, не отвечает взаимностью на реальные человеческие чувства".
KEY Difference Wire помогает криптобрендам прорваться и быстро доминировать в заголовках
Источник: https://www.cryptopolitan.com/ai-chatbot-therapy-is-becoming-a-weird-trend/
