Чат-боты на основе ИИ могут негативно влиять на аутичных людей
В новом исследовании ученые выделили несколько потенциальных проблем, связанных с использованием чат-ботов для общения людьми в спектре аутизма. Они призывают исследовать, как технологии ИИ могут влиять на людей с нейроотличиями, у которых есть трудности с общением, сообщается в пресс-релизе университета Южной Австралии.
Чат-боты с ИИ могут быть привлекательной альтернативой для людей, которым сложно беседовать с другими людьми. Тем не менее такие технологии могут сформировать дезадаптивные привычки, которые в долгосрочной перспективе лишь увеличат социальную изоляцию.
К такому выводу пришли австралийские ученые из университета Южной Австралии и университета Флиндерса. Результаты их работы были опубликованы в научном журнале Journal of Behavioural Addictions.
По словам исследователей, сейчас чат-боты с искусственным интеллектом интегрированы с различными платформами, в том числе с социальными сетями. Они позволяют поддерживать диалог с пользователями, и их могут воспринимать как замену или практику общения. Однако общение с ИИ сильно отличается от разговора с реальным человеком, и со временем такая практика может только усилить коммуникативные сложности аутичных людей с ограниченными социальными навыками.
Эндрю Франц, ведущий автор исследования, говорит о том, что стремительное развитие социальных чат-ботов имеет как положительные, так и отрицательные стороны, и их влияние обязательно нужно исследовать.
«Молодые люди с социальными дефицитами в наибольшей степени склонны искать общения с социальными чат-ботами, доступными онлайн», — говорит Франц.
«Они являются безопасным способом экспериментировать с социальным взаимодействием практически без риска, что твою внешность или стиль коммуникации негативно оценят. Тем не менее есть риск развития зависимости от чат-ботов и еще большего ухода от общения с людьми», — считает он.
По словам Франца, чат-боты не способны на настоящую «беседу», они не проявляют эмпатию или тонкие эмоциональные навыки, и взаимодействие с ними может сформировать дезадаптивный стиль общения у людей с особенностями развития.
«Некоторые чат-боты в целом играют подчиненную роль в разговоре и воспроизводят фразы, демонстрирующие услужливость. Они не будут проявлять недовольство, возражать или спорить с человеком во время диалога. У пользователя есть полный контроль над ходом разговора. Можно в любой момент взять паузу, отложить диалог или прекратить. Но такое поведение может быть контрпродуктивным для развития социальных навыков для реального мира».
Плюс таких чат-ботов в том, что они могут быть симуляцией настоящих диалогов, которая помогает уменьшить социальную тревожность, от которой страдают многие аутичные люди. Разговор с чат-ботом не «страшный», и он может помочь подготовиться к разговору с настоящим человеком.
Однако проблема в том, что человек может впасть в зависимость от общения с чат-ботом, которое негативно повлияет на отношения в реальной жизни.
По словам ученых, существующие исследования общения с чат-ботами очень часто финансируются индустрией, и они рекламируют преимущества коммерческих приложений с чат-ботами.
В данном исследовании они говорили с родителями, членами семьи, учителями и терапевтами о том, как аутичные дети и взрослые пользуются чат-ботами, что позволило составить более целостную картину.
«Нам нужно собирать данные о множестве аспектов того, как эти технологии влияют на самых уязвимых пользователей, которых они привлекают в первую очередь, — говорит Франц. — Только после этого мы можем разработать правила и практики индустрии для безопасного и ответственного использования чат-ботов».
