Аутичные люди обращаются к ChatGPT при проблемах на рабочем месте

Новое исследование ученых из Университета Карнеги-Меллона, США, показало, что многие люди с аутизмом активно используют ChatGPT и другие подобные инструменты на основе искусственного интеллекта (ИИ), сообщается в пресс-релизе университета. В частности, они предпочитают их при возникновении проблем на рабочем месте. Но действительно ли ИИ может им помочь в подобных ситуациях?

Группа исследователей, которую возглавлял Эндрю Бегель из Школы компьютерных наук при Университете Карнеги-Меллона, также обнаружила, что подобные системы время от времени дают очень спорные советы. К тому же вопрос о том, насколько чат-боты с ИИ могут быть полезны сообществу аутизма, до сих пор открыт и связан с противоречивыми мнениями.

«Мы обнаружили, что люди с аутизмом уже активно используют ChatGPT и задают ему вопросы, с которыми, как мы думаем, он справляется частично или плохо, — говорит Бегель, профессор кафедры программного обеспечения и общественных систем Института взаимодействия человека и компьютера. — Например, они могут спрашивать: “Как мне найти друзей на работе?”»

Бегель возглавляет лабораторию VariAbility Lab, которая занимается разработкой инклюзивных рабочих мест, которые подходят людям с разными видами инвалидности и нейроотличиями. Около 9 из 10 взрослых аутичных людей не работают, или их занятость не соответствует их реальным возможностям. Многие рабочие места не выделяют ресурсов на поддержку сотрудников с аутизмом и не умеют разрешать социальные и коммуникативные трудности, которые могут возникнуть у аутичных людей с их коллегами.

Для того чтобы понять, могут ли большие языковые модели (LLM) помочь в разрешении этих трудностей, Бегель и его команда привлекли 11 людей с аутизмом для тестирования онлайн-советов из двух источников.

В первом случае это были ответы от чат-бота на основе GPT-4 от компании OpenAI. Другая система выглядела как чат-бот, но с его помощью отвечал реальный человек — консультант по вопросам карьеры.

К удивлению ученых, подавляющее большинство участников предпочитали общение с настоящим чат-ботом, а не с консультантом, замаскированным под чат-бот.

Однако советы чат-бота не были лучше. Скорее, говорит Бегель, участникам больше нравилось, как он выдавал ответы.  

«Для участников важнее всего было получить быстрые, конкретные и предельно понятные ответы», — говорит Бегель.

Ответы настоящего чат-бота были «черно-белыми», без нюансов, как правило, они были в форме списка. Реальный консультант, с другой стороны, часто задавал уточняющие вопросы о том, что хочет сделать человек или почему он этого хочет. Большинству участников такой обмен репликами совсем не нравился, сообщает Бегель.

Участникам исследования нравилась сама концепция чат-бота. По словам одного из них: «Я думаю, честно говоря, с моим рабочим местом... это единственное, чему я могу доверять, потому что не всякая компания или бизнес инклюзивные».

Однако когда специалистка, которая специализируется на поддержке аутичных людей при трудоустройстве, оценила ответы чат-бота, она обнаружила, что иногда ответы были далеко не полезными. Например, когда пользовательница спросила, как завести друзей на работе, то чат-бот предложил ей просто подходить к другим людям и начинать с ними разговаривать. Проблема, конечно, в том, что человеку с аутизмом это сложно сделать, объясняет Бегель.

Вполне возможно, что если тренировать чат-бот отвечать именно на проблемы людей с аутизмом, то он будет избегать плохих советов, но не все в сообществе аутизма поддержат такую идею, говорит Бегель. Кто-то увидит в этом полезный инструмент для поддержки аутичных сотрудников, другие же решат, что это очередной пример того, как людей, чей мозг работает немного иначе, заставляют подстраиваться под всех остальных.

«Сейчас идут большие дебаты о том, чья перспектива становится привилегированной, когда мы создаем технологии, не советуясь с людьми. Это привилегии для нейротипичной точки зрения: “Вот как я хочу, чтобы люди с аутизмом вели себя рядом со мной?” Или это привилегии для желаний человека с аутизмом: “Я хочу быть собой” или “Я хочу ладить с другими и гарантировать, что ко мне относятся с симпатией и не ненавидят?”»

По сути, это вопрос о том, в какой степени аутичные люди влияют на исследования, которые проводятся для того, чтобы им помочь. Это также проблема, которая изучалась в другой научной работе, в которой участвовал Бегель совместно со своими коллегами из Калифорнийского университета в Сан-Диего, США.

В этом исследовании ученые проанализировали 142 научные статьи за период с 2016 по 2020 год о разработке роботов для помощи людям с аутизмом. Они обнаружили, что в 90% исследований взаимодействие робота и человека планировалось без участия людей с аутизмом. Получается, говорит Бегель, что разрабатываются вспомогательные технологии, которые не обязательно нужны аутичным людям, в то время как наиболее актуальные проблемы, с их точки зрения, могут оставаться без внимания.

«Например, мы заметили, что большинство интерактивных роботов для людей с аутизмом не похожи на людей, так, это могут быть динозавры или собаки, — говорит Бегель. — Неужели людям с аутизмом не хватает человечности, и они не заслуживают гуманоидных роботов?»

Безусловно, технологии могут помочь лучше понять, как общаются люди с аутизмом и без аутизма. Например, Бегель работает с коллегами из Университета Мэриленда, США, над проектом, в котором ИИ анализирует беседы аутичных и не аутичных людей друг с другом.

ИИ может помочь выявить, когда и как возникает недопонимание между собеседниками, которое приводит к тому, что шутки не понимают, или создается впечатление, что человек не честен. Технологии также могут помочь предотвратить такие проблемы или исправить их во время беседы, говорит Бегель.

Сейчас исследователи пытаются собрать обратную связь от большой группы людей с аутизмом, чтобы понять, какую помощь в этой области они хотели бы получить. Бегель создал консультационный совет аутичных людей для своей лаборатории, чтобы гарантировать, что мнение людей с аутизмом в их разработках всегда учитывается.

«Мы создали инструмент для видеозвонков с этим ИИ», — говорит Бегель.

«Например, возможная помощь включает кнопку на этом инструменте, которая озвучивает: “Простите, я вас не расслышал. Вы можете повторить свой вопрос?”, если мне сложно сказать это вслух. Или там может быть кнопка, которая говорит: “Я не понимаю”. Или даже ИИ может писать краткий пересказ встречи, чтобы вы всегда могли сориентироваться и сказать: “Я хотел бы вернуться к первой теме, о которой мы говорили”».