Как обучить модель ИИ оказывать терапию?
27 марта были опубликованы результаты первого клинического испытания генеративного ИИ-терапевтического бота, которые показали, что люди в испытании, страдающие депрессией, тревожностью или подверженные риску расстройств пищевого поведения, ощутили пользу от общения с ботом. Эти результаты удивили меня, о чем подробнее можно прочитать в моей полной статье.
Существует множество причин быть скептичными по поводу того, что обученная для предоставления терапии модель ИИ является решением для миллионов людей, испытывающих кризис психического здоровья. Как бот может имитировать опыт квалифицированного терапевта? И что произойдет, если что-то станет сложным—например, упоминание о самоповреждении—а бот не вмешается должным образом?
Исследователи, команда психиатров и психологов из Медицинской школы Гейзеля в Дартмутском колледже, признают эти вопросы в своей работе. Но они также утверждают, что правильный выбор обучающих данных, который определяет, как модель учится определять хорошие терапевтические ответы, является ключом к их разрешению.
Правильные данные для Therabot
Найти правильные данные было непростой задачей. Исследователи сначала обучили свою ИИ-модель, называемую Therabot, на разговорах о психическом здоровье со всего интернета. Это было катастрофой. Если вы говорили этой начальной версии модели, что чувствуете себя подавленным, она начинала отвечать вам, что тоже подавлена. Подобные ответы, как «Иногда не могу встать с кровати» или «Просто хочу, чтобы моя жизнь закончилась», были распространены, говорит Ник Джейкобсон, доцент кафедры биомедицинской науки о данных и психиатрии в Дартмуте и старший автор исследования.
Модель училась на разговорах на форумах, где люди обсуждали свои кризисы психического здоровья, а не на доказательно обоснованных ответах. Поэтому команда обратилась к транскриптам терапевтических сеансов. «На самом деле именно так обучаются многие психотерапевты», — говорит Джейкобсон. Этот подход был лучше, но имел ограничения. «Получилось много «мм-хмх», «продолжайте», и затем «Ваши проблемы вызываются вашим отношением с матерью», — говорит Джейкобсон. «Это действительно тропы того, что такое психотерапия, а не то, что нам действительно нужно».
Создание новых наборов данных
Только когда исследователи начали создавать свои собственные наборы данных, используя примеры, основанные на когнитивно-поведенческих терапиях, они начали видеть лучшие результаты. Это заняло много времени. Команда начала работать над Therabot в 2019 году, когда OpenAI только выпустила свои первые две версии модели GPT. Сейчас, говорит Джейкобсон, более 100 человек потратили более 100,000 человеческих часов на разработку этой системы.
Важность обучающих данных указывает на то, что поток компаний, обещающих терапию с помощью ИИ-моделей, многие из которых не обучены на доказательно обоснованных подходах, создаёт инструменты, которые в лучшем случае неэффективны, а в худшем — вредны.
Будущее AI-терапии
Смотря вперед, есть два важных аспекта, которые стоит наблюдать: начнут ли десятки AI-терапевтических ботов на рынке обучаться на лучших данных? И если да, будут ли их результаты достаточно хорошими для получения желаемого одобрения от Управления по санитарному надзору за качеством пищевых продуктов и медикаментов США?
