Новый искусственный интеллект ItpCtrl-AI обещает значительно улучшить диагностику рентгеновских снимков грудной клетки, предоставляя как интерпретируемость, так и возможность управления, что позволяет преодолеть давнюю проблему прозрачности ИИ в медицинской визуализации. Разработанный исследователями из Университета Арканзаса в сотрудничестве с Центром раковых исследований MD Anderson, ItpCtrl-AI моделирует паттерны взгляда радиологов, чтобы обеспечить соответствие процесса принятия решений экспертным знаниям человека.
Инструменты диагностики на основе ИИ показали замечательную точность в обнаружении медицинских отклонений, таких как скопление жидкости в легких, увеличение сердца и ранние признаки рака. Однако многие модели ИИ работают как «черные ящики», что затрудняет медицинским специалистам понимание, как были сделаны выводы. По словам Нган Ле, доцента компьютерных наук и компьютерного инжиниринга в Университете Арканзаса, прозрачность критически важна для принятия ИИ в медицине. «Когда люди понимают процесс рассуждений и ограничения решений ИИ, они с большей вероятностью доверяют и принимают технологию», — отметила Ле.
ItpCtrl-AI, сокращенно интерпретируемый и управляемый искусственный интеллект, был разработан, чтобы преодолеть этот разрыв, реплицируя, как радиологи анализируют рентгеновские снимки грудной клетки. В отличие от традиционных ИИ-систем, которые просто предсказывают диагнозы, ItpCtrl-AI генерирует тепловые карты — визуальные представления областей, на которых сосредоточены радиологи во время обследования. Эти тепловые карты обеспечивают прозрачный взгляд на процесс принятия решений ИИ, улучшая как доверие, так и интерпретируемость.
Для разработки этой модели ИИ исследователи отслеживали движения глаз радиологов при просмотре рентгеновских снимков грудной клетки. Они записывали не только, куда смотрели эксперты, но и как долго они концентрировались на определенных областях, прежде чем поставить диагноз. Собранные данные были затем использованы для обучения ItpCtrl-AI, чтобы он мог генерировать карты внимания, выделяющие ключевые диагностические области в изображении. Используя эти инсайты на основе взгляда, система ИИ отфильтровывает нерелевантные области перед тем, как сделать диагностическое предсказание, обеспечивая рассмотрение только значимой информации — так же, как это сделал бы человек-радиолог.
Этот подход к принятию решений на основе внимания делает ItpCtrl-AI значительно более интерпретируемым, чем традиционные ИИ-модели. Для поддержки разработки ItpCtrl-AI исследователи создали DiagnosedGaze++, первый в своем роде набор данных, который соответствует медицинским находкам с данными вгляда радиологов. В отличие от существующих наборов данных, DiagnosedGaze++ предоставляет детализированные анатомические карты внимания, устанавливая новый стандарт для прозрачности диагностики на основе ИИ.
Используя полуавтоматизированный подход, исследовательская группа фильтровала и структурировала данные отслеживания глаз радиологов, обеспечивая соответствие каждой тепловой карты медицинским отклонениям. Этот набор данных не только улучшает интерпретируемость ИИ, но и прокладывает путь для будущих достижений в медицинской визуализации на основе ИИ.
ItpCtrl-AI не единственная система на основе ИИ, которая продвигает прозрачность медицинской визуализации. В QuData мы также используем Grad-CAM (Картографирование активации классов с учетом градиента) для генерации тепловых карт для анализа маммограмм. В основе Grad-CAM лежит выделение наиболее влиятельных областей изображения, которые способствуют принятию решения модели ИИ, позволяя радиологам более точно определять области интереса. Этот метод обеспечивает объяснимость обнаружения рака груди на основе ИИ и его согласованность с медицинскими знаниями.
Интегрируя визуальные объяснения на основе тепловых карт, решения ItpCtrl-AI и QuData на основе ИИ повышают доверие и удобство использования в клинических условиях. Прозрачность в диагностике на основе ИИ — это не просто техническое достижение — это этическая необходимость. Способность объяснять решения ИИ важна для обеспечения справедливости, снижения предвзятости и поддержания подотчетности в здравоохранении. С юридическими и этическими проблемами, связанными с ИИ в медицине, ItpCtrl-AI предлагает модель, которая позволяет врачам брать на себя ответственность за диагноз, поддерживаемый ИИ.
Исследовательская команда в настоящее время работает над улучшением ItpCtrl-AI для анализа трехмерных КТ-сканов, которые требуют еще более сложных процессов принятия решений. Интегрируя информацию о глубине и более широкие анатомические структуры, система ИИ может еще больше повысить точность диагностики в критически важных медицинских приложениях. Чтобы стимулировать дальнейшие исследования и внедрение, исходный код проекта, модели и аннотированный набор данных будут опубликованы в открытом доступе. Эта инициатива направлена на установление нового эталона прозрачности и подотчетности на основе ИИ в медицинской визуализации.
Подписывайтесь на наш telegram-канал
