Российские ученые научили ИИ объяснять диагнозы: новую технологию представят на ПМЭФ

Одной из главных проблем внедрения нейросетей в здравоохранение остается так называемая проблема «черного ящика». Современные алгоритмы способны выдавать точные прогнозы, однако зачастую не могут объяснить логику принятия решения. Для врачей это создает серьезные ограничения: даже высокий уровень точности не гарантирует доверия к системе, если специалист не понимает, почему алгоритм пришел к определенному заключению.

Новая технология, разработанная специалистами Центра искусственного интеллекта НГУ, направлена именно на решение этой задачи. Алгоритм анализирует большие массивы обезличенных электронных медицинских карт пациентов с одинаковыми диагнозами и автоматически выявляет признаки, которые наиболее часто встречаются при конкретном заболевании и оказывают наибольшее влияние на постановку диагноза.

Для этого медицинские данные преобразуются в набор бинарных признаков, на основе которых обучается нейронная сеть. После обучения система не только формирует прогноз, но и определяет, какие симптомы, лабораторные показатели или другие параметры оказались наиболее значимыми. Для повышения надежности процедура выполняется многократно, а затем отбираются признаки, которые стабильно подтверждаются в разных запусках модели.

По словам разработчика Владимира Иванисенко, полученные результаты используются для обучения системы поддержки врачебных решений «Доктор Пирогов». Благодаря новому подходу врач получает не просто итоговую оценку риска, а перечень ключевых факторов, которые повлияли на вывод алгоритма. Это позволяет сопоставлять рекомендации ИИ с собственным клиническим опытом и принимать более обоснованные решения.

Важным преимуществом технологии является ее универсальность. Метод не привязан к конкретному заболеванию или медицинской информационной системе и может использоваться для создания различных диагностических платформ, а также цифровых «рискомеров», оценивающих вероятность развития тех или иных патологий.

Разработка отражает один из наиболее заметных мировых трендов в медицинском ИИ — переход от простого прогнозирования к объяснимому искусственному интеллекту (Explainable AI). Такие системы стремятся сделать работу алгоритмов прозрачной для специалистов, что считается одним из ключевых условий широкого внедрения ИИ в клиническую практику.

По мнению разработчиков, подобные решения способны повысить точность диагностики, ускорить анализ медицинских данных и одновременно сохранить за врачом центральную роль в принятии окончательных решений. Именно сочетание возможностей искусственного интеллекта и экспертной оценки специалиста рассматривается сегодня как наиболее перспективная модель развития цифровой медицины.