Повышение интерпретируемости нейронных сетей на примере задачи распознавания ЭКГНейронные сети, искусственный интеллект
Окончил бакалавриат и магистратуру ВМК МГУ. Занимается применением методов глубокого обучения к задачам нефтегазовой отрасли, до этого занимался задачами медицинского распознавания.
В последние годы нейронные сети активно применяются для распознавания медицинских данных, и в некоторых задачах исследователи смогли добиться результатов, сопоставимых с лучшими врачами-специалистами. Но в данном случае точность модели — не единственное, что имеет значение: из-за того, что цена ошибки высока, врачу необходимо понимать, почему модель приняла то или иное решение. Это значит, что крайне важно получить не только точную, но и интерпретируемую модель.
В докладе будет рассказано о двух архитектурах нейронных сетей, позволяющих повысить интерпретируемость модели выявления мерцательной аритмии по сигналу ЭКГ. Первая архитектура позволяет получить оценку уверенности модели в своем прогнозе, которая может быть использована для выявления шумных или нетипичных сигналов. Вторая архитектура использует механизмы внимания для выделения областей сигнала, существенных для последующей классификации ЭКГ.