H²EDL: новый метод для иерархической классификации с учётом неопределённости

Задачи тонкой классификации (fine-grained recognition) часто требуют работы с иерархическими пространствами меток. Например, модель может уверенно определить, что объект относится к категории «птица», но колебаться между видами «сойка» и «ворона». Такая структурированная неоднозначность — когда уверенность на высоком уровне иерархии сочетается с неопределённостью на нижних уровнях — представляет серьёзный вызов для современных систем ИИ. До сих пор существующие методы позволяли модели выражать либо неопределённость по всем классам плоской структуры, либо только по конечным листьям, игнорируя промежуточные концепции. Новая работа H²EDL (Hyper Evidential Deep Learning for Hierarchical Classification) предлагает элегантное решение этой проблемы.

Что произошло

Группа исследователей представила на arXiv препринт, в котором описан метод H²EDL — гипер-эвиденциальное глубокое обучение для иерархической классификации. В отличие от стандартных эвиденциальных сетей, которые моделируют неопределённость через распределение Дирихле по плоским классам, H²EDL вводит иерархическую структуру. Метод использует гипер-эвиденциальные сети (Hyper Evidential Networks), которые для каждого узла иерархии генерируют свои параметры распределения. Это позволяет модели одновременно оценивать уверенность на уровне корневых категорий, промежуточных групп и конкретных подклассов. Эксперименты на нескольких эталонных наборах данных (включая CUB-200-2011 и iNaturalist) показали, что H²EDL превосходит существующие подходы как по точности, так и по качеству калибровки неопределённости.

Почему это важно

Проблема структурированной неопределённости характерна не только для биологии или зоологии. В медицинской диагностике, например, система может быть уверена, что снимок показывает «опухоль», но не различать её подтипы. В автономном вождении модель может уверенно детектировать «пешехода», но не знать, взрослый это или ребёнок. В таких сценариях важно, чтобы ИИ не только выдавал вероятности, но и указывал, на каком уровне иерархии его уверенность высока, а на каком — низка. H²EDL даёт именно такую возможность: он строит иерархическое представление неопределённости, которое можно интерпретировать и использовать для принятия решений. Это повышает надёжность систем в условиях неполной информации и снижает риск ошибочных действий из-за ложной уверенности.

Как это работает

Основная идея H²EDL — заменить плоское распределение Дирихле на иерархическое. Вместо того чтобы использовать один набор параметров α для всех классов, метод вводит для каждого узла иерархии своё распределение Дирихле, параметры которого вычисляются на основе признаков, извлечённых нейронной сетью. При этом используется механизм рекурсивной агрегации: уверенность в родительском узле складывается из свидетельств (evidence) от дочерних узлов, но с учётом возможной неопределённости. Формально, для каждого узла i модель предсказывает неотрицательные свидетельства e_i, которые преобразуются в параметры α_i = e_i + 1. Затем, используя иерархическое правило Дирихле, вычисляется совместное распределение по всем путям дерева. Это позволяет модели одновременно выражать уверенность как на верхнем, так и на нижнем уровнях, а также оценивать общую неопределённость (vacuity) и диссонанс (dissonance) на каждом уровне.

Что дальше

Разработка H²EDL открывает путь для более глубокого анализа неопределённости в иерархических задачах. В ближайшей перспективе авторы планируют исследовать применение метода в медицинской визуализации и робототехнике, где особенно важна интерпретируемость решений. Кроме того, возможна интеграция H²EDL с активным обучением: модель может запрашивать разметку именно тех подклассов, где неопределённость высока, при этом экономя ресурсы на классах, где она уверена. Также стоит отметить, что предложенный подход не ограничивается строгими деревьями — он может быть расширен на направленные ациклические графы (DAG) и другие сложные иерархии. Если метод подтвердит свою эффективность в реальных приложениях, он может стать стандартным инструментом для систем, работающих с тонкой классификацией и требующих прозрачного учёта неопределённости.