Понимание справедливости подгрупп в машинном обучении
Оценка справедливости в машинном обучении часто требует анализа того, как модели работают в различных подгруппах, определяемых такими атрибутами, как раса, пол или социально-экономический статус. Это особенно важно в таких областях, как здравоохранение, где неравномерная работа моделей может привести к различиям в рекомендациях по лечению или диагностике. Анализ производительности на уровне подгрупп помогает выявить непреднамеренные предвзятости, которые могут быть встроены в данные или дизайн модели. Понимание этого требует внимательной интерпретации, поскольку справедливость — это не только статистический паритет, но и обеспечение того, чтобы предсказания приводили к равноправным результатам в реальных системах.
Распределение данных и структурная предвзятость
Одной из основных проблем является различие в производительности модели между подгруппами, возникающее не из-за предвзятости самой модели, а из-за реальных различий в распределении данных подгрупп. Эти различия часто отражают более широкие социальные и структурные неравенства, формирующие данные, доступные для обучения и оценки моделей. В таких ситуациях настойчивое требование о равной производительности между подгруппами может привести к неправильной интерпретации. Если данные, используемые для разработки модели, не представляют целевую популяцию — из-за выборочной предвзятости или структурных исключений — то модели могут плохо обобщаться. Неправильная производительность на невидимых или недостаточно представленным группах может вводить или усиливать различия, особенно когда структура предвзятости неизвестна.
Ограничения традиционных метрик справедливости
Современные оценки справедливости часто включают разобщенные метрики или тесты условной независимости. Эти метрики широко используются для оценки алгоритмической справедливости, включая точность, чувствительность, специфичность и положительное предсказательное значение по различным подгруппам. Такие рамки, как демографический паритет, уравненные шансы и достаточность, являются распространенными эталонами. Например, уравненные шансы обеспечивают схожесть истинных и ложных положительных значений среди групп. Однако эти методы могут приводить к вводящим в заблуждение выводам в условиях изменений распределения. Если распространенность меток различается среди подгрупп, даже точные модели могут не соответствовать определенным критериям справедливости, заставляя практиков предполагать предвзятость там, где ее нет.
Касуальная структура для оценки справедливости
Исследователи из Google Research, Google DeepMind, Нью-Йоркского университета, Массачусетского технологического института, Больницы для детей в Торонто и Стэнфордского университета представили новую структуру, которая улучшает оценки справедливости. Исследование представило каузальные графические модели, которые явно моделируют структуру генерации данных, включая то, как различия подгрупп и выборочная предвзятость влияют на поведение модели. Этот подход избегает предположений о равномерных распределениях и предоставляет структурированный способ понять, как варьируется производительность подгрупп. Исследователи предлагают сочетать традиционные разобщенные оценки с каузальным рассуждением, побуждая пользователей критически осмысливать источники различий подгрупп, а не полагаться исключительно на сравнение метрик.
Типы изменений распределения, моделируемые в рамках
Структура классифицирует типы изменений, такие как сдвиг ковариат, сдвиг результата и сдвиг презентации, с использованием направленных ациклических графов. Эти графы включают ключевые переменные, такие как членство в подгруппе, результат и ковариаты. Например, сдвиг ковариат описывает ситуации, когда распределение признаков различается между подгруппами, но связь между результатом и признаками остается постоянной. Сдвиг результата, наоборот, захватывает случаи, когда связь между признаками и результатами меняется в зависимости от подгруппы. Графы также учитывают сдвиг меток и механизмы выбора, объясняя, как данные подгрупп могут быть предвзятыми во время процесса выборки. Эти различия позволяют исследователям предсказать, когда модели, учитывающие подгруппы, улучшат справедливость или когда это может быть нецелесообразно. Структура систематически определяет условия, при которых стандартные оценки являются действительными или вводящими в заблуждение.
Эмпирическая оценка и результаты
В своих экспериментах команда оценила байесовски оптимальные модели в различных каузальных структурах, чтобы проверить, когда условия справедливости, такие как достаточность и разделение, выполняются. Они обнаружили, что достаточность, определяемая как Y ⊥ A | f*(Z), удовлетворяется при сдвиге ковариат, но не при других типах сдвига, таких как сдвиг результата или сложный сдвиг. В то же время разделение, определяемое как f*(Z) ⊥ A | Y, выполнялось только при сдвиге меток, когда членство в подгруппе не было включено в ввод модели. Эти результаты показывают, что модели, учитывающие подгруппы, необходимы в большинстве практических условий. Анализ также показал, что когда предвзятость выбора зависит только от таких переменных, как X или A, критерии справедливости могут быть все еще выполнены. Однако, когда выбор зависит от Y или комбинаций переменных, поддерживать справедливость подгрупп становится сложнее.
Заключение и практические последствия
Это исследование проясняет, что справедливость не может быть точно оценена только по метрикам подгрупп. Различия в производительности могут возникать из-за основных структур данных, а не из-за предвзятых моделей. Предложенная каузальная структура предоставляет практикам инструменты для обнаружения и интерпретации этих нюансов. Моделируя каузальные отношения явно, исследователи предлагают путь к оценкам, которые отражают как статистические, так и реальные проблемы справедливости. Метод не гарантирует идеального равенства, но обеспечивает более прозрачную основу для понимания того, как алгоритмические решения влияют на различные популяции.
Ознакомьтесь с статьей и страницей на GitHub. Все заслуги за это исследование принадлежат исследователям этого проекта. Также не забудьте подписаться на нас в Twitter и присоединиться к нашему сообществу из более чем 100 000 участников на ML SubReddit и подписаться на нашу рассылку.
