Кредитный скоринг рейтинг: почему алгоритмы ИИ ошибаются

Решения об отказе зависели от пола, возраста и места проживания заёмщика, но не включали полноценной индивидуальной оценки его финансового положения. Для банков это важный сигнал: ошибка в модели может быть не локальным программным сбоем, а следствием самой логики, на которой построено машинное обучение.

Кредитный скоринг рейтинг сегодня формируется моделями, способными анализировать сотни параметров за доли секунды. Но скорость и прогнозная точность не гарантируют справедливости. Алгоритм может унаследовать перекосы исторических данных, использовать незаметные прокси-переменные и выдавать решение, которое трудно объяснить даже его разработчикам. Цена таких ошибок складывается не только из штрафов. В неё входят повторная проверка портфеля, дополнительные расходы на валидацию, репутационные потери, отток клиентов и необходимость корректировать оценку кредитных рисков.

Ловушка исторических данных: как алгоритмы наследуют предвзятость

Кредитный скоринг рейтинг на базе машинного обучения строится на ретроспективных данных: платёжной дисциплине, истории просрочек, долговой нагрузке, стабильности дохода, количестве обращений за кредитом и других характеристиках. Целевая метрика для обучения часто связана с дефолтом — например, с длительной просрочкой. Модель ищет закономерности, которые в прошлом помогали отличать надёжных заёмщиков от рискованных.

Проблема в том, что прошлые решения банка не всегда были нейтральными. В исторической выборке отражаются не только реальные финансовые обстоятельства клиентов, но и тогдашние правила андеррайтинга, политика отдельных подразделений, доступность банковских продуктов в разных регионах и решения сотрудников, принимавших заявки вручную. Если определённым группам чаще отказывали по причинам, не связанным напрямую с платёжеспособностью, модель может принять такую практику за объективный статистический сигнал.

Алгоритм не получает инструкцию дискриминировать конкретную группу. Он делает нечто более сложное и потому более опасное: обнаруживает устойчивую связь между набором признаков и прежним результатом кредитного решения. Если в прошлом заявители из определённых районов, с определённым типом занятости или нестандартной трудовой историей чаще получали отказ, модель может начать воспринимать эти характеристики как самостоятельные признаки риска. При этом она не понимает, почему такая связь возникла и была ли она справедливой.

Машина не придумывает предвзятость: она закрепляет её в параметрах модели и применяет уже к новым заявкам.

Почему «чистая» выборка не гарантирует честную модель

Даже если из набора данных удалить пол, возраст или этническую принадлежность, проблема не исчезает автоматически. В данных остаются признаки, связанные с защищёнными характеристиками. Кроме того, сама целевая переменная может быть искажена. Например, банк обучает модель на прошлых отказах, хотя часть этих отказов была вызвана не высоким риском дефолта, а ограниченной доступностью документов или внутренними правилами, которые позже изменились.

Есть и другая особенность: модель видит только тех клиентов, которым банк уже выдал кредит. Это называют проблемой выборки одобренных заявок. По заёмщикам, которым отказали, у организации часто нет полноценного наблюдения за тем, как они платили бы по кредиту. В результате алгоритм учится не на полном рынке, а на отфильтрованной группе. Он может ошибочно считать отказ единственным подтверждённым исходом для похожих клиентов, хотя на самом деле часть из них могла бы обслуживать долг без проблем.

На практике качество модели нужно оценивать не только по общей точности. Для кредитной организации важны различия между сегментами:

• насколько часто модель ошибочно отказывает платёжеспособным клиентам;
• не получает ли одна группа существенно больше отказов при сопоставимом уровне риска;
• одинаково ли работают пороги одобрения для разных типов занятости и регионов;
• не меняется ли качество прогноза после запуска модели в реальном портфеле;
• сохраняется ли баланс между долей одобренных заявок и фактической просрочкой.

Именно на этом этапе обнаруживается разница между хорошим прогнозом и справедливым решением. Модель может показывать высокий общий результат, но при этом систематически хуже работать на небольшой группе клиентов. В агрегированной статистике такой перекос легко теряется.

С точки зрения экономики кредитования наследование исторической предвзятости создаёт двойной ущерб. Банк теряет часть платёжеспособных клиентов, которым отказали из-за неудачного сочетания косвенных признаков. Это снижает потенциальный процентный доход и увеличивает стоимость привлечения новых заёмщиков. Одновременно модель может переоценить надёжность другой группы, потому что в исторических данных она выглядела безопасной. Тогда риск концентрируется в одном сегменте портфеля, а прогноз оказывается менее устойчивым при изменении экономической ситуации.

Проблема особенно заметна после смены внешних условий. Рынок труда, структура доходов, миграция между регионами и способы использования финансовых продуктов меняются быстрее, чем банковские модели проходят полный цикл обновления. То, что было статистически связано с погашением кредита несколько лет назад, сегодня может быть лишь устаревшим следом прежней клиентской политики.

Проблема «чёрного ящика» и прокси-переменные в оценке рисков

Вторая системная проблема — отсутствие понятного объяснения решения. Классический кредитный скоринг часто строился на логистической регрессии и ограниченном наборе переменных. Коэффициенты такой модели можно проверить, сопоставить с экономической логикой и описать в документации. Современные ансамблевые модели, градиентный бустинг и нейросетевые архитектуры способны учитывать гораздо больше взаимосвязей, но их внутреннее устройство сложнее для интерпретации.

Чем больше признаков и взаимодействий между ними, тем труднее ответить на простой вопрос: почему конкретному человеку отказали? Итоговый балл может зависеть не от одного фактора, а от комбинации десятков параметров. Каждый из них по отдельности выглядит нейтральным, но вместе они формируют устойчивый профиль, связанный с защищённой характеристикой или социальным статусом.

Прокси-переменная — это признак, который прямо не указывает на дискриминируемую характеристику, но статистически с ней связан. Почтовый индекс может отражать состав района и уровень доступа к финансовым услугам. Формат занятости может коррелировать с возрастом, полом или семейным положением. Предпочтительный канал подачи заявки — мобильное приложение, офис или телефон — способен быть связан с уровнем цифровой грамотности и возрастом клиента. История использования определённых сервисов также может описывать социальную группу точнее, чем разработчик рассчитывал.

Модель не обязана использовать пол или возраст непосредственно, чтобы принимать решения с гендерным или возрастным перекосом. Достаточно, чтобы она нашла набор заменяющих сигналов. Поэтому проверка только списка формальных признаков недостаточна. Нужно анализировать фактическое поведение модели: кому она отказывает, кому назначает более высокий лимит, как меняется результат при замене одного параметра и насколько различаются решения для клиентов с близкими финансовыми профилями.

Для кредитной организации «чёрный ящик» — не только техническая неудобность. Если клиент оспаривает отказ, банк должен восстановить цепочку принятия решения и показать, что оно основано на допустимых факторах. Если объяснение невозможно, возрастает риск претензий со стороны регулятора и самого заёмщика. При обнаружении системной ошибки может потребоваться пересмотр решений по затронутой части портфеля и корректировка резервов. Это не означает автоматического отзыва уже выданных кредитов: последствия зависят от характера нарушения, условий конкретного рынка и требований надзорного органа.

Тут же возникает проблема версий. Скоринговая модель редко остаётся неизменной: банк обновляет данные, меняет пороги, подключает новые источники и корректирует правила обработки исключений. Если организация не ведёт журнал версий и не сохраняет объяснения по решениям, через несколько месяцев бывает трудно понять, какая именно конфигурация повлияла на конкретную заявку. Прозрачность скоринговых моделей начинается не с красивого отчёта, а с управляемого жизненного цикла: от подготовки данных до вывода модели из эксплуатации.

Уроки громких скандалов: от Apple Card до штрафов в Финляндии

Два кейса показали, насколько быстро технический спор о модели превращается в вопрос доверия к финансовой системе: история с Apple Card в 2019 году и финское дело 2021 года. Они различаются по обстоятельствам, но указывают на одну проблему — формальное отсутствие запрещённого признака ещё не доказывает отсутствие дискриминации.

В 2019 году внимание общественности привлекли различия в кредитных лимитах, которые получали мужчины и женщины при внешне сопоставимых финансовых обстоятельствах. В обсуждении Apple Card и её эмитента Goldman Sachs звучал вопрос: может ли алгоритм назначать разные лимиты, не используя пол как прямой входной параметр? Ответ зависит от того, какие косвенные признаки включены в модель и как они взаимодействуют между собой.

Кредитная история, длительность занятости, тип дохода, финансовые продукты и поведение в цифровых каналах могут выглядеть нейтрально по отдельности. Но если их комбинация устойчиво ведёт к разным результатам для мужчин и женщин с близким профилем риска, проблема уже не сводится к формальному перечню входных данных. Регулятору важно оценивать не декларацию разработчика, а статистический результат и процедуру проверки спорных случаев.

Этот кейс также показал ограниченность объяснения в духе алгоритм просто не знает пол клиента. Модель может не знать его напрямую, но восстанавливать соответствующую характеристику через связанные параметры. Более того, пользователю обычно не виден весь набор признаков, использованный системой. Он видит итоговый лимит или отказ и не может самостоятельно проверить, не стал ли решающим фактором признак, который банк считает нейтральным.

Финский случай пошёл дальше. В 2021 году Национальный трибунал по равноправию оштрафовал кредитную организацию на 100 000 евро за множественную дискриминацию: алгоритм отказывал заёмщикам по сочетанию пола, возраста и места проживания без индивидуальной оценки финансового положения. Здесь речь шла не о гипотетической возможности перекоса, а о фактическом результате работы автоматизированной системы.

Для банков из этого следуют несколько практических выводов.

1. Аудит должен проверять результат, а не только код. Можно удалить очевидный чувствительный признак и всё равно сохранить его статистический аналог в данных.

2. Сегменты нельзя считать слишком маленькими для анализа. Именно в небольших группах иногда скрываются самые заметные различия в доле отказов и стоимости кредита.

3. Нужна процедура ручного пересмотра спорных случаев. Автоматизация не должна превращать первоначальный результат модели в окончательный и неоспоримый вердикт.

4. Объяснение должно быть понятным заёмщику. Перечень технических переменных не заменяет ответа на вопрос, что именно ухудшило оценку и какие данные можно исправить.

5. Контроль продолжается после запуска. Модель, которая прошла тестирование на исторической выборке, может начать ошибаться при изменении рынка или состава клиентов.

Регулятор проверяет не только заявленные признаки, но и то, какие решения модель фактически принимает по разным группам заёмщиков.

Регуляторный ответ: EU AI Act и переход к объяснимому ИИ

Европейский союз в 2024 году ввёл в действие AI Act — нормативную рамку, которая классифицирует системы искусственного интеллекта по уровню риска и устанавливает для них разные требования. Системы, применяемые для оценки кредитоспособности физических лиц, относятся к высокорисковым сценариям использования, поскольку их решения напрямую влияют на доступ человека к финансовым услугам.

Для таких систем важны качество и управляемость данных, техническая документация, контроль рисков, ведение записей о работе модели, тестирование на дискриминационные эффекты и мониторинг после внедрения. От банка требуется не просто показать, что алгоритм хорошо предсказывает просрочку. Организация должна доказать, что процесс принятия решения контролируем, а ошибки можно обнаружить, расследовать и исправить.

При этом объяснимый ИИ не означает, что клиенту нужно раскрывать исходный код или все параметры коммерческой модели. Объяснение может быть построено на основных факторах, повлиявших на решение, и на понятном описании того, какие данные использовались. Но оно должно быть достаточно содержательным, чтобы человек мог понять причину отказа и, если необходимо, оспорить ошибочные сведения.

Для банка регулирование означает рост постоянных расходов. В работу с моделью включаются не только специалисты по машинному обучению, но и команды управления модельными рисками, комплаенса, информационной безопасности и защиты данных. Нужны процедуры допуска новой версии, независимая валидация, мониторинг дрейфа данных и контроль того, что объяснения соответствуют фактической логике модели.

Есть и экономическая сторона. Если банк не может подтвердить устойчивость модели, ему приходится осторожнее оценивать её результаты, расширять ручную проверку и закладывать дополнительные ресурсы на контроль. При выявлении системной ошибки может потребоваться пересмотр затронутых кредитных решений и корректировка резервов. В зависимости от масштаба проблемы это влияет на стоимость продукта и на готовность организации использовать модель в новых сегментах.

Российский регулятор также уделяет больше внимания качеству моделей, обоснованности решений и возможности объяснить отказ. Для банков это означает постепенный переход от подхода, при котором скоринг воспринимается как внутренний технический инструмент, к режиму, где алгоритм становится частью регулируемого процесса обслуживания клиента.

Важно различать объяснимость и справедливость. Модель может хорошо объяснять дискриминационное решение, но от этого решение не станет приемлемым. И наоборот, простая модель может быть прозрачной, но недостаточно точной или плохо адаптированной к отдельным сегментам. Поэтому оценка должна учитывать сразу несколько измерений:

• качество прогноза дефолта;
• стабильность результатов во времени;
• различия в ошибках между группами;
• возможность восстановить ход принятия решения;
• корректность данных, на которых обучалась модель;
• наличие процесса апелляции и исправления ошибок.

Инструменты прозрачности: как SHAP и LIME меняют кредитный скоринг

Технологический ответ на проблему непрозрачности сформировался в области Explainable AI, или XAI. Наиболее известные инструменты локальной интерпретации — SHAP и LIME. Они не превращают сложную модель в простую, но помогают показать, какие факторы повлияли на конкретный прогноз.

SHAP основан на идее распределения вклада признаков. Для отдельной заявки метод оценивает, как каждый параметр изменяет прогноз относительно базового уровня. В кредитном скоринге это может выглядеть как набор факторов, связанных с длительностью кредитной истории, долговой нагрузкой, количеством недавних заявок или стабильностью дохода. Такой результат удобен для внутреннего аудита: аналитик видит не только итоговый балл, но и направление влияния отдельных признаков.

Однако SHAP-значение не следует воспринимать как универсальную причинность. Если два признака тесно связаны, распределение вклада между ними может зависеть от выбранной математической схемы. Кроме того, метод объясняет поведение уже обученной модели, но не доказывает, что модель использует справедливую закономерность. SHAP помогает обнаружить подозрительный фактор, но не заменяет анализ данных и правовую оценку.

LIME работает локально: вокруг конкретного прогноза строится упрощённая интерпретируемая модель, которая приближает поведение сложного алгоритма в небольшой области. Это позволяет быстро понять, какие признаки были важны для отдельного решения. Подход удобен для прототипирования и расследования конкретных заявок, но его объяснение может быть чувствительным к настройкам и к тому, как сформирована локальная выборка.

Для клиента полезнее не техническое название метода, а ясный ответ. Недостаточно сообщить, что заявка получила низкий скоринговый балл. Человек должен понимать, какие данные повлияли на решение, какие из них можно оспорить и предусмотрен ли повторный анализ. Объяснение не обязано обещать одобрение после исправления одного параметра, но оно должно отделять фактическую ошибку в данных от окончательной оценки риска.

Внутри банка XAI может использоваться на нескольких уровнях. На уровне отдельной заявки он помогает подготовить объяснение отказа. На уровне портфеля — найти сегменты, где модель систематически завышает или занижает риск. На уровне разработки — сравнить две версии алгоритма и проверить, не стала ли новая модель сильнее зависеть от прокси-переменных.

Но и здесь есть риск ложной уверенности. Если SHAP или LIME встроены в процесс только как генератор отчётов, они не решают проблему. Банк может получать аккуратные объяснения для каждой заявки и при этом не замечать, что сам набор факторов содержит социальный перекос. Инструменты прозрачности должны быть частью более широкой системы: проверки данных, тестирования на сегментах, независимой валидации, мониторинга после запуска и процедуры пересмотра решений.

Итоговая оценка: что меняется для заёмщика и банка

Кредитный скоринг рейтинг на базе ИИ не исчезнет. Для банка автоматизированная оценка остаётся способом быстро обрабатывать большой поток заявок, учитывать больше данных и точнее управлять риском. Но сама идея, что более сложная модель автоматически лучше, постепенно теряет убедительность. В регулируемом кредитовании важна не только прогнозная точность, но и способность объяснить, проверить и при необходимости оспорить решение.

Для банка это переход от разовой разработки к постоянному управлению моделью. Нужно следить за качеством данных, фиксировать версии, проверять различия между сегментами, отслеживать изменение поведения клиентов и заранее оценивать влияние новых признаков. Модель нельзя считать законченной в день запуска: она продолжает меняться вместе с рынком, продуктами и клиентской базой.

Для заёмщика значение имеют три вещи. Во-первых, возможность получить понятное объяснение отказа или невыгодных условий. Во-вторых, возможность исправить неточные сведения, повлиявшие на оценку. В-третьих, наличие процедуры повторного рассмотрения, если автоматическое решение оказалось ошибочным или основано на подозрительной комбинации факторов. Чем больше решений передаётся алгоритмам, тем важнее, чтобы у клиента оставался способ обратиться не к безымянному баллу, а к ответственной организации.

Главный риск ИИ-скоринга не в том, что алгоритм иногда ошибается. Ошибки неизбежны у любой прогнозной системы. Проблема начинается тогда, когда банк не видит, на ком именно сосредоточены эти ошибки, не может объяснить их происхождение и продолжает масштабировать модель только потому, что её средняя точность выглядит убедительно.

Переход к XAI не делает кредитный скоринг автоматически справедливым. Он даёт банку инструменты для проверки и контроля — при условии, что организация использует их не как формальность, а как часть принятия решений. В новых условиях конкурентным преимуществом становится не самый сложный алгоритм, а управляемая модель: достаточно точная, понятная для аудита и способная выдержать проверку на реальных данных.