Скоринг и предубеждение: возможна ли сегрегация при одобрении кредитов
Нейросети неожиданно стали обращать внимание на расу заемщиков
Фото: AllaSerebrina/Depositphotos.com

Банк разработал нейросеть для скоринга по фотографиям. Она стала сортировать заемщиков... по национальности. Приведет ли развитие скоринговых технологий к сегрегации при одобрении заявок на кредиты?

Неполиткорректная нейросеть

Один из российских розничных банков разработал систему скоринга, которая оценивает заемщиков по фотографии. «Для нас стало сюрпризом то, что у системы оказалась неплохая точность. А в совокупности со скорингом заемщика эффективность повышается на три процентных пункта», — рассказал представитель этого банка. Система в первую очередь отсеивает по фотографиям лиц, ведущих асоциальный образ жизни: бомжам и алкоголикам не дают шанса получить кредит. Еще один неполиткорректный вывод, который сделала нейросеть, — что заемщики с неславянской внешностью являются менее благонадежными. По причине неполиткорректного поведения искусственного интеллекта банк широко не афиширует эту разработку.

Социум влияет на возврат кредита. Нет, это не шутка

Для скоринга банки готовы использовать не только наши фотографии, но и активность в Интернете, содержание СМС, геолокацию. Кредитные организации и МФО берут на вооружение любые методы, позволяющие снизить дефолтность.

Менеджер специальных продуктов oneFactor Дмитрий Асонов на Scoring Case Forum рассказал про метод социального скоринга.

«Социум, который окружает человека, влияет на то, вернет человек кредит или не вернет. В стандартных скоринговых решениях это не учитывается. Что такое социальное окружение? Это родители, дети, коллеги, друзья. Помимо скоринга самого человека, возможен скоринг его социального окружения. Самый простой пример — когда член семьи просрочил платеж по ипотеке. Семья испытывает финансовые сложности, но у другого члена семьи с кредитной историей все в порядке. Он обратился в банк, мы его «проскорили», получили положительное решение, выдали кредит. Если бы посмотрели на его социальное окружение, то поняли бы, что домохозяйство уже перекредитовано.

Есть примеры ошибочных решений и в обратную сторону. У человека нет кредитной истории, и чаще всего мы ему отказываем. Но если мы «проскорим» жену или мужа, увидим хорошую кредитную историю и хороший DTI, то мы сможем выдать кредит. И будем уверены, что не перекредитуем домохозяйство. Если смотреть более широко на социальное окружение, то, посмотрев коллег и увидев волну дефолтов, можно понять, что риски возрастают, если вы этому человеку дадите кредит», — рассказал Асонов. Он отметил, что при совмещении социального скоринга со скорингом заемщика эффективность процесса возрастает на 7 процентных пунктов.

Скоринг не станет расистом

Вряд ли стоит опасаться, что все более детальный скоринг приведет к возникновению негласной сегрегации, считает директор исследовательского подразделения «Интерфакс ЛАБ» Илья Мунерман. «Не бывает факторов-переключателей. Грамотно построенный скоринг анализирует все факторное пространство. Более того, какой-то один фактор никогда не оценивается вне соседства с другими. Я очень люблю один американский стартап, который понял, что успешный человек средних лет с семьей, с высшим образованием и карьерным ростом давно отскорингован и за этого заемщика придется жестко конкурировать. Этот стартап занялся теми, кто молодость провел по принципу «секс, драгз, рок-н-ролл», но в 30 лет остепенился, занялся более-менее стабильным бизнесом. Почему бы не дать им шанс? Так вот, они обрабатывают более 15 тысяч факторов по таким людям и отправляют банкам информацию, что эти ребята являются потенциальными заемщиками», — рассказал Мунерман. «Ни кредитная история, ни трансакции, ни работодатель — ничто само по себе не составит хороший скоринг. Только совокупность факторов», — говорит эксперт.

По его словам, альтернативы скорингу нет. «Какая альтернатива? Принимать решения руками и вернуться во времени кредитных комитетов? Если у кого-то и появится сегрегация, то к нему и клиенты не пойдут. Скоринг, если он хорошо построен, позволяет избежать когнитивных искажений в принятии решений. Они честнее и лучше оценивают человека. Банковские скоринги — это светлая сторона жизни», — уверен он.

Исполнительный вице-президент Ассоциации российских банков Эльман Мехтиев считает: для того чтобы не допустить ущемления интересов потребителей, необходимо заранее оценивать, к каким последствиям приведет использование той или иной разработки.

«В последнее время много разговоров про искусственный интеллект и все чаще обсуждаются вопросы его практического применения в бизнесе. Отрадно, что бизнес начинает задаваться вопросом, где границы его использования. И не надо говорить: «Давайте он разовьется, а потом посмотрим». Возможно, тогда уже будет поздно смотреть... Регуляторы финансовой отрасли даже в странах с прецедентным правом все чаще говорят, что вначале надо оценить в «песочнице», не только какие препятствия есть для применения той или иной технологии, но и какие последствия может иметь развитие этой самой технологии. В том числе и с точки зрения защиты прав потребителей. Возможно, что любую новую технологию, если она затрагивает конечного пользователя и его финансы, вначале надо протестировать в «песочнице»», — говорит Мехтиев.

«Простой пример: при определенной настройке скоринговая система может одинаковым по всем основным параметрам, но разным с точки зрения территории нахождения людям выдать разную процентную ставку по кредиту. Справедливо это или несправедливо? Да, бизнесу это выгодно. Но если мы посмотрим с точки зрения потребителя, то не факт, что это выгодно бизнесу в долгосрочной перспективе. Должно быть регулирование, которое, с одной стороны, не запрещает развитие новых технологий, а с другой — делает так, чтобы развитие технологий не способствовало эксплуатации одной стороны другой», — указал Мехтиев.

Анна ПОНОМАРЕВА, Banki.ru