Одному банку не по силам. Необходим обмен информацией с использованием ИИ

Одному банку не по силам. Необходим обмен информацией с использованием ИИ

BIS Journal открывает новую рубрику «ИБ + ИИ», посвящённую бурно прорастающему в нашей жизни направлению искусственного интеллекта (ИИ) в аспектах информационной безопасности (ИБ).

Конечно, можно говорить об инфернальной сущности ИИ, видеть в нём Левиафана, намерившегося пожрать человеческие души. А можно смотреть на него с рационально-утилитарной точки зрения. И куда тут денешься: проникновение ИИ в повседневную жизнь за последние годы очевидно.

Тем из нас, кто пользуется системами машинного перевода, весьма заметен существенный прогресс в его точности. Качество перевода, например, Google.Translate уже вполне сопоставимо с качеством перевода человеком — носителем языка. И видно, как это качество растёт с каждым годом.

ИИ, обученный на текстах Набокова, недавно написал новый рассказ в набоковском стиле.

ИИ может создавать рисунки, иллюстрирующие представленный ему текст.

ИИ уже пишет стихи и музыку. Правда, пока хорошо получается только рэп.

Системы ИИ могут анализировать данные с камер видеонаблюдения и распознавать различные инциденты.

ИИ управляет беспилотным транспортом.

И многое, многое другое.

Наша жизнь без ИИ вот-вот станет такой же непредставимой, как без водопровода и электричества.

А как обстоит дело с ИИ внутри отрасли ИБ? Для решения каких задач ИБ будут востребованы эти новые технологии?

Отдельной задачей является обеспечение безопасности собственно самих систем ИИ, анализ возможных нападений на такие системы и способов защиты от них. Важной темой является оценка достоверности систем ИИ, особенно тех, которые работают в критически важных областях. К этой теме вплотную примыкает проблематика интерпретируемости ИИ.

Открывает новую рубрику статья В. А. Окулесского, в которой обсуждаются вопросы использования ИИ в системах антифрода.

Нельзя решить проблему, находясь на том же уровне мышления, на котором она была создана. Чтобы её решить, нужно выйти на новый уровень мышления.

А. Эйнштейн

Мошенники в сфере электронных платежей непрерывно совершенствуют свой бизнес: используют новые способы воздействия на системы банков, средства проведения платежей, применяют технологии дипфейков, глубокого психологического воздействия на клиентов и прочая, прочая, прочая… Каждый день мы обсуждаем всё новые и новые сценарии противодействия, вносим изменения в законы, ужесточаем требования к банкам, но ситуация в лучшую сторону не меняется. И есть основания полагать, что вряд ли изменится, если подход к решению этой проблемы не будет изменён принципиально.

Сейчас для борьбы с мошенничеством практически все платёжные системы вооружены антифрод-системами, набором инструментов, с помощью которых анализируются и вычисляются подозрительные проводки денег. Это позволяет банкам остановить и предотвратить хищения денежных средств клиентов со счетов. За одним маленьким НО. Огромное число (до 90%) мошенничеств совершается с явного согласия клиентов, т. е. формально антифрод-система рассматривает такие платежи как легитимные.

Методика работы большинства антифрод-систем основывается на аналитике параметров платежа и параметров профиля клиента. Есть определённый набор параметров, который нам приходит «сверху», есть набор параметров, передаваемый нашими коллегами по цеху, есть наши собственные уникальные параметры. На основе этих параметров можно сформировать набор правил, который поможет принять решение – «хорошо/плохо». Но всегда остаётся серая зона (иногда до 20% платежей), в которой система не может принять решение без глубокой аналитики (или без хорошего аналитика): платёж ещё пока похож на настоящий, но уже имеет признаки отклонения от нормы. В центре принятия решения находится фрод-аналитик – человек, у которого перед глазами инструкция, позволяющая анализировать дополнительные признаки, и на их основе отличать одни финансовые схемы от других, то есть одни определять, как подозрительные, а другие – как не вызывающие сомнений. При небольшом потоке платежей задача вполне решаемая, но при многомиллионном потоке транзакций такая работа становится невероятно трудозатратной. В наиболее продвинутых банках на помощь приходит система машинного обучения, которая позволяет построить более сложную модель данных, чем просто использование правил, и, исходя из неё, принимать те или иные решения. Причём чем больше объём платежей и чем плотнее аналитик работает с системой, тем больше точность работы системы.

Машинное обучение трудно назвать искусственным интеллектом. В основе здесь по-прежнему труд аналитика, который формулирует правила отсева мошеннических операций. Тут мы всё равно оглядываемся назад – проводим оценку операции на основе анализа прошлых транзакций, признанных ранее фродовыми. При этом не надо забывать, что число контролируемых параметров платежа также растёт по мере совершенствования программных и технических средств в системах ДБО и антифрода.

На самом деле реальные системы защиты от фрода должны иметь гораздо больше «слоёв» сбора и анализа различных данных. Для простоты рассмотрения глубины проблемы представим себе сильно упрощённую «модель» мошеннической операции (рис. 1).

Рисунок 1.Приблизительная схема одного из видов мошенничества

Даже беглый взгляд на эту схему показывает, что классическая антифрод-система в отдельном банке даже при наличии особо интеллектуальной системы анализа платежей может анализировать только один или два блока из этой схемы на транзакционных данных и данных профиля клиента. Может ли такая система пресечь социальную инженерию, когда банк получает от клиента все необходимые признаки согласия клиента на проведение платежа?

В такой мошеннической схеме для выявления проведения платежа с согласием «под давлением» в самом простом случае в число участников взаимодействия по минимуму должны входить (рис. 2):

• другие банки, на счета которых переводятся средства;
• операторы связи, которые могут иметь информацию об истории звонков клиенту и истории звонков номеров, с которых производится обзвон;
• Центральный банк, который имеет обобщённую информацию об обстановке в банковской системе;
• Бюро кредитных историй;
• различные государственные реестры;
• силовые структуры — только они имеют право непосредственного «воздействия» на мошенников.

Кроме того, необходима информация из массы внешних источников для TI и т. д.

Рисунок 2. С кем обмениваться информацией

Становится понятным, что объём информации для обработки и принятия решения о «хорошести» платежа колоссальный, число параметров может исчисляться несколькими сотнями. Для такого информационного обмена просто физически необходимо применять высокоинтеллектуальные высокотехнологичные системы. И здесь роль искусственного интеллекта (ИИ) просто невозможно переоценить.

Применение ИИ ставит ещё одну задачу. Стоимость реализации системы не под силу большинству банков. Кроме того, требует решения вопрос владельца такой системы, правовой основы обмена персональными данными и банковской информацией между участниками обмена.

Возможным решением могла бы стать независимая компания (не регулятор), которой банки могли бы доверять. Основной деятельностью такой компании должно быть предоставление банку-участнику скоринговой оценки платежа в онлайн-режиме с учётом целого ряда параметров:

• значение параметров из списка ФинЦерт и НСПК;
• данных операторов связи об истории звонков клиенту и клиента с аналитикой по клиенту и по номерам абонентов;
• данных из бюро кредитных историй;
• данных из налоговой инспекции;
• данных об истории входящих и исходящих платежей;
• данных об имуществе клиента;
• и т. д. и т. п.

Такая компания должна бы создать облачный сервис (рис. 3), имеющий взаимодействие со всеми участниками обмена. Получение информации банками возможно на основе возмездного обмена информацией. В такой конструкции банки могли бы предоставлять в это облако данные своих транзакционных и антифрод-систем. Это потребует какой-то стандартизации и унификации обмена, которыми также должны руководствоваться операторы связи, БКИ и остальные.

Рисунок 3. Минимальный набор участников обмена с сервисом

Без применения ИИ создать такой сервис невозможно.

Риторический вопрос – кто или что это будет?

Подводя итоги.

• Бороться с социальной инженерией можно.
• Создание и совершенствование собственных систем защиты информации – антифрод-систем – остаётся базовой задачей банков.
• Для этой борьбы необходимо объединение усилий самых разных участников на основе оперативного обмена информацией.
• Необходимо решить юридические проблемы законности такого обмена информацией.
• Организатор обмена должен иметь безусловное доверие участников взаимодействия.
• Построение облачного сервиса возможно только с использованием ИИ.