Мировой лидер в области платежей, компания Visa, работает в более чем 200 странах и территориях, каждая со своими уникальными, сложными правилами и регламентами. Команда клиентских услуг должна понимать эти нюансы, когда возникают вопросы, связанные с политикой, например, «разрешено ли нам обрабатывать этот тип платежей в этой стране?». Однако невозможно, чтобы все ответы были известны мгновенно.
Это означает, что в прошлом нужно было искать соответствующую информацию вручную — процесс, который мог занимать дни в зависимости от доступности данных. Когда появился генеративный ИИ, Visa увидела в этом идеальный случай для применения, используя генерацию с поддержкой извлечения данных (RAG), чтобы не только извлекать информацию в 1,000 раз быстрее, но и ссылаться на ее источники.
«Во-первых, это качество результатов», — рассказал Сэм Хамилтон, старший вице-президент Visa по данным и ИИ, VentureBeat. «Это также низкая задержка. Теперь они могут обрабатывать куда больше случаев, чем раньше». Это лишь один из способов, как Visa использует генеративный ИИ для улучшения своих операций, поддерживаемых тщательно созданной многослойной технологической инфраструктурой, управляя рисками и предотвращая мошенничество.
Secure ChatGPT: Защищенные модели Visa
30 ноября 2022 года, когда миру представили ChatGPT, станет знаковым моментом в истории ИИ. Непосредственно после этого, как отметил Хамилтон, сотрудники Visa начали задаваться вопросами: «Где мой ChatGPT?», «Могу ли я использовать ChatGPT?», «У меня нет доступа к ChatGPT», «Я хочу ChatGPT». Тем не менее, как один из крупнейших в мире поставщиков цифровых платежей, Visa естественно обеспокоилась о защите конфиденциальных данных клиентов — конкретно, что эти данные останутся защищенными, не попадут в открытую среду и не будут использованы для будущего обучения моделей.
Для удовлетворения потребностей сотрудников, одновременно сохраняя безопасность, Visa представила так называемые ‘Secure ChatGPT’, которые работают за защитным файрволлом и запускаются внутри сети на Microsoft Azure. Компания контролирует ввод и вывод данных с помощью сканирования предотвращения потери данных (DLP), чтобы гарантировать, что никакие конфиденциальные данные не покидают системы Visa.
«Все сотни петабайт данных зашифрованы, защищены при покое и при передаче», — объяснил Хамилтон. Несмотря на название, Secure ChatGPT — это мультимодальная интерфейсная платформа, предлагающая шесть различных опций: GPT (и его различные итерации), Mistral, Claude от Anthropic, Llama от Meta, Gemini от Google и Granite от IBM. Хамилтон описал это как услугу модели или RAG-as-a-service. «Думайте об этом как о слое, где мы можем предоставить абстракцию», — сказал он. Вместо того чтобы создавать свои собственные векторные базы данных, они могут выбирать и настраивать API, которые наилучшим образом подходят для их конкретного случая.
Например, если им нужно немного тонкой настройки, они обычно выбирают меньшую открытоисточную модель, такую как Mistral; в противоположность этому, если им нужна более сложная модель рассуждений, они могут выбрать что-то вроде OpenAI o1 или o3. Таким образом, люди не чувствуют себя ограниченными или упускающими то, что доступно в открытой среде (что может привести к ‘теневому ИИ’, или использованию неподтвержденных моделей).
Secure GPT не является чем-то большим, чем просто оболочка на модели, объяснил Хамилтон. «Теперь они могут выбирать модель, которая им нужна, поверх этого».
Помимо Secure ChatGPT, всем разработчикам Visa предоставляется доступ к GitHub Copilot для помощи в их повседневном кодировании и тестировании. Разработчики используют Copilot и плагины для различных интегрированных сред разработки (IDE), чтобы понять код, улучшить код и провести юнит-тестирование (определяя, что код работает как задумано), отметил Хамилтон. «Таким образом, охват кода [обнаружение областей, где недостаточно тестирования] увеличивается значительно, потому что у нас есть этот помощник», — сказал он.
RAG-as-a-service в действии
Одним из самых мощных примеров использования Secure ChatGPT является обработка вопросов, связанных с политикой, характерной для данного региона. «Как вы можете себе представить, находясь в 200 странах с различными правилами, документы могут исчисляться тысячами и сотнями тысяч», — отметил Хамилтон. «Это становится очень сложным. Вам нужно точно обрабатывать это, и необходимо провести исчерпывающий поиск».
Кроме того, местные условия политики со временем меняются, поэтому эксперты Visa должны быть в курсе. Сейчас, с надежным RAG, основанным на надежных и актуальных данных, ИИ Visa не только быстро извлекает ответы, но и предоставляет ссылки и исходные материалы. «Он говорит вам, что вы можете или не можете делать, и говорит: „Вот документ, который вам нужен, я даю ответ на его основе» – объяснил Хамилтон. «Мы сузили ответы на основе знаний, которые встроены в RAG».
Обычно исчерпывающий процесс мог занять «если не часы, дни», чтобы прийти к определённым выводам. «Сейчас я могу получить это за пять минут, две минуты», — сказал Хамилтон.
Четырёхслойная ‘торт’ инфраструктура данных Visa
Эти возможности являются результатом значительных вложений Visa в инфраструктуру данных за последние 10 лет: финансовый гигант потратил около 3 миллиардов долларов на свою технологическую инфраструктуру, согласно Хамилтону. Он описывает эту инфраструктуру как «торт с четырьмя слоями»: Основа представляет собой «платформу данных как услугу», с «данными как услуга», экосистемой искусственного интеллекта и машинного обучения (ML) и слоями услуг и продуктов данных сверху.
Платформа данных как услуга, по сути, служит операционной системой, построенной на озере данных, которое агрегирует «сотни петабайт данных», объяснил Хамилтон. Уровень выше, данные как услуга, служит своего рода «дорожным магистралем данных» с множеством полос движения на разных скоростях, чтобы поддерживать сотни приложений.
Третий слой, экосистема ИИ/ML, это та область, где Visa непрерывно тестирует модели, чтобы гарантировать их надлежащую работу и стойкость к предвзятости и отклонениям. Наконец, четвёртый слой — это место, где Visa разрабатывает продукты для сотрудников и клиентов.
Блокирование мошенничества на сумму $40 миллиардов
Будучи надежным платежным поставщиком, одна из главных задач Visa — предотвращение мошенничества, и здесь всё большую роль играет ИИ. Хамилтон объяснил, что компания инвестировала более $10 миллиардов, чтобы помочь снизить уровень мошенничества и повысить сеть безопасности. В конечном итоге это помогло компании заблокировать попытки мошенничества на $40 миллиардов только в 2024 году.
Например, новый инструмент глубокой авторизации Visa предоставляет оценку риска транзакции для управления платежами без карты (CNP) (например, когда пользователи оплачивают через веб-сайт или мобильное приложение, как это часто происходит в повседневной практике). Это реализовано с помощью модели рекуррентной нейронной сети (RNN) глубокого обучения, основанной на петабайтах контекстуальных данных. Аналогично, защита платежей в реальном времени с счета на счёт (например, через цифровые кошельки или мгновенные платёжные системы) реализована с помощью моделей глубокого обучения ИИ, которые выдают моментальные оценки риска и автоматически блокируют плохие транзакции.
Хамилтон объяснил, что Visa использовала модель, основанную на трансформаторе — нейронную сеть, которая учится контексту и значению, отслеживая связи в данных, — чтобы улучшить эти инструменты и быстро выявить и предотвратить мошенничество. «Мы хотели сделать это в реальном времени с транзакциями», — сказал он. «Это значит, что у нас есть менее чем секунда, я бы сказал, милисекунды, на отклик».
Синтетические данные также представляют ценность в предотвращении мошенничества: команда Хамилтона дополняет существующие данные синтетическими данными для проведения симуляций вокруг новых видов мошенничества. «Это помогает нам понять, что происходит сейчас и что может произойти в короткие и долгосрочные перспективы, чтобы мы могли моделировать и обучать модели на поимку данных», — сказал он.
Он отметил, что борьба с мошенничеством — это гонка вооружений, где низкий порог входа для агрессоров. «Нам нужно быть на шаг впереди этого, предугадывать и блокировать их», — подчеркнул Хамилтон.
Подписывайтесь на наш telegram-канал
