Кто такие ИИ-агенты и как скоро они будут за нас общаться с банком

Что такое Native AI

Важная часть стратегии Альфа – сделать так, чтобы искусственный интеллект стал естественной частью деятельности банка и встроился во все процессы, продукты и сервисы. Например, сейчас в нашем приложении INSNC клиенты получают индивидуальные курсы валют или персональные предложения по продуктам. Это уже результат работы моделей машинного обучения. Но мы смотрим дальше и тесно связываем развитие продуктов и сервисов банка с генеративным ИИ.

Он будет, подобно человеку,

• общаться с клиентами и сотрудниками,
• принимать решения в допустимой степени,
• упрощать целые направления деятельности.

Эффект мы измеряем не просто по охвату, а по тому, насколько ИИ реально влияет на процессы и качество обслуживания. То есть, упрощает жизнь людей.

AI-трансформация банка

В Альфе завершается трансформация культуры работы с данными: мы перешли от централизованного к распределенному подходу в управлении данными. Вот как это выглядит:

1. есть центр компетенций в IT, который отвечает за инфраструктуру, инструменты и методологию, а также стратегию развития в сфере данных и ИИ и стратегические проекты.
2. Параллельно в бизнес-направлениях банка создаются компетенции по работе с данными, включая аналитиков данных, дата-саентистов и CDO направлений, которые работают с данными и создают решения на базе ИИ внутри своих доменов.

Это требует высокой степени координации, но результат стоит того. У команд появляется автономность в решении задач своего бизнес-направления, а культура работы с данными и ИИ в компании прорастает естественным образом.

На какой инфраструктуре строится Native AI

В Альфе создана производственная система для задач в области данных и ИИ.

В нее входят:

• инфраструктура, включая AI-кластер на базе промышленных GPU-серверов,
• Open Source инструменты и процессы разработки и эксплуатации, реализованные в программном коде.

Такой комплексный подход позволяет ускорять разработку решений на базе ИИ, а также влияет на одну из ключевых метрик – доступность критичных для бизнеса ИИ-решений на уровне “четыре девятки” (99,99%), чтобы они работали 24/7.

Кроме того, мы развиваем инструменты, которые позволяют ускорить создание ассистентов и агентов, чтобы это могли делать не только инженеры, но и обычные сотрудники. Мы хотим, чтобы каждый мог создать своего небольшого ИИ-помощника под свои задачи.

ИИ-ассистент vs ИИ-агент

Первые ML-модели (модели машинного обучения) появились в банке еще в 2016–2017 годах. Сегодня их десятки: кредитный скоринг, прогнозирование, персональные предложения, оптимизация процессов и т.д.

В 2023 году начался новый этап — генеративный ИИ. Из соображений безопасности мы не используем внешние решения вроде ChatGPT, а пошли по пути создания решений на базе Open Source моделей, которые полностью изолированы в контуре (то есть, внутри) банка.

Поскольку эксперименты с дообучением не удовлетворили наши требования к качеству ответов, мы перешли к набиравшему в то время подходу RAG (Retrieval Augmented Generation) — формируем векторные базы данных и подаем модели строго релевантный контекст. Эти слова понятны только специалистам. Поэтому поясним простыми словами: RAG позволяет, например, клиентам достаточно точные ответы на вопросы даже при ограниченном объеме данных по теме.

Будущее наше развитие в сфере ИИ мы связываем с созданием ИИ-агентов и построением мультиагентных систем. Разберемся, что это:

• ИИ-ассистент — это помощник на базе искусственного интеллекта, который помогает пользователю выполнять задачи, понимая человеческий язык.
• ИИ-агент — это помощник на базе искусственного интеллекта, который может автономно выполнять задачи, в том числе планируя действия и интерпретируя результаты.

Например, сработал некий триггер в банковской системе — ИИ-агент активизируется, исследует причину, обращаясь в другие системы, принимает решение исходя из заданных правил и выполняет действия, либо вызывает другого ИИ-агента для исполнения процесса. По сути мы готовимся к тому, что ИИ-агенты будут собираться в экосистему сначала внутри процессов компании, а затем и во вне. И в обозримом будущем вместо похода клиента в банк можно ожидать, что к нам «постучится» его персональный ИИ-агент (например, установленный на мобильном устройстве), а наш ИИ-агент ему ответит.

То есть, клиент не открывает приложение, не звонит в банк — его персональный агент просто выполнит операцию, общаясь с нашим агентом. Это новый, невидимый канал обслуживания, где взаимодействуют не люди, а их цифровые помощники. На наш взгляд, уже есть все необходимые технологии для наступления такого будущего. Банки, наравне с другими компаниями, должны к этому готовиться уже сейчас.

Какие ИИ-решения уже работают в Альфе

Помимо ML-моделей, которые упоминались ранее, в Альфе активно ведутся работы по созданию решений на базе генеративного ИИ. Отдельно стоит отметить два:

• Чат-бот для клиентов. Он сейчас пилотируется в Telegram и мы постепенно добавляем темы, по которым он консультирует, опираясь на оценки клиентов и обратную связь. Постепенно мы добавим и другие каналы, чтобы клиенты могли быстрее получать консультации в привычных для себя приложениях.
• Внутренний ИИ-ассистент. По сути, это наш аналог ChatGPT внутри периметра банка, но реализованный на наших серверах с применением Open Source инструментов. Он работает с внутренними документами, помогает сотрудникам с анализом текстов и таблиц, генерирует отчеты.

Также мы работаем над специализированными ассистентами и агентами по доменам — юридический, HR и другие. Параллельно развиваем направление персональных ассистентов, чтобы сотрудники могли готовить данные в виде файлов и на их основе создавать своих ассистентов.

Зачем все это?

Альфа ужа прошла большую часть пути AI-трансформации. У нас есть собственная инфраструктура, десятки ML-моделей, работающие ИИ-ассистенты, и мы инвестируем в создание ИИ-агентов и мультиагентных систем. Для нас это не вопрос, а стратегическое движение, поскольку мы на своем опыте видим насколько повышается скорость процессов и предоставления с применением ИИ.

Стоит отметить что качество с развитием технологий постоянно улучшается, и уже по ряду задач ИИ справляется не хуже, а порой и лучше человека. И все это мы делаем именно для человека. Наша эволюционная цель заключается в том, чтобы упрощать жизнь и высвобождать время человека для важного, и искусственный интеллект нам в этом помощник.