Компания Neoflex представила MLOps-решение Neoflex Dognauts и рассказала, как снизить бизнес-затраты с помощью генеративного BI-Ассистента

На форуме по цифровизации нефтехимической промышленности «Цифровая химия» Валерия Брызгалова, руководитель направления продуктовой аналитики платформы Neoflex Dognauts, отметила, что на пути от разработки до эксплуатации ML-модели бизнес зачастую сталкивается со множеством вопросов: как корректно собрать данные, вывести модель в промышленную эксплуатацию и оценить, соответствует ли модель поставленной бизнес-цели. Эти задачи успешно решает внесенная в Росреестр платформа Neoflex Dognauts. Она поддерживает все этапы жизненного цикла разработки МL-моделей: от подготовки данных, разработки и обучения моделей, до их эксплуатации и мониторинга. Вместе с этим решение позволяет запускать современные приложения, использующие методы генеративного искусственного интеллекта, а также разрабатывать чат-боты и базы знаний на основе LLM. Для этого имеются встроенные инструменты Lang Chain и Lang Graph.

Neoflex Dognauts состоит из таких Open Source компонентов, как Apache Airflow, Feast, MLFlow, SeldoneCore и разворачивается на инфраструктуре Kubernetes. Ключевой сущностью на платформе является «Проект» – изолированное пространство для работы DS-команды, которое позволяет гибко управлять ресурсами и организовать коллективную разработку.

Валерия Брызгалова отметила такие выгоды от использования платформы, как снижение модельных и операционных рисков, сокращение time-to-market по запуску новых систем с использованием ML-моделей, а также эффективная эксплуатация ансамблей моделей и нейросетей в бизнес-приложениях. 

Роман Сорокин, руководитель центра компетенций Data Science, рассказал в своем выступлении о том, как расширить возможности поиска и визуализации данных с помощью генеративного BI-Ассистента.

Спикер отметил, что сегодня генеративный ИИ стал необходимым условием конкурентоспособности бизнеса и рассмотрел самое популярное его использование в корпоративной среде – подход RAG (Retrieval-Augmented Generation). Это эффективный инструмент для поиска по неструктурированным данным — корпоративным регламентам, внутренним политикам, отчётам.

Однако, RAG не решает задачи оперативной аналитики по базам данных, где требуются точные агрегаты и фильтры. Для этих целей Роман Сорокин представил прототип GenBI-ассистента, который работает со структурированными данными. Такой помощник на базе LLM принимает вопрос на естественном языке, сам формирует SQL-запрос, извлекает нужные данные и за секунды выдаёт итоговый отчёт с таблицами и графиками, избавляя пользователей от ручной подготовки визуализаций. Таким образом, благодаря данному решению руководство горно-обогатительного комбината может видеть эффективность работы участка дробления, а мастер цеха понять, в чем именно кроется увеличение простоев на производстве и разобраться с узким местом в процессе.

Смотрите видеозапись выступления Валерии Брызгаловой

Смотрите видеозапись выступления Романа Сорокина