Function Calling в действии: как Neoflex создает AI-ассистентов нового поколения

В рамках Data Fest 2025 Евгений Кононов, ML-инженер Neoflex, представил доклад «Function Calling 101: один агент вместо зоопарка ботов», в котором он раскрыл базовые принципы и практическое применение технологии Function Calling в разработке AI-ассистентов.

Евгений Кононов подчеркнул, что Function Calling – это не просто функция OpenAI, а мощное архитектурное решение, позволяющее большим языковым моделям взаимодействовать с внешней средой, получая доступ к инструментам для поиска информации, анализа данных и выполнения других задач.

Опираясь на глубокую экспертизу в области искусственного интеллекта, Neoflex успешно применила технологию Function Calling для создания AI-ассистента для крупной нефтеперерабатывающей компании, которая столкнулась с проблемами устаревшего чат-бота. Из-за этого пользователи либо покидали сайт, либо чаще обращались в службу поддержки.

На начальном этапе была реализована архитектура с маршрутизацией запросов между специализированными агентами и выявлены ограничения данного подхода. В качестве целевого решения предложена система на основе LLM, RAG и Function Calling, позволяющая обрабатывать все запросы в рамках одного агента. Критические галлюцинации устранены за счет применения нечеткого поиска и подхода Human-in-the-loop. Переход к одному агенту позволил сократить среднее время ответа на 1,5 секунды, повысить точность выбора инструментов на 12% и увеличить частоту правильных результатов на 7%.

Новый ассистент снизил нагрузку на службу поддержки и улучшил пользовательский опыт. Ключевые метрики целевого решения:

• 90% — качество ответов
• 3 сек. — средняя скорость ответа
• 3 руб. — средняя стоимость запроса

«Function Calling представляет собой не просто функцию OpenAI, а ключевое архитектурное решение, – отметил Евгений Кононов. – Именно его применение позволило разработать эффективного AI-ассистента, охватывающего порядка 90% сценариев общения с пользователями.»

Смотрите видеозапись выступления Евгения Кононова на Data Fest 2025