Neoflex рассказал на Global Tech Forum, как защитить данные и инфраструктуру компании при использовании ИИ-агентов

В рамках программы мероприятия с докладом «Безопасность без тормозов» выступила Светлана Маркова, архитектор направления ИИ-трансформации Neoflex. В своем выступлении она разобрала, как выстроить безопасное использование ИИ-агентов так, чтобы контроль не мешал автоматизации, а помогал внедрять её в корпоративной среде. Светлана отметила, что агенты всё чаще обращаются к корпоративным системам, работают с файлами, данными и выполняют цепочки действий без постоянного участия человека, поэтому защиты, рассчитанной на обычный чат с языковой моделью, уже недостаточно. Контроль должен учитывать действия агента, а не только запросы к модели и её ответы.

Эксперт подчеркнула, что безопасность не должна сводиться к запрету. Если при проверке находится проблема, ответ можно исправить, скрыть персональные данные или запросить у модели новый вариант. Журнал действий агента должен вестись в контуре, который агент не может изменить, а проверки удобно выполнять параллельно, чтобы они не складывались в общую задержку.

«Баланс безопасности и пользы определяет бизнес, а задача ИТ и ИБ сделать так, чтобы этот баланс соблюдался. Защита не должна останавливать автоматизацию, ведь наша цель обеспечить управляемость и прозрачность ИИ-агентов, не убивая их реальную пользу.», – отметила Светлана Маркова.

Федор Надейкин, руководитель направления ИИ-продуктов Neoflex, представил на мероприятии Neoflex Neon – корпоративную платформу для создания, внедрения и промышленной эксплуатации ИИ-агентов и GenAI-сценариев. Она объединяет модули для разработки и управления агентами, мониторинга и контроля безопасности, а сами решения могут разворачиваться в инфраструктуре заказчика, в гибридной среде или в облаке.

«Мы строили Neoflex Neon как платформу, которая не привязана к конкретному поставщику моделей – можно использовать LLM разных вендоров, в том числе российские, и менять их по мере изменения ландшафта. Одновременно платформа берет на себя всю рутину промышленной эксплуатации: единый каталог агентов компании, управление их жизненным циклом, права доступа, мониторинг, контроль соблюдения политик безопасности. Разработчик занимается предметной логикой агента, а не изобретает заново инфраструктуру. Наконец, Neoflex Neon открыт для доработок и развития силами специалистов заказчика, или совместными командами, что также повышает уровень гибкости для наших клиентов.», – отметил Фёдор Надейкин.

Видеозапись выступления Светланы Марковой смотрите по ссылке.
Получить чек-лист на 4 шага, которые помогут пустить ИИ-агентов в процессы, не теряя над ними контроля.