Jay Guard
Модуль контроля данных при использовании LLM
Позволяет контролировать все обращения к LLM.
При обнаружении заданной информации осуществляет ее замену или блокирует обработку запроса
65%
топ-рисков использования генеративного ИИ связаны с защитой персональных данных и кибербезопасностью
всего 9%
компаний готовы управлять рисками использования генеративного ИИ
Потребность бизнеса - минимизировать риски утечки данных при работе с нейросетями и внешними LLM
Решение - установка шлюза для анализа данных и замены данных на вымышленные, сохраняя при этом их семантическую целостность
Преимущества
- Возможность использования самых передовых генеративных моделей (GPT-4 Turbo, GigaChat, YaGPT 3 и подобных)
- Экономия ресурсов компании и отсутствие затрат на хостинг и эксплуатацию собственных LLM
Типовые области применения
- Финтех и страхование
- Ритейл
- Медицина
- Госсектор
- Фармацевтика
- Телеком
Как компании сейчас используют LLM
Незащищенный доступ в облаке
Защищенный доступ в контуре
Незащищенный доступ в облаке
Быстрый запуск с минимумом затрат, но с рисками стороннего доступа к корпоративным данным
Защищенный доступ в контуре
Высокие затраты, долгий период запуска и менее гибкая LLM, но при этом высокая защита корпоративных данных
Как работает Jay Guard?
Контролирует поток данных при работе с LLM
Модель определяет и заменяет выявленную информацию
Позволяет настраивать политику фильтрации данных, гибко задавать правила поиска информации и реакцию на ее обнаружение — запрет/разрешение запроса или замену данных.
Осуществляет маскирование данных – заменяет в запросе выявленную часть на заглушку, сохраняя при этом семантику запроса.
Идентифицирует данные как при помощи правил, так и с использованием ML NER.
Ведет журнал запросов во внешние системы и ответов. Интегрируется с корпоративными системами оповещений.
Возможности модуля замены данных
- Позволяет работать по протоколу Open AI API
- Имеет гибкую архитектуру и позволяет размещать различные компоненты конечного решения как в облаке, так и on-premise
- Гибко настраивается на поиск и маскирование нужных сущностей в массиве данных
- Не требует изменения привычных бизнес-процессов и сложных дополнительных интеграций
- Дает возможность использовать не только предустановленные фильтры, но и встраивать свои собственные
Jay Guard - часть экосистемы Jay Copilot
Jay Copilot - это набор приложений для решения бизнес-задач с помощью современных нейросетевых моделей генеративного ИИ
Удобные интерфейсы доступа: Telegram, web-версия, расширение браузера
позволяют эффективно использовать Jay в рабочем процессе
Jay агрегирует различные нейросети:
Open AI , YandexGPT, GigaChat, а также предоставляет пользователю возможность прямой работы с ними
Набор API-интерфейсов
позволяет интегрировать Jay в существующие информационные системы любого бизнеса