Jay Guard
Модуль контроля и безопасности данных при использовании облачных LLM
Обеспечивает конфиденциальность корпоративных и персональных данных, предотвращая их попадание в облачные нейросети.
Позволяет контролировать все обращения к LLM.
При обнаружении чувствительной информации осуществляет ее маскирование или блокирует обработку запроса
65%
топ-рисков использования генеративного ИИ связаны с защитой персональных данных и кибербезопасностью
всего 9%
компаний готовы управлять рисками использования генеративного ИИ
Потребность бизнеса - минимизировать риски утечки данных при работе с нейросетями и внешними LLM
Решение - установка шлюза для анализа данных и замена конфиденциальных данных на вымышленные, сохраняя при этом их семантическую целостность
Преимущества
- Возможность использования самых передовых генеративных моделей (GPT-4 Turbo, GigaChat, YaGPT 3 и подобных)
- Экономия ресурсов компании и отсутствие затрат на хостинг и эксплуатацию собственных LLM
- Соблюдение политик безопасности компании и сокрытие чувствительных данных без потери контекста
Типовые области применения
- Финтех и страхование
- Ритейл
- Медицина
- Госсектор
- Фармацевтика
- Телеком
Как компании сейчас используют LLM
Незащищенный доступ в облаке
Защищенный доступ в контуре
Незащищенный доступ в облаке
Быстрый запуск с минимумом затрат, но с рисками стороннего доступа к корпоративным данным
Защищенный доступ в контуре
Высокие затраты, долгий период запуска и менее гибкая LLM, но при этом высокая защита корпоративных данных
Как работает Jay Guard?
Защищает данные при работе с облачными LLM
Модель определяет и надежно маскирует чувствительную информацию
Позволяет настраивать политику фильтрации данных, гибко задавать правила поиска чувствительной информации и реакцию на ее обнаружение — запрет/разрешение запроса или маскирование данных.
Осуществляет маскирование данных – заменяет в запросе конфиденциальную часть на заглушку, сохраняя при этом семантику запроса.
Идентифицирует чувствительные данные как при помощи правил, так и с использованием ML NER.
Ведет журнал запросов во внешние системы и ответов. Интегрируется с корпоративными системами оповещений.
Гибридная схема использования
- Облачные LLM + Jay Guard для безопасного пилотирования и валидации новых идей
- On-premise LLM для работы с самыми чувствительными данными компании
Возможности модуля маскирования данных
- Позволяет работать по протоколу Open AI API
- Имеет гибкую архитектуру и позволяет размещать различные компоненты конечного решения как в облаке, так и on-premise
- Гибко настраивается на поиск и маскирование нужных сущностей в массиве данных: ФИО, паспортные данные, номера кредитных карт, email-адреса и другие данные
- Не требует изменения привычных бизнес-процессов и сложных дополнительных интеграций
- Дает возможность использовать не только предустановленные фильтры, но и встраивать свои собственные
Jay Guard - часть экосистемы Jay Copilot
Jay Copilot - это набор приложений для решения бизнес-задач с помощью современных нейросетевых моделей генеративного ИИ
Удобные интерфейсы доступа: Telegram, web-версия, расширение браузера
позволяют эффективно использовать Jay в рабочем процессе
Jay агрегирует различные нейросети:
Open AI (GPT 3.5, GPT-4 Turbo, DALL-E 3), Яндекс (YaGPT 3), Сбер (GigaChat), а также предоставляет пользователю возможность прямой работы с ними
Набор API-интерфейсов
позволяет интегрировать Jay в существующие информационные системы любого бизнеса