5 минут
Полина Конорова
Just AI запускает инструменты для защиты персональных данных при работе с генеративным ИИ
Компания Just AI представляет Jay Guard – систему маскирования и фильтрации чувствительных данных, необходимую для безопасной работы с большими языковыми моделями, подобными ChatGPT, Gemini, YandexGPT, GigaChat. Для хостинга и дообучения собственных LLM-моделей, а также доступа к генеративным моделям через API компания-разработчик анонсирует запуск собственной ML-платформы Caila.
Анонс большой языковой модели Gemini компанией Google, которая превосходит GPT-4 от OpenAI в 30 из 32 тестов, еще раз подчеркивает высокую динамику развития технологий генеративного ИИ и делает еще более острым вопрос о защите персональных данных, отправляемых людьми и организациями в дата-центры крупнейших IT-корпораций.
Последние исследования в этой области показывают, что около 43% сотрудников используют ChatGPT на работе, а 4,7% – передают в ChatGPT конфиденциальную информацию. Невозможно предугадать, что произойдет с чувствительными данными дальше – так, например, исходные коды разработчиков Samsung из ChatGPT утекли в сеть, а работники Amazon начали замечать в ответах нейросети фрагменты корпоративной информации компании.
Как правило, самые мощные российские и международные модели доступны исключительно из облаков их разработчиков, что не всегда безопасно для персональных данных, с которыми работают компании-заказчики, например, банки. Устранить угрозу можно двумя способами – развернуть локальную языковую модель в закрытом дата-центре компании или поставить в этот дата-центр шлюз, анализирующий данные и заменяющий все чувствительные данные на вымышленные, сохраняя при этом их семантическую целостность.
Jay Guard позволяет компаниям настроить параметры замены данных на основе собственных политик безопасности, интегрировать их со своими клиентскими базами данных и использовать заранее заготовленные пресеты. В результате все данные, уходящие из закрытого контура компаний во внешние LLM, анонимизируются и отправляются в безопасном виде. При этом сохраняется семантическая связанность, контекст сессий, и после ответа LLM исходные данные восстанавливаются системой. Jay Guard может работать в связке с Jay Copilot, инструментом для работы сотрудников компаний с нейросетями и приложениями на их основе. Оба продукта Just AI могут быть развернуты в защищенном контуре компаний, исключая утечку персональных данных во внешние LLM.
«Вопрос безопасности использования LLM особенно актуален в свете последних разработок мировых и российских лидеров, таких как Gemini, GPT-4 Turbo или YandexGPT 2, так как модели подобного уровня недоступны в контуре компаний, при этом ряд прикладных задач бизнеса может быть решен только на их основе. Мы уверены, что представленные инструменты помогут бизнесу максимально быстро и безопасно внедрять в свою работу новейшие технологии генеративного ИИ», – отметила Юлия Пивоварова, операционный директор Just AI.
Платформа Caila, в свою очередь, позволяет получать доступ к последним генеративным моделям через единый API, разворачивать и дообучать собственные модели, создавать на основе моделей сервисы и дообучать LLM. Находясь в защищенном облаке Just AI или on-premise, Caila берет на себя задачи по выделению серверов для работы и дообучению моделей, распределению и балансировке нагрузки. В систему можно загружать собственные модели и обучающие датасеты, производить дообучение моделей, использовать в собственных проектах, либо делать их доступными для сторонних пользователей, в том числе и на платной основе.
«Одним из драйверов роста использования генеративного ИИ является повышение доступности этого инструмента. Очень важно, чтобы одновременно с доступностью соблюдался и высокий уровень безопасности данных. Внедрение инструментов, подобных DataGuard, – это не просто следование трендам, это необходимость, обеспечивающая сохранность чувствительной информации», – прокомментировал заместитель председателя правления Совкомбанка Альберт Борис.
Подробнее узнать о Caila, а также запросить демо Jay Guard можно по ссылке.