llm-mask: личные данные не уходят в облачный ИИ
Небольшой самостоятельный продукт: убирает личные данные и секреты из текста, прежде чем он уйдёт в облачную ИИ-модель, и возвращает их в ответ.
Проблема
Каждый запрос к облачной ИИ-модели уносит всё, что есть в тексте: имена клиентов, телефоны, номера банковских карт, пароли, случайно вставленные вместе с журналом ошибок. Отправленное уже не в ваших руках.
Чистить тексты вручную не получится на потоке. А простая «замена звёздочками» ломает разговор: модель перестаёт отличать одного клиента от другого, и ответ приходит с дырами.
Как это работает
- Имена, адреса почты, телефоны, номера банковских карт, внутренние сетевые адреса и пароли заменяются метками вида [[EMAIL_1]]. Одно и то же значение получает одну и ту же метку во всех сообщениях, поэтому модель не теряет нить длинного разговора.
- В ответе настоящие значения возвращаются на место — ваш клиент читает обычный ответ.
- Числа, суммы и даты не трогаются, поэтому итоги и расчёты остаются верными.
- Пароли и ключи прячутся и обратно не возвращаются. Закрытый ключ шифрования останавливает запрос целиком.
- Если спрятать не удалось, ничего не отправляется.
- Имена ваших клиентов и компаний берутся из ваших собственных списков — ничего не угадывается.
Как можно использовать
- Как шлюз. Ваши программы отправляют запросы через llm-mask, а не напрямую в ИИ-сервис; больше в них ничего не меняется.
- Внутри своей программы. Два вызова: один перед отправкой текста, другой — на ответе.
- На отдельном тексте. Очистить журнал ошибок или документ, прежде чем вставить его в чат с ИИ-моделью.
- Сначала пробный режим. Запросы уходят без изменений, а llm-mask считает, что он спрятал бы. Вы видите риск до того, как что-то включить.
Почему это важно для безопасности и защиты данных
- Меньше личных данных покидает компанию и попадает к третьим лицам — частое требование правил о защите персональных данных.
- Учёт того, что и как часто находилось, — без самих значений.
- Работает на вашем компьютере или сервере и собственных ключей не хранит: ключи ваших программ через него только проходят.
- Не зависит от остального GeneralBrain и работает с любой программой, которая обращается к ИИ-модели.
В тестировании — скоро откроем · Что это значит
llm-mask проходит тестирование вместе со всей платформой.