Claude Enterprise получил проверку промптов до отправки модели

Дата публикации:

2

Anthropic добавила в Claude Enterprise механизм Inference Hooks. Он позволяет проверить промпт, контекст и ответы подключённых инструментов на корпоративном сервере до того, как информация будет передана языковой модели.

Использование корпоративной языковой модели создаёт новый канал передачи данных. Сотрудник может случайно вставить в промпт персональные сведения, исходный код, финансовый документ или другую информацию, которую запрещено отправлять внешнему сервису.

Inference Hooks добавляет управляемую организацией точку проверки непосредственно перед обращением к Claude.

Как работает проверка

Каждый запрос направляется через подписанное соединение WebSocket к серверу безопасности компании. Вместе с запросом передаются промпт и окружающий его контекст.

Корпоративный сервер анализирует содержимое и возвращает один из двух результатов: разрешить или заблокировать. Claude начинает обработку только после получения решения.

Аналогичная проверка применяется к данным, возвращаемым внешними инструментами. Когда Claude получает результат через MCP-коннектор, навык или плагин, содержимое сначала проходит через DLP-систему и только потом передаётся модели.

Ранее подобная встроенная проверка была доступна преимущественно через клиентские хуки Claude Code. Новый механизм распространяет единые правила сразу на корпоративный чат, Claude Code, Claude Cowork и другие интерфейсы Claude Enterprise.

Inference Hooks использует открытый протокол на основе вебхуков с опубликованной схемой. Организация может подключить собственный сервер или существующую платформу предотвращения утечек данных.

Для постепенного внедрения предусмотрен теневой режим, при котором запросы анализируются, но не блокируются. Администратор также может настроить исключения для ролей, включить функцию только для части пользователей и определить поведение системы при недоступности проверяющего сервера.

Email не публикуется и используется только для уведомлений. Ссылки в комментариях запрещены. Комментарий появится после проверки модератором.

Комментарии (0)

Связанные публикации