Безопасность ИИ: доступы, риски и правила
Нужна, когда бот или агент начинает работать с настоящими данными и программами. Проверяем, можно ли обманом заставить ИИ выдать данные или сделать лишнее, нет ли у него избыточных прав и что будет при ошибке программы. Затем настраиваем ограничения и правила, чтобы запуск прошёл спокойно.
- С чего начинаем
- до запуска на рабочих данных
- Срок
- 2-4 недели
- Что входит
- встреча по рискам
Когда это нужно
Кому чаще всего полезно: IT и безопасность, юристы, руководители, отвечающие за ИИ, компании перед запуском.
- ИИ получает доступ к внутренним данным и программам
- непонятно, что агенту можно делать самому
- есть риск утечки данных или обмана через запрос
- правила запуска нужно согласовать с IT, безопасностью и бизнесом
Что вы получите
Карта рисков, таблица прав, результаты проверок на атаки и правила запуска.
- доступ ИИ ограничен задачей
- опасные действия проходят через подтверждение
- риски находят до запуска, а не после инцидента
- у команды есть понятные правила работы с ИИ
Карта рисков
карта рисков для вашей задачиПрава и действия
таблица прав и опасных действийПроверка на атаки
набор проверок: попытки обмануть ИИПравила работы
правила эксплуатации и журнал аудита
Как мы работаем
Сначала разбираемся в задаче, потом делаем пробную версию на ваших примерах. О полной разработке решаете, когда увидите результат.
Описываем риски
Данные, программы, роли и как ими можно злоупотребить.
Проверяем на атаки
Пробуем обмануть ИИ через запрос, вытащить данные или заставить сделать лишнее.
Настраиваем ограничения
Права, лимиты, подтверждения и журнал аудита.
Фиксируем правила
Как эксплуатировать систему и что проверять перед каждым обновлением.
Что понадобится и как это устроено
Что понадобится от вас
описание задачи ИИ, данные, роли, программы, права доступа, критичные действия
Как избегаем ошибок
- минимально нужные права
- проверка на вредные инструкции
- подтверждение опасных действий
- берём только нужные данные
- план действий при инциденте
С чем работает
- единый вход (SSO)
- управление доступами
- SIEM
- DLP
- хранилище журналов
Вопросы по услуге
Это нужно до или после первой версии?
Базовые ограничения нужны уже в пробной версии. Полный набор правил особенно важен перед доступом к рабочим данным и действиям.
Вы делаете юридический комплаенс?
Мы отвечаем за техническую часть: данные, роли, журналы, угрозы, порядок действий. Юридические требования лучше согласовывать с профильными юристами.
Что значит «у ИИ слишком много свободы»?
Это когда ИИ может делать больше, чем нужно задаче. Мы ограничиваем программы, права и лимиты и добавляем подтверждения.
Обсудим вашу задачу?
Пришлите несколько примеров документов, обращений или видео — подскажем, с чего начать. Если ИИ здесь не нужен, скажем прямо.