OpenAI представила два новых механизма защиты в ChatGPT – режим Lockdown Mode и маркировка функций с повышенным риском Elevated Risk. Обновления направлены на противодействие атакам типа prompt injection, когда посторонние лица пытаются заставить ИИ выполнять вредоносные инструкции или раскрыть конфиденциальные данные.
Lockdown Mode – это дополнительный, опциональный режим безопасности для пользователей с повышенными требованиями к защите, в частности руководителей компаний и команд кибербезопасности. В этом режиме ChatGPT жестко ограничивает взаимодействие с внешними системами, чтобы минимизировать риск утечки данных через prompt injection.
Читайте такжеTeams, Slack, Telegram и другие: какие мессенджеры выбирает украинский IT-бизнес и почему
В Lockdown Mode веб-просмотр ограничивается работой с кэшированными страницами без выхода во внешнюю сеть, а отдельные инструменты могут быть полностью отключены. Режим доступен в планах Enterprise, Edu, Healthcare и Teachers.
Администраторы включают его через настройки рабочего пространства, создавая отдельную роль с дополнительными ограничениями и определяя, какие приложения и действия разрешены. Контроль обеспечивает также Compliance API Logs Platform. Впоследствии режим планируют открыть и для обычных пользователей.
OpenAI ввела единую отметку Elevated Risk для функций с дополнительными рисками, в том числе сетевых. Она появится в ChatGPT, ChatGPT Atlas и Codex с объяснением возможных угроз.
Недавно OpenAI представила платформу Frontier для создания "ИИ-коллег" и управления ими. Также компания анонсировала Prism – новое приложение для ученых с GPT-5.2.
