OpenAI разъясняет инциденты сторонних кибероценок и вводит новые меры безопасности

В последние недели в сообществе ИИ возникли вопросы о безопасности моделей OpenAI после публикации нескольких отчётов сторонних организаций, проводивших независимую кибероценку. В ответ компания выпустила официальное заявление, в котором подробно описала произошедшие инциденты, признала их серьёзность и представила план по предотвращению подобных ситуаций в будущем.

Что произошло

Согласно блогу OpenAI, инциденты были связаны с тем, как сторонние эксперты проводили тестирование моделей на проникновение и уязвимости. В некоторых случаях оценочные сценарии выходили за рамки согласованных протоколов, что приводило к непреднамеренному раскрытию потенциально опасных выводов модели. OpenAI заявляет, что ни один из инцидентов не привёл к реальной утечке данных или компрометации системы, но они выявили пробелы в существующих процедурах.

Почему это важно

Прозрачность в вопросах безопасности — ключевой фактор доверия к разработчикам ИИ. OpenAI признаёт, что сторонние оценки необходимы для объективного аудита, но должны проводиться строго по согласованным правилам. Инциденты подчёркивают, что даже крупнейшие компании могут сталкиваться с неожиданными рисками при взаимодействии с внешними исследователями. Меры, принятые OpenAI, могут стать новым стандартом для всей индустрии.

Что дальше

OpenAI внедряет многоуровневую систему проверки запросов на сторонние оценки, а также обязательные брифинги для исследователей перед началом работы. В перспективе компания планирует опубликовать обновлённый кодекс проведения внешних тестов безопасности, который будет открыт для общественного обсуждения. Это позволит сохранить баланс между открытостью и контролем, что критически важно для ответственного развития ИИ.