Австралия вводит обязательные правила безопасности для frontier-моделей ИИ

Правительство Австралии во главе с премьер-министром Энтони Альбанезе объявило о законопроекте, который впервые в стране вводит обязательные правила безопасности для frontier-моделей ИИ (наиболее мощных и рискованных систем искусственного интеллекта). Мера является частью повестки «AI in Australia’s Interests» и направлена на компании, работающие на территории страны.

Новый надзорный орган будет действовать совместно с Австралийским институтом безопасности ИИ (Australian AI Safety Institute). Он сможет проводить независимые аудиты, требовать от разработчиков публикации их фреймворков безопасности, вести непрерывные проверки и немедленно сообщать правительству об инцидентах. Последнее требование, по заявлению властей, призвано выявлять ранние признаки сбоев в работе ИИ-агентов (автономных программ, выполняющих задачи без постоянного контроля). За нарушения предусмотрены высокие штрафы.

Премьер-министр, вице-премьер Ричард Марлз, а также министры Тони Берк и Тим Эйрс подчеркнули, что правительство вводит внутренние защитные барьеры до начала международных переговоров. Цель — защитить граждан и национальные интересы, одновременно создав доверие и регуляторную стабильность, которые привлекут инвестиции и позволят ИИ приносить пользу экономике и здравоохранению. Подробности будут опубликованы после завершения консультаций.

Для бизнеса, работающего с ИИ в Австралии, это означает, что разработчики frontier-моделей теперь обязаны открыть свои системы для внешнего аудита и оперативно отчитываться об инцидентах. Компаниям стоит заранее подготовить внутренние процедуры безопасности и аудита, чтобы избежать высоких штрафов и соответствовать новым требованиям, которые вступят в силу после завершения консультаций.