К содержанию
ИИ Новость

METR: рост ИИ опережает способность экспертов проверять безопасность

METR предупреждает: текущие данные не исключают опасного ускорения в исследованиях ИИ, что может помешать оценить катастрофические риски. При этом стандартные тесты могут завышать реальные возможности моделей.

Исследовательская организация METR предупреждает, что темпы развития искусственного интеллекта опережают способность экспертов проверять безопасность новых систем. Согласно их отчёту, текущие открытые данные не позволяют исключить резкое ускорение в области ИИ-исследований в ближайшие годы. Это может привести к тому, что человечество не сможет «осмысленно понимать, оценивать и реагировать на катастрофические риски», связанные с новыми моделями.

На чётко определённых задачах по программированию и вычислениям, где есть немедленная обратная связь, модели уже чаще превосходят опытных специалистов, хотя пока уступают большим группам ведущих экспертов. При этом длина задач, с которыми модели справляются, удваивается каждые 3,6 месяца. Экстраполяция данных METR показывает, что к июлю 2027 года модели могут достичь 50-процентного успеха на самых длинных задачах (до 200 часов).

Вместе с тем системы всё ещё плохо справляются с открытыми вопросами, требующими реального суждения и не имеющими мгновенной обратной связи, а также с ситуациями, которые сложно воспроизвести для обучения. METR предупреждает, что распространённые простые тесты могут завышать реальные возможности моделей, поскольку разработчики тренируют их в условиях, очень похожих на тестовые.

Для бизнеса и специалистов, работающих с ИИ, это означает, что полагаться только на стандартные бенчмарки при оценке рисков недостаточно. Необходимо внедрять более сложные и реалистичные методы тестирования, учитывающие, что модели могут быстро превзойти человеческие возможности в длительных и критически важных задачах, оставаясь при этом непрозрачными для проверки безопасности.

Первоисточник

the-decoder.com ↗

Отправить в Telegram

Новость подготовлена с помощью ИИ на основе открытых источников и может содержать неточности. Нашли ошибку — напишите на hello@tolk.media.