Глава MIRI: вероятность гибели человечества от ИИ за 10 лет
Более 50% — Нейт Соарес из MIRI оценил риск вымирания человечества из-за ИИ в ближайшее десятилетие выше 50%. Это резко контрастирует с оценками Хинтона и главы стресс-тестов Anthropic (около 10%). Новость меняет рамку публичных дебатов о безопасности ИИ и усиливает аргументы для регуляторов.
Глава Института исследований машинного интеллекта (MIRI) Нейт Соарес заявил, что вероятность гибели человечества по вине искусственного интеллекта в ближайшие десять лет превышает 50%. MIRI — некоммерческая организация, которая изучает долгосрочные риски, связанные с созданием сильного ИИ.
Эта оценка резко контрастирует с цифрами, которые ранее называли Эван Хьюбингер, глава группы стресс-тестирования ИИ в Anthropic, и Джеффри Хинтон, известный как «крёстный отец ИИ». Они оценивали вероятность гибели всего человечества от ИИ в том же временном промежутке примерно в 10%.
Заявление главы MIRI заметно смещает рамку публичных дебатов о безопасности искусственного интеллекта. Если раньше даже 10% считались тревожным сценарием, то оценка выше 50% усиливает аргументы тех, кто призывает регуляторов к более жёстким ограничениям и обязательным проверкам ИИ-систем.
Для бизнеса и специалистов, работающих с ИИ, это практический сигнал: риск нельзя списывать со счетов как маргинальный. Даже при несогласии с оценкой компаниям стоит заранее закладывать в процессы безопасности сценарии сбоев и отказов, а также учитывать требования регуляторов, которые могут ужесточиться быстрее ожиданий.
Первоисточник
Новость подготовлена с помощью ИИ на основе открытых источников и может содержать неточности. Нашли ошибку — напишите на hello@tolk.media.