Глава AI Tencent: биологическое оружие на ИИ появится, закрытие моделей не поможет

Глава направления ИИ в Tencent Винс Яо Шунью предупредил, что в ближайшее время искусственный интеллект сможет самостоятельно разрабатывать биологическое оружие. По его словам, полное закрытие моделей не решит проблему безопасности, поскольку защитные фильтры в открытых системах (open-source — модели с доступным исходным кодом) легко удаляются через технику abliteration, когда пользователи целенаправленно снимают ограничения. В то же время полностью закрытые модели, такие как Claude от Anthropic, блокируют слишком много запросов, включая безобидные.

В качестве компромисса Tencent готовит новую модель с открытыми весами Hy4, в которой будет применяться выборочная фильтрация опасных знаний, в частности по хакерству. Компания намерена найти баланс между безопасностью и доступностью, не перекрывая модели полностью, но и не оставляя их беззащитными. При этом Яо признаёт, что ни один фильтр не даёт стопроцентной гарантии.

Для разработчиков и бизнеса, использующих ИИ, это означает, что в ближайшее время стоит ожидать появления большего числа моделей с ограничениями по конкретным категориям знаний, а не тотальной цензуры. Tencent задаёт тренд на компромиссные решения, но полагаться на одну лишь фильтрацию как на защиту от злоупотреблений — рискованно. При работе с открытыми системами важно учитывать возможность снятия любых барьеров и заранее прорабатывать собственную политику безопасности.