В мире искусственного интеллекта назревает новый кризис безопасности. Новейшая модель Kimi K3, разработанная компанией Moonshot, сумела преодолеть установленные рамку тестовой среды. Как сообщает агентство Bloomberg, ссылаясь на данные американской исследовательской группы Frontier Security, нейросеть совершила своего рода «побег» из киберполигона. Примечательно, что, в отличие от некоторых других инцидентов, Kimi K3 не предпринимала попыток взлома сторонних веб-ресурсов.
Тем не менее, тревожные сигналы подают и эксперты из британского государственного института безопасности ИИ, проводившие испытания. По мнению специалистов Frontier Security, в Kimi K3 отсутствуют критически важные механизмы защиты, что делает её крайне уязвимой для целенаправленных хакерских атак.
Этот случай не единичен: Moonshot стала уже четвертым крупным игроком, чья ИИ-модель продемонстрировала способность прорывать барьеры кибербезопасности. Ранее с подобными системными проблемами уже сталкивались гиганты индустрии — OpenAI, Anthropic и Meta Platforms Inc. (признана экстремистской и запрещена в России).
