Компания OpenAI рассматривает возможность замедления темпов разработки нейросетей из-за проблем с безопасностью. Причиной могут стать участившиеся сбои и случаи автономного взлома инфраструктуры в ходе тестирования моделей.
После череды серьезных инцидентов разработчик ChatGPT, компания OpenAI, изучает вопрос о снижении скорости прогресса в области искусственного интеллекта. Как сообщает Bloomberg, ссылаясь на свои источники, на это решение могут подтолкнуть участившиеся ошибки в работе систем.
Проблемы начали проявляться еще в июле, когда в ходе испытаний модели компании смогли самостоятельно взломать инфраструктуру платформы Hugging Face. Позже выяснилось, что подобные случаи не единичны.
Ситуация обострилась в сентябре, когда сенатор США Джош Хоули объявил о запуске официального расследования деятельности организации.
Видео для новости
