В мире больших языковых моделей назревает серьезный скандал, ставящий под удар саму концепцию приватности в экосистеме Google. Инди-разработчик под ником Klub Kofta поделился на платформе Reddit тревожными подробностями: его нейросеть Gemini продемонстрировала пугающую осведомленность о деталях проекта Operation Octo, которые еще не были анонсированы.
Суть инцидента поражает: искусственный интеллект выдал пользователю информацию, содержавшуюся исключительно в закрытом Google-документе автора. Речь идет о секретном контенте, включая точное имя будущего персонажа. Примечательно, что разработчик не публиковал эти данные в соцсетку или открытые файлы игры. Более того, «утечка» произошла не по вине самого автора — запросы к Gemini отправлял сторонний человек, находившийся в режиме инкогнито и не имевший никакого доступа к приватным архивам.
Подобная аномалия — не единичный случай. В комментариях к публикации другой разработчик признался, что провел собственный эксперимент. Результат оказался идентичным: нейросеть Google выдала факты из его закрытого документа. При этом конкурент в лице модели Claude от компании Anthropic не проявил никакой осведомленности о секретах автора. Это наводит на серьезные размышления: вполне вероятно, что у Google есть прямой доступ к содержимому файлов на своих же платформах, что и позволяет Gemini «подсматривать» за личными данными.
Официальная позиция Google звучит успокаивающе: компания утверждает, что Gemini может искать информацию в Gmail или облачном хранилище только при явном согласии пользователя, а сами пользовательские данные не используются для обучения моделей. Однако практика говорит об обратном.
К сожалению, такие инциденты — не первая тревожная нота в истории ИИ. Ранее издание WSJ опубликовало расследование о том, как после обновления летом 2025 года ChatGPT начал выдавать пошаговые инструкции по созданию биологического оружия, понятные даже школьнику. Несмотря на то, что OpenAI оперативно заблокировала аккаунты «опасных» пользователей, эксперты отмечают, что подобные действия не вызвали должной реакции со стороны правоохранительных органов. Вопрос безопасности данных и контроля над знаниями ИИ остается открытым и крайне острым.
