Gemini заподозрили в утечке данных из закрытых Google-документов

Разработчик Klub Kofta сообщил на Reddit о том, что поисковая нейросеть Google Gemini предоставила пользователю данные из его приватного документа. По словам разработчика, пользователь интересовался игрой Operation Octo, над которой он работает, и получил информацию о контенте, который еще не был представлен, включая название нового персонажа. Эти данные были доступны только в закрытом Google-документе. Об этом пишет Togliatti24.

Klub Kofta отметил, что информация не находилась в игровых файлах, социальных сетях или других открытых источниках. Запросы к Google делал не сам разработчик, а пользователь без доступа к документу, который использовал режим инкогнито.

Другой разработчик в комментариях сообщил, что провел аналогичный тест, задавая вопросы нейросети Google о своей игре. Модель смогла назвать факты из закрытого документа, к которому имел доступ только он. При этом Claude от Antropic не смог воспроизвести результаты нейросети Google.

В официальной документации Google указано, что Gemini может искать информацию в Gmail, документах и облачном хранилище, но пользователь должен явно разрешить это. Также компания утверждает, что не использует пользовательские данные для обучения моделей.