Daha geniş teknoloji sektörünün AI’ya yönelik daha geniş baskısının bir parçası olarak, istesek de istemesek de, Kevin Bankster’ın aşağıda Twitter’da yer alan bir raporuna göre, Google’ın Gemini AI hizmetinin artık özel Drive belgelerini açık kullanıcı izni olmadan okuduğu anlaşılıyor. Bankster, özellikle kendisi gibi kullanıcılar için bunun neden aksak olabileceğini tartışmaya devam ederken, hassas, özel bilgileri üzerinde verilen tam kontrol eksikliği Google’ın statüsündeki bir şirket için kabul edilemezdir ve AI’nın sıklıkla zorunlu olarak kullanıma sunulması sırasında gelecekteki gizlilik endişeleri için iyiye işaret değildir.
Az önce @Google Docs’ta vergi beyanımı açtım ve Gemini, davetsizce özetledi. Yani… Gemini, Google Docs’ta açtığım özel belgeleri bile otomatik olarak mı alıyor? WTF, çocuklar. Bunu ben istemedim. Şimdi bu saçmalığı kapatmak için bana hiç söylenmeyen yeni ayarlar bulmam gerekiyor.10 Temmuz 2024
Peki, burada tam olarak neler oluyor? Hem Google desteği hem de Gemini AI’nın kendisi tam olarak bilmiyor gibi görünüyor, ancak Kevin Bankston, tam ileti dizisinde çok daha fazla ayrıntı sağladıktan sonra bazı teorilere sahip. İlk gönderinin aksine, bu teknik olarak Google Drive’ın daha geniş şemsiyesi altında gerçekleşiyor ve özellikle Google Dokümanlar’da gerçekleşmiyor, ancak sorunun Dokümanlar için de geçerli olma olasılığı yüksek görünüyor.
Peki bu soruna ne sebep oldu? Google’ın Gemini AI’sına göre, Gemini’yi bilgilendirmek için kullanılan gizlilik ayarları açıkça erişilebilir olmalı, ancak değiller, bu da AI’nın ya “halüsinasyon gördüğü (yalan söylediği)” ya da Google sunucularındaki bazı dahili sistemlerin tamamen arızalı olduğu anlamına geliyor. Her iki durumda da, bu özel verilerin Gemini AI’yı eğitmek için kullanılmadığı varsayılsa bile, harika bir görüntü değil.
Dahası, Bankston sonunda söz konusu ayarlar geçişini buldu… ancak Gemini özetlerinin Gmail, Drive ve Docs’ta zaten devre dışı olduğunu gördü. Ayrıca, Gemini’nin botunun başlangıçta işaret ettiği web sayfalarından tamamen farklı bir yerdeydi.
Bankston için sorun Google Drive’a özgü görünüyor ve yalnızca en az bir belgede Gemini düğmesine basıldıktan sonra gerçekleşiyor. Eşleşen belge türü (bu durumda PDF) daha sonra Google Drive’da açılan aynı türdeki tüm gelecekteki dosyalar için otomatik olarak Google Gemini’yi tetikleyecek. Ayrıca, bunun 2023’te Google Workspace Labs’ı etkinleştirmesinden kaynaklanmış olabileceğini ve bunun amaçlanan Gemini AI ayarlarını geçersiz kılabileceğini düşünüyor.
Bu sorun Google Workspace Labs kullanıcılarıyla sınırlı olsa bile, Google’ın en son ve en iyi teknolojisini test etmesine yardımcı olması nedeniyle oldukça ciddi bir dezavantajdır. Kullanıcı onayı, özellikle potansiyel olarak hassas bilgiler söz konusu olduğunda, ayrıntılı bir temelde hala önemlidir ve Google, bu ilkeye sadık kalmayarak kullanıcı tabanının en azından bir bölümünü tamamen başarısızlığa uğratmıştır.