Otter AI ile ilgili bir olay hassas bilgilerin yönetimi ve korunmasıyla ilgili kritik soruları gündeme getiriyor. Araştırmacı ve mühendis Alex Bilzerian yakın zamanda bu konuları mükemmel bir şekilde gösteren bir durumla karşı karşıya kaldı.
Otter AI: Söz konusu otomatik transkripsiyon
Alex Bilzerian, risk sermayedarlarıyla yapılan bir Zoom toplantısını kaydetmek için popüler bir otomatik transkripsiyon aracı olan Otter AI’yi kullandı. Toplantıdan ayrıldıktan sonra yalnızca toplantı tutanaklarını değil aynı zamanda çalışma saatlerini de içeren bir e-posta aldı. yatırımcılar arasında özel görüşmeler. Bu tartışmalar, şirketleriyle ilgili gizli ayrıntıları içeriyordu ve bu da Bilzerian’ın, hassas bilgilerin korunamaması korkusuyla kendileriyle olan tüm anlaşmalarından vazgeçmesine neden oldu.
Bu dava izole değildir. Aslında diğer kullanıcılar da, yanlış ayarlar veya aracın yeteneklerinin tam olarak anlaşılmaması nedeniyle hassas bilgilerin kazara paylaşıldığı benzer olayları bildirmiştir. Otter AI gibi araçlar istemeden de olsa şirket sırlarını ifşa etmek veya hassas tartışmalar, dolayısıyla yasal işlem veya büyük güven ihlalleri riskini artırır.
Teknolojik gelişmenin hızı: kontrol ve anlayış için bir zorluk
Bilzerian’ın vakası, yapay zeka teknolojilerinde giderek büyüyen bir sorunun altını çiziyor: Yapay zeka teknolojileri bizim onları kontrol etme veya tam olarak anlama yeteneğimizden daha hızlı gelişiyor. Bu araçları kullanan herkes teknoloji uzmanı değildir. Bu nedenle şirketlerin bu araçları geniş ölçekte benimsemeden önce bu araçların parametrelerini ve sonuçlarını anlayıp bunlara hakim olmaları çok önemlidir.
Toplantı bittikten sonra bile katılımcılara otomatik olarak kayıt ve transkript gönderme yeteneği de dahil olmak üzere Otter AI gibi sanal asistanların yaygın uygulamaları, veri gizliliği ve güvenliği açısından önemli zorluklar teşkil ediyor. Bu endişelere yanıt olarak Otter AI, kullanıcıların bir paylaşım ayarları üzerinde tam kontrol bu paylaşımları dilediği zaman değiştirebilir, güncelleyebilir veya durdurabilir.
Üretkenliği artırmaya yönelik gelecek vaat eden ancak kusurlu araçlar
Bu sorunlara rağmen yapay zeka tabanlı sanal asistanların sunduğu özellikler, üretkenliklerini artırmak isteyen birçok işletmenin ilgisini çekiyor. Salesforce yakın zamanda satış ve müşteri hizmetlerine yardımcı olacak sanal temsilciler oluşturmaya yönelik bir yapay zeka teklifi olan Agentforce’u piyasaya sürdü. Slack, konuşmaları özetlemek, konuları aramak ve günlük özetler oluşturmak için yapay zeka işlevlerini entegre ediyor.
Ancak bu teknolojilerin benimsenmesi beraberinde parametrelerinin iyi anlaşılması ve bunların istenmeyen otomatik davranışlardan kaçınmaya yönelik sonuçları. Örneğin, “otomatik yazıya dönüştürme” özelliği, katılımcılar toplantıdan ayrıldıktan sonra bile çalışmaya devam edebilir ve bu da potansiyel bir gizlilik ihlaline yol açabilir.
Yapay zekanın işyerinde sağlayabileceği değerli yardıma rağmen, bu araçların doğru ve etik kullanımını sağlamak için esas olan insan becerileridir. Her ne kadar teknoloji hızla gelişse de, talihsiz olayların önlenmesi için insanların teknolojinin kullanımını etkili bir şekilde denetleyebilmesi ve düzenleyebilmesi gerekiyor.