İnsanlar teknoloji şirketinizin dünyayı mahvettiğinden şikayet etmeye başladığında, Rob Leathern gibi birini işe alırsınız. Eskiden Facebook olarak bilinen şirket olan Meta’ya tıpkı onun gibi katıldı. Cambridge Analytica skandalı, halkı Facebook’un demokrasi için varoluşsal bir tehdit olduğuna ikna etti. 2020 seçimleri ve koronavirüs sırasında Leathern, pandemik salgının ardından, Facebook’un reklamcılık sistemindeki mahremiyet, yanlış bilgi ve diğer sorunları ele alma çabalarına öncülük etti. Seçimden hemen sonra Google, Leathern’ı gizlilik ve güvenlikle ilgili ürünlerden sorumlu başkan yardımcısı olarak atayarak onu kaçırdı – tıpkı düzenleyicilerin arama devi üzerindeki incelemeyi artırmak için yıllarca süren bir çabaya girişmesi gibi.
Şimdi, Google’da iki yılın ardından Leathern çıktı. Cuma gününün şirketteki son günü olduğunu tweetledi. Leathern, Gizmodo ile telefonda konuşmayı kabul etti ve Google’dan neden ayrıldığını veya bundan sonra nereye gideceğini açıklamasa da, bir konu hakkında söyleyecek çok şeyi vardı: bu günlerde, büyük teknolojideki büyük sorunların halka açık yüzü hakkında konuşmak istiyor yapay zeka.
Leathern’in arka plan ona verir olması gerekenler hakkında olağandışı içgörü dünya aklını aşağıdaki gibi araçlara sardığında gerçekleşir ChatGPT ve işletmelerin nasıl OpenAI katlanarak büyümek.
2010’ların başlarında, Silikon Vadisi’ndeki körü körüne iyimserlik ve hızlı para, teknoloji devlerini eleştirmenlerden korudu. Şimdi işler farklı. Yapay zeka sohbet robotları halkın dikkatini çeker çekmez, teknolojinin hepimizi yok edip etmeyeceği hakkında konuşmaya başladık. Yakın gelecekte OpenAI, Google ve Microsoft gibi şirketlerin “endişelerinizi duyuyoruz ama merak etmeyin, her şeyi kontrolümüz altındayız” demelerine olanak tanıyan programları hızlandırmaları gerekiyor. Leathern bu tür operasyonların nasıl yürütüleceğini biliyor.
G/O Media komisyon alabilir
Bu röportaj netlik için hafifçe düzenlendi.
Thomas Germain: Kariyerinizin son birkaç yılına baktığınızda, teknoloji dünyasındaki en büyük toplumsal sorunlardan bazılarını ele alan şirketten şirkete atlayan biri oldunuz. AI ile yaşadığımız anı nasıl görüyorsunuz?
Rob Leathern: Evet. 2017’de dürüstlükle ilgili şeyler üzerinde çalışmak için Facebook’a katıldım ve bu bana o zamanlar içinde bulunduğumuz durumu hatırlattı. Yapay zeka, 2015 veya 2016’da sosyal medyanın yaptığı gibi hissediyor, büyük sorunları çözmek için bir grup sistem oluşturma fırsatı vardı, ancak henüz kimse bunu yapmıyordu. Bence aynı tür bir dönüm noktasındayız, ama daha da hızlı ilerliyoruz. Demek istediğim, bu araçların doğaları gereği içlerinde çok daha fazla geri bildirim döngüsü var. Değişimin hızı çılgınca, bu yüzden bu şeyleri düşünmek için doğru zaman.
TG: Yapay zeka konusunda teknik bir uzman olmadığınızı biliyorum, ancak içeriden bir teknoloji uzmanı olarak, Rubicon’u tam olarak ne kadar geride bıraktığımız konusunda herhangi bir fikriniz var mı?
RL: Sanırım bu soruyu benden daha iyi cevaplayacak durumda olan insanlar var ama şunu söyleyebilirim ki, iki taraftaki insanlar için de baskı oluşturan inanılmaz bir ivme var ve hızlı hareket etme dürtüsü beni endişelendiriyor. Şirketler üzerinde ilerleme kaydetmeye devam etmeleri, bir sonraki modeli nasıl eğiteceklerini bulmaları veya bir sonraki kilometre taşına ulaşmaları için çok fazla baskı var.
Sonra, son altı yılda mahremiyet üzerine yaptığım çalışmalardan gördüğüm şey, madalyonun diğer tarafında da bir baskı olduğu. Düzenleyiciler de birbirleriyle rekabet ediyor ve herkes bu ilerlemeleri geri püskürtüyormuş gibi görünmek istiyor. Başka bir deyişle, normalde olduğundan daha hızlı ve daha az dikkatli hareket etmek için her yönde birbiriyle yarışan teşvikler vardır. Aynı zamanda, bazı şirketler de bazı şeyleri isteyebileceklerinden daha fazla geri tutma baskısı yaşıyor.
TG: Doğru, orada gerçek bir gerilim var. OpenAI, lideri olduğunu kanıtlamak için olabildiğince hızlı hareket etme güdüsüne sahiptir. Google ve Microsoft gibi daha eski oyuncular ayak uydurduklarını gösterdiler, ancak dikkatli ve metodik hareket ettikleri görülmek konusunda daha fazla sorumlulukları var.
RL: Evet, bu dinamiklerin ortaya çıkışını izlemek gerçekten ilginç olacak. Daha büyük şirketler daha fazla inceleme altındadır, bu nedenle daha yavaş hareket etmeleri ve yerinde kontrol ve dengeleri olması gerekir. Bazı durumlarda bu, yetenekli insanların hüsrana uğramasına ve ayrılmak istemesine yol açacaktır. Gerçekten, gizlilik ve güvenlik gibi konularda yaşadıkları geçmiş zorlukların ve bundan kaynaklanan düzenlemelerin yayılma etkisi. Bunun çeviklikleri üzerinde büyük etkisi vardır.
TG: Yapay zeka üzerinde çalışan şirketler hızlı hareket etmeyi ve sorumlu hareket etmeyi nasıl dengeliyor?
RL: Teknik incelemeler yazan AI etik araştırmacılarının harika işler yaptıkları bu geçiş noktasındayız. Ama belki de artık güvenlik, dürüstlük ve güvenle ilgili daha fazla uygulamalı deneyime sahip insanlara geçiş yapmanın zamanı gelmiştir. Bu birçok farklı alana dokunacak. API ekosistemindeki geliştiricilerin kimliklerini izlemek kadar küçük görünen şeyler olabilir. [the systems that let outside companies access a tech company’s products]. Örneğin, Facebook’taki Cambridge Analytica sayısından çıkan bir şey buydu. Bu insanları yerleştirmeye başlamanız gerekiyor ve benim tahminim, bu büyük teknoloji şirketlerinin çoğunda yapay zeka söz konusu olduğunda henüz tam olarak orada değiller.
TG: Yapay zeka etrafındaki sohbete baktığımızda, bu konuşmayı on yıl önce sosyal medya ile yaptığımızdan çok daha erken bir süreçte yapıyormuşuz gibi görünüyor. Bu, bazı dersler aldığımız için mi, yoksa teknoloji çok hızlı ilerlediği için mi?
RL: Bence her ikisinden de biraz var ve bu sadece hız değil, aynı zamanda bu sistemlerin erişilebilirliği. Bu kadar çok insanın MidJourney veya ChatGPT ile oynamış olması, insanlara teknolojinin hem olumlu hem de olumsuz yönlerinin neler olabileceği konusunda bir fikir veriyor.
Geçmişten de bazı dersler aldığımızı düşünüyorum. ve çeşitli şirketlerin bu endişeleri gidermek için mekanizmalar oluşturduğunu gördük. Mühendisler, ürün yöneticileri, tasarımcılar ve veri bilimcilerden oluşan bir nesil, ister mahremiyet olsun, ister içerik yönetimi, yanlış bilgilendirme ya da neyiniz olsun, sosyal ağlar bağlamında bu toplumsal sorunlar üzerinde çalışıyor.
TG: Bu sorunların birçoğunda olduğu gibi, yapay zeka hakkındaki endişelerin tümü olmasa da bazıları belirsiz ve varsayımsaldır. Endişelendiğin büyük şeyler neler?
RL: Herkes büyük değişikliklere o kadar odaklanmış durumda ki, ancak mikro ölçekte olacak bazı şeylere bakmanın ilginç olduğunu düşünüyorum. Sorunların alıştığımızdan çok daha incelikli olacağını düşünüyorum. Derin sahtelerin diğer tarafını alın. ChatGPT’den veya görüntü oluşturuculardan su pazarlama içeriği hakkında bir şeyler duyduk, ancak çektiğiniz bir fotoğrafın gerçek bir fotoğraf olduğunu nasıl kanıtlayacaksınız? Resimleri konum ve bir tür kişisel tanımlayıcı ile etiketlemek bir çözümdür, ancak o zaman gizlilik sorunlarına yol açabilecek bu yeni sinyalleri yaratıyorsunuz.
Belirgin olmayan başka bir endişe de, herkesin bu araçların ücretsiz sürümlerini kullanabilmesi, ancak ücretli ve daha güçlü sürümlere daha az erişilebilir olmasıdır. Yapay zeka, eşitlik açısından potansiyel olarak sorunlu olabilir ve varlıklı insanların avantaj elde etmesi için başka bir yol yaratabilir. Bu, bireyler için olduğu kadar müşteri tarafındaki işletmeler için de geçerli olacaktır. Bu teknoloji, sahip olanlar ve olmayanları daha da ayıracak.
TG: Bu teknolojinin doğası göz önüne alındığında, düzenleyicilerin bu konuda neler yapabileceğini hayal etmek bile zor. Örneğin Amerika Birleşik Devletleri’ndeki iş dostu hükümet bu teknolojiyi yasaklamak üzere değil. Çok mu geç?
RL: Pekala, hükümetlerin yerine getirebileceğini düşünebileceğiniz gereksinimler var. Örneğin, x sayıdan fazla GPU kullanıyorsanız veya doğru metrik ne ise, teknolojinizi kaydettirmeniz gerekebilir. Ama yine de lisanssız teknolojilerini bir bodrum katında çalıştıran insanlar olacak ve hangi planı yaparsak yapalım yabancı hükümetler umursamayacak. Bence diş macunu bir dereceye kadar tüpten çıktı ve onu oraya geri koymak zor olacak.
TG: On yılın büyük bir bölümünde mahremiyet hakkında haber yapıyorum. Bu alanda, düzenleyiciler ve kanun koyucular dijital ekonomiyi ilk kez gerçekten kavrayan geçen yıl gibi geliyor. AI, kafalarınızı sarmak için daha da büyük bir sorundur. Bu alanı düzenleyebilme konusunda umutlu musunuz? Beklentiler oldukça berbat hissettiriyor.
RL: Çok zorlu bir süreçten geçiyoruz. Sanırım, birbiriyle iyi çalışmayan diğer şeylerden kopyalanıp yapıştırılan bir yamalı düzenlemelerle son bulacağız. Ancak insanlar bu durumun gerçeklerine daha çok uyum sağlıyor. Doğru cevabın, işleri yavaşlatmamız gerektiğine dair boş bir açıklama yapmak olduğunu düşünmüyorum, çünkü yine Çin gibi daha az iyi niyetli aktörler ilerleyecek.
Gizlilik ve güvenlik üzerinde çalışmaktan çıkan ilginç bir ders, ilk günlerde, boşlukların ne kadar kötü olduğunu gören ve her şeyi kapatma tarafına düşen insanlara sahip olmanızdır. Ancak bu rollerde etkili olmak için, hem aşağı yönlü riski hem de yukarı yönlü potansiyeli takdir etmeniz gerekir. İyimser bir kötümser olman gerektiğini söylerdim. Zararları azaltırken iyi şeylerin yeşermesine gerçekten izin verebilecek kurallar, politikalar ve uygulamalar yaratma fırsatı var.
TG: Bu oldukça endüstri dostu bir bakış açısı, ama haklısın. Hükümetimiz OpenAI’yi kapatmak üzere değil. Tek umut, sistem içinde çalışan bir çözümdür.
RL: Sağ. ‘Hepsini kapat’ yaklaşımını benimserseniz, diğer şeylerin yanı sıra, bu gerçekleşmeyecek. Düşman insanlara ihtiyacınız var, ancak portföyünüzde iyimserlere de ihtiyacınız var. Ve bak, doğru olan bir diğer şey de gerçekten zor, değil mi? Çünkü daha önce var olmayan şeyler yaratıyorsunuz. ‘Belirli bir aracı nasıl özel yapabilirim?’ Ve Facebook adına konuşurken söylediğim gibi, kötü adamların ne kadar yenilikçi olabileceğine gerçekten şaşırırdın. Olay incelemeleri de yapıyorlar. Bilgi ve verileri paylaşırlar. İnanılmaz derecede düşmanca bir alan olacak.
TG: İzin verirseniz size tamamen farklı bir konu hakkında soru sormak istiyorum, o da TikTok. Raporlarımda söylediğim şey, pek çok endişenin abartıldığı ve TikTok veya ByteDance’in yasaklanmasıyla ilgili tartışmaların, reklam teknolojisinin ne kadar sızdıran olduğu göz önüne alındığında yararsız bir egzersiz gibi göründüğü. Ama teknoloji işinin içinden bir bakış açısına sahipsin. Yanlış mıyım?
RL: Benim bu konudaki duygularımla senin görüşün örtüşüyor. Bakın, bu kuruluşların mülkiyeti ve yapısı hakkında sorular sormak önemlidir. Ancak, yasaklama fikrinin bazılarının sandığı kadar fayda sağlamayacağına katılıyorum. TikTok gibi şirketlerin sahiplik ve kontrol, insanların verilerinin nereye gittiği ve gözetim ve kontrollerin ne olduğu hakkında daha iyi bir hikayeye ve daha iyi bir gerçekliğe sahip olması gerekiyor. Ancak yasaklamak doğru bir çözüm gibi gelmiyor.
TG: Öte yandan, TikTok’un tüm verileri ABD’deki sunucularda barındırmayı planladıkları bu “Teksas Projesi” hakkında söylendiğini duyuyorsunuz. Ve elbette, bu iyi bir fikir, sen de yapabilirsin. Ancak bir sunucunun fiziksel konumundan sanki bu kimseyi rahatlatmalıymış gibi bahsetmek saçma görünüyor. Bu sana anlamlı geliyor mu?
RL: Bu sistemler karmaşıktır ve hepsi X sunucusunda mı yoksa Y sunucusunda mı olduğunu söylemek önemli değil. Daha fazla güven verici olan, ek gözetimdir, ancak yine de, bu şeyleri kurmak da oldukça zordur. İnsanlar bu konuda ulaşılması zor bir kesinlik düzeyi arıyorlar. Aslında, elde ettiğimiz herhangi bir kesinlik halüsinasyon olabilir.
Yapay zeka, sohbet robotları ve makine öğreniminin geleceği hakkında daha fazla bilgi edinmek ister misiniz? Kapsamımızın tamamına göz atın yapay zekaveya kılavuzlarımıza göz atın En İyi Ücretsiz AI Sanat Üreticileri Ve OpenAI ChatGPT Hakkında Bildiğimiz Her Şey.