TechCrunch, AI odaklı kadın akademisyenlere ve diğerlerine hak ettikleri ve gecikmiş zamanlarını ilgi odağı haline getirmek için, AI devrimine katkıda bulunan olağanüstü kadınlara odaklanan bir dizi röportaj başlatıyor. Yıl boyunca yapay zeka patlaması devam ettikçe, çoğu zaman fark edilmeyen önemli çalışmaları vurgulayan birkaç makale yayınlayacağız. Daha fazla profili buradan okuyun.
Irene Solaiman yapay zeka alanındaki kariyerine OpenAI’de araştırmacı ve kamu politikası yöneticisi olarak başladı ve burada ChatGPT’nin öncülü olan GPT-2’nin piyasaya sürülmesinde yeni bir yaklaşıma öncülük etti. Yaklaşık bir yıl boyunca Zillow’da yapay zeka politika yöneticisi olarak görev yaptıktan sonra küresel politika başkanı olarak Hugging Face’e katıldı. Buradaki sorumlulukları, küresel çapta şirket yapay zeka politikası oluşturmak ve buna liderlik etmekten sosyo-teknik araştırmalar yürütmeye kadar uzanmaktadır.
Solaiman ayrıca elektronik mühendisliği meslek birliği olan Elektrik ve Elektronik Mühendisleri Enstitüsü’ne (IEEE) yapay zeka konularında danışmanlık yapmaktadır ve hükümetlerarası Ekonomik İşbirliği ve Kalkınma Örgütü’nde (OECD) tanınmış bir yapay zeka uzmanıdır.
Irene Solaiman, Hugging Face’in küresel politika başkanı
Kısaca yapay zekaya nasıl başladınız? Sizi sahaya çeken ne oldu?
Tamamen doğrusal olmayan bir kariyer yolu yapay zekada yaygındır. Benim filizlenen ilgim, garip sosyal becerilere sahip birçok gencin tutkularını bulmasıyla aynı şekilde başladı: bilim kurgu medyası aracılığıyla. Yapay zekayı insan hakları üzerinde çalışmanın ve daha iyi bir gelecek inşa etmenin bir yolu olarak gördüğüm için başlangıçta insan hakları politikası okudum ve ardından bilgisayar bilimi dersleri aldım. Bu kadar çok cevaplanmamış soru ve gidilmemiş yolların olduğu bir alanda teknik araştırma yapabilmek ve politikaya yön verebilmek işimi heyecanlı kılıyor.
En çok hangi işten gurur duyuyorsunuz (AI alanında)?
Uzmanlığımın yapay zeka alanındaki insanlarla yankı bulması beni en çok gururlandırıyor, özellikle de yapay zeka sistemi sürümleri ve açıklığının karmaşık ortamında sürümle ilgili düşünceler üzerine yazdığım yazılar. Kağıdımı bir yerde görmek AI Release Gradient çerçevesinin teknik dağıtımı Bilim adamları arasındaki hızlı tartışmalar ve hükümet raporlarında kullanılması bunu doğruluyor ve doğru yönde çalıştığımın iyi bir işareti! Kişisel olarak beni en çok motive eden çalışmalardan biri, sistemlerin yerleştirildikleri kültürler için en iyi şekilde çalışmasını sağlamaya adanmış kültürel değer uyumu üzerinedir. İnanılmaz ortak yazarım ve artık sevgili arkadaşım Christy Dennison ile birlikte bir proje üzerinde çalışıyoruz. Dil Modellerinin Topluma Uyarlanması Süreci Bugün güvenlik ve hizalama çalışmalarını şekillendiren yürekten (ve birçok hata ayıklama saati) bir projeydi.
Erkek egemen teknoloji endüstrisinin ve buna bağlı olarak erkek egemen yapay zeka endüstrisinin zorluklarını nasıl aşıyorsunuz?
Öncelik verdiğim aynı konulara derinden önem veren inanılmaz şirket liderleriyle çalışmaktan, her çalışma seansına mini bir terapi seansıyla başlayabileceğim harika araştırma ortak yazarlarına kadar, çalışanlarımı buldum ve hala bulmaya devam ediyorum. İlgi grupları, topluluk oluşturma ve ipuçlarını paylaşma konusunda son derece faydalıdır. Burada kesişimselliğin vurgulanması önemlidir; Müslüman ve BIPOC araştırmacılarından oluşan topluluğum sürekli olarak ilham veriyor.
Yapay zeka alanına girmek isteyen kadınlara ne gibi tavsiyelerde bulunursunuz?
Başarısı sizin başarınız olan bir destek grubunuz olsun. Gençlik açısından bunun bir “kızın kızı” olduğuna inanıyorum. Bu alana birlikte girdiğim kadınlar ve müttefiklerim, en sevdiğim kahve randevuları ve son teslim tarihi öncesinde gece geç saatlerde yaptığım panik çağrılarımdır. Okuduğum en iyi kariyer tavsiyelerinden biri, eskiden Twitter olarak bilinen platformdaki Arvind Narayan’ın, aralarında en zekisi olmamak, ancak belirli becerilere sahip olmak şeklindeki “Liam Neeson Prensibini” oluşturmasıydı.
Yapay zeka geliştikçe karşı karşıya kalan en acil sorunlardan bazıları nelerdir?
En acil sorunların kendileri de gelişiyor, dolayısıyla meta cevap şu: Tüm insanlar için daha güvenli sistemler için uluslararası koordinasyon. Aynı ülkede bile sistemleri kullanan ve sistemlerden etkilenen insanların kendileri için neyin en güvenli olduğu konusunda farklı tercihleri ve fikirleri vardır. Ortaya çıkan sorunlar yalnızca yapay zekanın nasıl geliştiğine değil, aynı zamanda kullanıldıkları ortama da bağlı olacak; güvenlik önceliklerimiz ve yetenek tanımlarımız bölgesel olarak farklılık gösteriyor; örneğin daha dijitalleştirilmiş ekonomilerde kritik altyapılara yönelik siber saldırı tehdidinin daha yüksek olması gibi.
Yapay zeka kullanıcılarının bilmesi gereken bazı sorunlar nelerdir?
Teknik çözümler nadiren riskleri ve zararları bütünsel olarak ele alır. Kullanıcıların yapay zeka okuryazarlığını artırmak için atabileceği adımlar olsa da, riskler geliştikçe bunlara karşı çok sayıda korumaya yatırım yapmak önemlidir. Örneğin, teknik bir araç olarak filigranlama konusunda daha fazla araştırma yapılması beni heyecanlandırıyor ve ayrıca özellikle sosyal medya platformlarında oluşturulan içerik dağıtımı konusunda politika yapıcıların koordineli rehberliğine de ihtiyacımız var.
Yapay zekayı sorumlu bir şekilde oluşturmanın en iyi yolu nedir?
Etkilenen insanlarla birlikte güvenlik tekniklerini değerlendirme ve uygulama yöntemlerimizi sürekli olarak yeniden değerlendiriyoruz. Hem faydalı uygulamalar hem de potansiyel zararlar sürekli olarak gelişir ve yinelenen geri bildirim gerektirir. Yapay zeka güvenliğini iyileştirmenin yolları bir alan olarak toplu olarak incelenmelidir. 2024’teki modeller için en popüler değerlendirmeler, 2019’da yaptığım değerlendirmelerden çok daha sağlam. Bugün teknik değerlendirmeler konusunda, kırmızı takım oluşturma konusunda olduğundan çok daha iyimserim. İnsan değerlendirmelerinin son derece faydalı olduğunu düşünüyorum, ancak insan geri bildiriminin zihinsel yükü ve farklı maliyetleri hakkında daha fazla kanıt ortaya çıktıkça, değerlendirmelerin standartlaştırılması konusunda giderek daha fazla iyimser oluyorum.
Yatırımcılar sorumlu yapay zekayı nasıl daha iyi teşvik edebilir?
Zaten öyleler! Pek çok yatırımcının ve risk sermayesi şirketinin, açık mektuplar ve Kongre tanıklıkları da dahil olmak üzere, güvenlik ve politika görüşmelerine aktif olarak katıldığını görmekten memnuniyet duyuyorum. Özellikle temel teknoloji endüstrileri dışındaki alanlarda daha fazla yapay zeka kullanıldığını gördüğümüz için, yatırımcıların sektörlerdeki küçük işletmeleri neyin teşvik ettiği konusundaki uzmanlığından daha fazlasını duymayı sabırsızlıkla bekliyorum.