TechCrunch’ın yapay zeka odaklı kadın akademisyenlere ve diğerlerine hak ettikleri ve gecikmiş zamanlarını ön planda tutmayı amaçlayan Yapay Zekadaki Kadınlar serisinin bir parçası olarak TechCrunch, Veri Bilimi Başkan Yardımcısı Dr. Rebecca Portnoff ile röportaj yaptı. kar amacı gütmeyen kuruluş DikenÇocukları cinsel istismardan korumak için teknoloji geliştiren .
Berkeley’deki California Üniversitesi’nden bilgisayar bilimi alanında doktorasını almadan önce Princeton Üniversitesi’ne gitti. 2016’dan beri çalıştığı Thorn’da merdivenleri tırmanmaya çalışıyor. Gönüllü bir araştırma bilimcisi olarak işe başladı ve şimdi, sekiz yıl sonra, muhtemelen dünyada makine yapımına adanmış tek ekipten biri olan bir ekibe liderlik ediyor. Çocukları cinsel istismara karşı durdurmak, önlemek ve korumak için öğrenme ve yapay zeka.
TechCrunch’a şunları söyledi: “Princeton’daki son yılımda, mezun olduktan sonra ne yapacağımı düşünürken kız kardeşim, Nicholas Kristof ve Sheryl WuDunn’un beni çocuk cinsel istismarı konusuyla tanıştıran ‘Half the Sky’ kitabını okumamı önerdi.” , kitabın kendisine bu alanda nasıl bir fark yaratılabileceği konusunda ilham verdiğini söyledi. Özellikle bu alanda makine öğrenimi ve yapay zeka kullanımına odaklanan doktora tezini yazmaya devam etti.
Çocukları koruma misyonu
Thorn’da Portnoff’un ekibi mağdurların tespit edilmesine, yeniden mağduriyetlerin durdurulmasına ve cinsel istismar materyallerinin viral yayılmasının önlenmesine yardımcı oluyor. Geçtiğimiz yıl Thorn ve All Tech Is Human’ın ortak Tasarım Yoluyla Güvenlik girişimine liderlik etti; bu girişim, insanların üretken yapay zekayı çocuklara cinsel açıdan zarar vermek için kullanmasını engellemeye çalışıyor.
“Üretici modellerin kötüye kullanım materyali üretmesini önlemek, bu tür materyallerin daha güvenilir bir şekilde tespit edilmesini sağlamak ve bu kötüye kullanım materyalini üretmek için kullanılan modellerin, hizmetlerin ve uygulamaların dağıtımını önlemek için ilkeleri ve azaltımları işbirliği içinde tanımlamak muazzam bir artıştı. sektör liderlerini bu standartlara bağlı kalma konusunda bir araya getiriyoruz” diye hatırladı. Kendini bu amaca adamış birçok insanla tanıştığını söyledi, “ama aynı zamanda her şeyin başlangıcında olduğundan daha fazla gri saçlarım var.”
TechCrunch’ın daha önce bildirdiği gibi, yapay zekanın rıza dışı cinsel görüntüler oluşturmak için kullanılması, özellikle yapay zekalı porno nesilleri daha karmaşık hale geldikçe büyük bir tartışma haline geldi. Şu anda yok kapsamlı federal yasa Florida, Louisiana ve New Mexico gibi bireysel eyaletler, özellikle AI çocuk istismarını hedef alan kendi yasalarını çıkarsa da, diğer insanların rızaları olmadan oluşturulan cinsel üretken AI görüntülerini koruyan veya önleyen bir uygulama.
Aslında bunun, yapay zeka geliştikçe karşı karşıya kalan en acil sorunlardan biri olduğunu söyledi. “10 küçük çocuktan biri, akranlarının diğer çocukların çıplak görüntülerini oluşturduğu vakaları bildiğini bildirdi” dedi.
“Bu gerçeklikte yaşamak zorunda değiliz ve bunun bu noktaya gelmesine izin vermemiz kabul edilemez.” Ancak bu kötüye kullanımı önlemek ve azaltmak için uygulanabilecek hafifletmeler olduğunu söyledi. Örneğin Thorn, teknoloji şirketlerinin tasarım gereği güvenlik ilkelerini ve hafifletme önlemlerini benimsemelerini ve üretken yapay zeka teknolojilerinin ve ürünlerinin çocukların cinsel istismarını ilerletmek amacıyla kötüye kullanımını nasıl önlediklerini kamuya açık olarak paylaşmalarını, aşağıdaki gibi profesyonel kuruluşlarla işbirliği yapmalarını savunuyor: Elektrik ve Elektronik Mühendisleri Enstitüsü (IEEE) ve Ulusal Standartlar ve Teknoloji Enstitüsü (NIST), ilerlemeyi denetlemek için kullanılabilecek şirketler için standartlar belirlemeyi ve bunun ne kadar önemli olduğu konusunda onları bilgilendirmek için politika yapıcılarla iletişim kurmayı destekliyor.
“Tüm şirketleri ve paydaşları bir araya getirmek için etkiye dayalı mevzuat gerekli olacaktır” dedi.
Yapay zekada kadın olarak çalışmak
Portnoff, yapay zeka geliştirmede basamakları tırmanırken insanların onun tavsiyelerini göz ardı ettiğini, bunun yerine teknik geçmişi olan biriyle konuşmak istediklerini hatırlıyor. “Cevabım mı? ‘Merak etmeyin, teknik geçmişi olan biriyle konuşuyorsunuz” dedi.
Böyle erkek egemen bir alanda çalışırken kendisine yardımcı olan birkaç şeyin olduğunu söyledi: hazırlıklı olmak, özgüvenle hareket etmek ve iyi niyetli olmak. Hazırlıklı olmak onun odalara daha özgüvenli bir şekilde girmesine yardımcı olurken, özgüven onun zorlukların üstesinden merak ve cesaretle gelmesine olanak tanır ve “önce anlamaya, sonra anlaşılmaya çalışır” diye devam etti.
“İyi niyetin olduğunu varsaymak, zorluklara savunmadan ziyade nezaketle yaklaşmama yardımcı oluyor” dedi. “Eğer bu iyi niyet gerçekten orada değilse, eninde sonunda ortaya çıkacaktır.”
Yapay zekaya girmek isteyen kadınlara tavsiyesi her zaman yeteneğinize ve anlamınıza inanmanızdır. İnsanların sizin hakkınızda sahip olduğu varsayımların potansiyelinizi tanımlamasına izin verme tuzağına düşmenin kolay olduğunu, ancak mevcut yapay zeka devriminde herkesin sesine ihtiyaç duyulacağını söyledi.
“ML/AI insan sistemlerimize daha fazla entegre oldukça, bunun kolektif gelişimimizi artıracak ve aramızdaki en savunmasız kişilere öncelik verecek şekilde yapılmasını sağlamak için hepimizin birlikte çalışması gerekiyor.”
Etik yapay zeka oluşturma
Portnoff, sorumlu yapay zekanın şeffaflık, adalet, güvenilirlik ve güvenlik ihtiyacı da dahil olmak üzere birçok yönü olduğunu söyledi. “Fakat hepsinin ortak bir yanı var” diye devam etti. “ML/AI’yi sorumlu bir şekilde oluşturmak, yalnızca teknoloji uzmanı arkadaşlarınızdan daha fazla paydaşla etkileşim kurmayı gerektirir.”
Bu, daha aktif dinleme ve işbirliği anlamına gelir. “Sorumlu yapay zeka oluşturmak için bir yol haritası izliyorsanız ve bu süreçte kuruluşunuz veya mühendislik ekibiniz dışından hiç kimseyle konuşmadığınızı fark ederseniz, muhtemelen yanlış yöne gidiyorsunuz demektir.”
Yatırımcılar yapay zeka girişimlerine milyarlarca dolar akıtmaya devam ettikçe Portnoff, yatırımcıların durum tespit aşamasından itibaren sorumluluğa bakmaya başlayabileceklerini, bir yatırım yapmadan önce bir şirketin etik taahhütlerine bakabileceklerini ve ardından belirli standartların uygulanmasını gerektirebileceklerini öne sürdü. tanıştım. Bu, “zararı önleyebilir ve pozitif büyümeyi mümkün kılabilir.”
Genel olarak konuşarak, “Yapılması gereken çok iş var” dedi. “Ve bunu gerçekleştirecek kişi sen olabilirsin.”