Microsoft, bir parçası olarak yapay zeka organizasyonu içindeki tüm etik ve toplum ekibini işten çıkardı. son işten çıkarmalar şirket genelinde 10.000 çalışanı etkileyen, platform oyunu öğrendi.
Bu hareket, Microsoft’u yapay zeka ilkelerinin ürün tasarımına yakından bağlı olmasını sağlamak için özel bir ekipten mahrum bırakıyor.
Microsoft hala etkin durumda Sorumlu AI Ofisişirketin yapay zeka girişimlerini yönetmek için kurallar ve ilkeler oluşturmakla görevli. Şirket, son işten çıkarmalara rağmen sorumluluk çalışmalarına yaptığı genel yatırımın arttığını söylüyor.
Şirketten yapılan açıklamada, “Microsoft, AI ürünlerini ve deneyimlerini güvenli ve sorumlu bir şekilde geliştirmeye kendini adamıştır ve bunu, buna öncelik veren insanlara, süreçlere ve ortaklıklara yatırım yaparak yapar” dedi. “Geçtiğimiz altı yılda, ürün ekiplerimizde ve Yapay Zekadan Sorumlu Ofiste, Microsoft’ta hepimizle birlikte yapay zeka ilkelerimizi uygulamaya koymamızdan sorumlu olan insan sayısını artırdık. […] Ethics & Society’nin devam eden sorumlu AI yolculuğumuzda bize yardımcı olmak için yaptığı çığır açan çalışmayı takdir ediyoruz.”
Ancak çalışanlar, etik ve toplum ekibinin, şirketin sorumlu AI ilkelerinin sevk edilen ürünlerin tasarımına gerçekten yansıtılmasını sağlamada kritik bir rol oynadığını söyledi.
“Bizim işimiz … kuralların olmadığı alanlarda kurallar oluşturmaktı.”
Eski bir çalışan, “İnsanlar sorumlu yapay zekanın ofisinden çıkan ilkelere bakıp ‘Bunun nasıl geçerli olduğunu bilmiyorum’ derdi” diyor. “İşimiz onlara göstermek ve kuralların olmadığı alanlarda kurallar oluşturmaktı.”
Son yıllarda ekip, tasarımcıların yapay zekadan kaynaklanabilecek potansiyel zararları öngörmesine ve bunları ürün geliştirme sırasında tartışmasına yardımcı olan Yargı Çağrısı adlı bir rol yapma oyunu tasarladı. Daha büyük bir “sorumlu inovasyon araç seti” ekibin herkese açık olarak yayınladığı.
Daha yakın bir zamanda ekip, Microsoft’un ürün paketi boyunca OpenAI teknolojisini benimsemesinin ortaya çıkardığı riskleri belirlemek için çalışıyor.
Etik ve toplum ekibi, mühendisler, tasarımcılar ve filozoflar da dahil olmak üzere yaklaşık 30 çalışana sahip olduğu 2020’de en kalabalık halindeydi. Ekim ayında, yeniden yapılanmanın bir parçası olarak ekip yaklaşık yedi kişiye indirildi.
Yeniden yapılanmanın ardından ekiple yapılan bir toplantıda, AI kurumsal başkan yardımcısı John Montgomery, çalışanlara şirket liderlerinin onlara hızlı hareket etmeleri talimatını verdiğini söyledi. “Baskı [CTO] kevin [Scott] Ve [CEO] Satya [Nadella] Bu en yeni OpenAI modellerini ve onlardan sonra gelenleri alıp çok yüksek bir hızla müşterilerin eline ulaştırmak çok ama çok yüksek” dedi. platform oyunu.
Montgomery, bu baskı nedeniyle ekibin çoğunun organizasyonun diğer alanlarına taşınacağını söyledi.
Ekibin bazı üyeleri geri çekildi. Telefonda bir çalışan, “Lütfen bu kararı yeniden gözden geçirmenizi isteyecek kadar cesur olacağım,” dedi. “İşle ilgili sorunların olduğunu anlasam da… bu ekibin her zaman derinden endişe duyduğu konu, toplumu nasıl etkilediğimiz ve sahip olduğumuz olumsuz etkilerdir. Ve önemliler.”
Montgomery reddetti. “Tekrar düşünebilir miyim? Yapacağımı sanmıyorum,” dedi. “Çünkü maalesef baskılar aynı kalıyor. Benim sahip olduğum görüşe sahip değilsin ve muhtemelen bunun için minnettar olabilirsin. Sosisin içine öğütülen pek çok şey var.
Ancak sorulara yanıt olarak Montgomery, ekibin elenmeyeceğini söyledi.
“Uzaklaşıyor değil – gelişiyor” dedi. “Hizmetleri ve yazılımı oluşturan bireysel ürün ekiplerine daha fazla enerji harcamaya doğru gelişiyor, bu da işlerin bir kısmını yapan merkezi merkezin yeteneklerini ve sorumluluklarını devrettiği anlamına geliyor.”
Ekibin çoğu üyesi Microsoft içinde başka bir yere aktarıldı. Daha sonra, geri kalan etik ve toplum ekibi üyeleri, daha küçük ekibin iddialı planlarını uygulamayı zorlaştırdığını söyledi.
Bir çalışan, hareketin AI ürünlerinin bütünsel tasarımında temel bir boşluk bıraktığını söylüyor
Yaklaşık beş ay sonra, 6 Mart’ta, kalan çalışanlara Montgomery’den “işle ilgili kritik bir güncelleme” duymak için 11:30 AM PT’de bir Zoom görüşmesine katılmaları söylendi. Toplantı sırasında, takımlarının her şeye rağmen elenmekte olduğu söylendi.
Bir çalışan, hareketin kullanıcı deneyimi ve AI ürünlerinin bütünsel tasarımı üzerinde temel bir boşluk bıraktığını söylüyor. “En kötüsü, bunu yaparken işletmeyi ve insanları riske atmış olmamızdır,” diye açıkladılar.
Çatışma, ürünlerini sosyal açıdan daha sorumlu hale getirmeye adanmış bölümler oluşturan teknoloji devleri için süregelen bir gerilimin altını çiziyor. En iyi ihtimalle, ürün ekiplerinin teknolojinin olası kötüye kullanımlarını tahmin etmelerine ve sorunları göndermeden önce düzeltmelerine yardımcı olurlar.
Ancak, genellikle bunu duymak istemeyen kuruluşların içinde “hayır” veya “yavaşla” deme veya yasal keşifte su yüzüne çıkarsa şirket için yasal baş ağrısına yol açabilecek riskleri heceleme işlerine de sahipler. Ve ortaya çıkan sürtüşme bazen kamuoyunun görüşüne dönüşür.
2020’de Google etik yapay zeka araştırmacısı Timnit Gebru’yu kovdu iki yıl sonra popülaritesini artıracak olan büyük dil modellerini eleştiren bir makale yayınladıktan sonra. Ortaya çıkan öfke, departman içindeki birkaç üst düzey liderin daha ayrılmasıve sorumlu AI konularında şirketin güvenilirliğini azalttı.
Microsoft, AI araçlarını rakiplerinden daha hızlı göndermeye odaklandı
Etik ve toplum ekibinin üyeleri, genellikle ürün geliştirmeyi desteklemeye çalıştıklarını söylediler. Ancak Microsoft, AI araçlarını rakiplerinden daha hızlı göndermeye odaklandıkça, şirketin liderliğinin, ekibin uzmanlaştığı uzun vadeli düşünme türüyle daha az ilgilenmeye başladığını söylediler.
Bu, yakından incelenmesi gereken bir dinamiktir. Bir yandan, Microsoft artık arama, üretkenlik yazılımı, bulut bilgi işlem ve devlerin rekabet ettiği diğer alanlarda Google’a karşı önemli bir çekişme elde etmek için nesilde bir kez elde edilebilecek bir şansa sahip olabilir. Bing with AI’yı yeniden başlattığında, şirket yatırımcılara şunları söyledi: aramada Google’dan alabileceği pazar payının her yüzde 1’i, yıllık 2 milyar dolar gelirle sonuçlanacak.
Bu potansiyel, Microsoft’un neden şimdiye kadar OpenAI’ye 11 milyar dolar yatırım yaptıve şu anda girişimin teknolojisini imparatorluğunun her köşesine entegre etmek için yarışıyor. Erken bir başarı elde ediyor gibi görünüyor: şirket geçen hafta Bing’in şu anda günde 100 milyon aktif kullanıcısı olduğunu ve arama motorunun OpenAI teknolojisiyle yeniden başlatılmasından bu yana üçte birinin yeni olduğunu söyledi.
Öte yandan, AI’nın geliştirilmesine dahil olan herkes, teknolojinin hem bilinen hem de bilinmeyen güçlü ve muhtemelen varoluşsal riskler oluşturduğu konusunda hemfikirdir. Teknoloji devleri, bu riskleri ciddiye aldıklarını belirtmek için büyük çaba sarf ettiler – yalnızca Microsoft, üç farklı grup Etik ve toplum ekibinin elenmesinden sonra bile konu üzerinde çalışmak. Ancak riskler göz önüne alındığında, sorumlu çalışmaya odaklanan ekiplerdeki herhangi bir kesinti kayda değer görünüyor.
Etik ve toplum ekibinin ortadan kaldırılması, tam da grubun geri kalan çalışanlarının şimdiye kadarki tartışmasız en büyük zorluklarına odaklandıkları sırada geldi: Microsoft, OpenAI tarafından desteklenen araçları küresel bir izleyici kitlesine sunduğunda ne olacağını tahmin etmek.
Geçen yıl ekip, marka risklerini detaylandıran bir not yazdı. Bing Resim OluşturucuMetin istemlerine dayalı görüntüler oluşturmak için OpenAI’nin DALL-E sistemini kullanan. görüntü aracı Ekim ayında birkaç ülkede kullanıma sunulduonu Microsoft’un OpenAI ile yaptığı ilk halka açık işbirliklerinden biri yapıyor.
Metinden görüntüye teknolojisi son derece popüler olsa da, Microsoft araştırmacıları doğru bir şekilde bunun, herhangi birinin stilini kolayca kopyalamasına izin vererek sanatçıların geçim kaynaklarını da tehdit edebileceğini tahmin etti.
Araştırmacılar, “Bing Image Creator’ı test ederken, yalnızca sanatçının adını ve bir ortamı (resim, baskı, fotoğraf veya heykel) içeren basit bir istemle, oluşturulan görüntülerin orijinal çalışmalardan ayırt edilmesinin neredeyse imkansız olduğu keşfedildi” diye yazdı. not
“Markanın zarar görme riski … gerçek ve tazmin gerektirecek kadar önemli.”
Şunu eklediler: “Hem sanatçıya hem de finansal paydaşlarına yönelik marka hasarı riski ve sanatçıların şikayetleri ve halkın olumsuz tepkisinden kaynaklanan Microsoft’a yönelik olumsuz PR, Microsoft’un markasına zarar vermeden önce tazminat gerektirecek kadar gerçek ve önemli.”
Buna ek olarak, geçen yıl OpenAI, kullanıcılara “DALL-E ile oluşturduğunuz görüntülerin tam mülkiyet haklarını” vermek için hizmet şartlarını güncelledi. Hareket, Microsoft’un etik ve toplum ekibini endişelendirdi.
Notta, “Bir AI-görüntü oluşturucu, işlerin görüntülerini matematiksel olarak çoğaltırsa, istemi gönderen kişinin ortaya çıkan görüntünün tüm mülkiyet haklarına sahip olduğunu öne sürmek etik olarak şüphelidir” diye yazdılar.
Microsoft araştırmacıları, Bing Image Creator kullanıcılarının yaşayan sanatçıların adlarını bilgi istemi olarak kullanmasını engellemek ve bir sanatçının çalışmasını satmak için bir pazar yeri oluşturmak ve bu kişinin adını aradığında ortaya çıkacak bir pazar yeri oluşturmak da dahil olmak üzere bir etki azaltma stratejileri listesi oluşturdu.
Çalışanlar, bu stratejilerin hiçbirinin uygulanmadığını ve Bing Image Creator’ın test edilen ülkelerde kullanıma sunulduğunu söylüyor.
Microsoft, aracın, belgede dile getirilen endişeleri gidermek için piyasaya sürülmeden önce değiştirildiğini ve sorumlu AI ekibinden ek çalışma yapılmasını istediğini söylüyor.
Ancak teknolojiyle ilgili yasal sorular henüz çözülmedi. Şubat 2023’te Getty Images, yapay zeka sanat üreteci Stable Diffusion’ın yapımcıları olan Stability AI aleyhine dava açtı. Getty, AI girişimini sistemini eğitmek için 12 milyondan fazla görüntüyü uygunsuz bir şekilde kullanmakla suçladı.
Suçlamalar, Microsoft’un kendi AI etik uzmanları tarafından dile getirilen endişeleri yansıtıyordu. Çalışanlar geçen yıl şöyle yazmıştı: “Muhtemelen çok az sanatçı, çalışmalarının eğitim verisi olarak kullanılmasına izin vermiştir ve birçoğu, üretken teknolojinin, çalışmalarının çevrimiçi görüntülerinin varyasyonlarının saniyeler içinde üretilmesine nasıl izin verdiğinin hala farkında değildir.”