Ne bilmek istiyorsun
- TIME, Sama adlı bir San Francisco şirketinin ChatGPT için bir güvenlik sistemi oluşturmaya nasıl yardımcı olduğunu ayrıntılarıyla anlattı.
- Kenya merkezli Sama çalışanlarının, kıdeme ve performansa bağlı olarak saatte yaklaşık 1,32 dolar ve 2 dolar kazandığı bildirildi.
- Sama daha sonra bilinmeyen bir OpenAI projesi için müstehcen görüntüleri etiketlemekle görevlendirildi, ancak daha sonra yasallık endişeleri ve OpenAI ile kopan bağlar nedeniyle sözleşmeden çekildi.
- Hikaye, gelişmekte olan yapay zeka devriminin ardındaki insan etkisini vurgulamaya devam ediyor.
Karmaşık bir hikayede zamandan, ChatGPT’nin arkasındaki şirket olan OpenAI ile Kenya’da Sama adlı kişileri istihdam eden San Francisco merkezli bir şirket olan Sana arasında çalışır. Sama, müstehcen içerik için resimlerdeki ve metinlerdeki içeriği etiketleme konusunda Google, Meta ve Microsoft dahil olmak üzere teknoloji endüstrisindeki en büyük şirketlerden bazılarıyla birlikte çalışıyor.
Microsoft şimdiden OpenAI’ye 1 milyar dolar yatırım yaptı ve 10 milyar dolar daha yolda. Microsoft, yapay zekayı her şeye dahil etmeyi planlıyor ve bildirildiğine göre Bing ile ChatGPT’den yararlanıyor.
Sama’nın merkezi San Fran’da, ancak bu iş Kenya’daki işçiler tarafından yapılıyor ve saatte yaklaşık 1,32 dolar ve 2 dolar kazanıyor. Ne yazık ki, ChatGPT’yi kullanıcılar için “güvenli” tutmak için OpenAI’nin onu internetten tamamı filtrelenmemiş çok miktarda veri beslemesi gerekiyor. Bu nedenle, tüm kötü şeyleri filtrelemek için insanları kullanmak yerine, OpenAI (ve Facebook’lu Meta gibi şirketler), bu içeriği veri havuzundan otomatik olarak kaldırmak için diğer AI araçlarını kullanır.
Ancak bu güvenlik araçlarını eğitmek için içeriği indeksleyecek ve etiketleyecek insanlara ihtiyaç vardır.
Gibi The Verge’den Facebook’ta 2019 hikayesiBu tür içeriklerin çalışanlar üzerindeki psikolojik etkisinin altını çizen Sama çalışanları da benzer bir akıbete uğradı:
“OpenAI için metin okumak ve etiketlemekle görevli bir Sama çalışanı, TIME’a, küçük bir çocuğun yanında bir köpekle seks yapan bir adamın grafik tasvirini okuduktan sonra tekrarlayan vizyonlardan muzdarip olduğunu söyledi. “Bu bir işkenceydi” dedi. “Bütün hafta boyunca bunun gibi bir dizi ifade okuyacaksınız. Cuma gününe gelindiğinde, o resmi düşünmekten rahatsız oluyorsunuz.” Çalışmanın travmatik doğası sonunda Sama’nın OpenAI için tüm çalışmalarını planlanandan sekiz ay önce, Şubat 2022’de iptal etmesine yol açtı.”
Sama ile genel sözleşme 200.000 dolardı ve bu sözleşme, “iş için Sama’ya saatlik 12,50 dolar ödeyecekti; bu, projedeki Sama çalışanlarının saatte eve götürdüğü miktarın altı ila dokuz katıydı.”
Daha sonra Sama, OpenAI için ChatGPT ile ilgisi olmayan yeni bir projeye pilotluk yapmaya başladı. Bununla birlikte, bu kez metin yerine, çocukların cinsel istismarı, hayvanlarla cinsel ilişki, tecavüz, cinsel kölelik ve ölüm ve şiddet gibi ABD yasalarına göre yasa dışı olanlar da dahil olmak üzere görüntülerdi. Yine çalışanlar, OpenAI sistemlerinin bu tür şeyleri filtreleyebilmesi için içeriği görüntüleyecek ve etiketleyecekti.
Ancak Sama, kısa süre sonra OpenAI ile tüm çalışmalarını iptal etti. Şirket, bunu içerik (ve yasal sorunlar) konusundaki endişeleri nedeniyle yaptığını söylüyor. Ancak çalışanlara, TIME’ın Kenyalı çalışanların moderatör olarak kullanıldığı Sama ve Facebook’a yönelik daha önceki soruşturmasının, şirketin aldığı kötü PR nedeniyle geri dönüşe yol açtığı söylendi.
Tabii ki, OpenAI için Sama resmin dışındayken, çalışma devam etmeli ve bunu başka kimin yaptığı belli değil.
Windows Central’ın Alımı
Sama hikayesi maalesef sıra dışı değil. Facebook’taki içerik moderatörü de birkaç yıl önce benzer şikayetlerle karşı karşıya kaldı ve moderatörler siteden kaldırmak için her gün korkunç görüntülere bakmak zorunda kaldı. Amaç, elbette insanları bu tür içeriğe maruz bırakmak ve bunun yerine yapay zeka ve makine öğrenimine (ML) sahip olmak değil, ancak bu sistemleri eğitmek için insanların verilerin ilk etiketlenmesinin bir parçası olması gerekiyor.
Diğer bir konu ise ücrete odaklanmaktır. 1,32 dolar, sanayileşmiş bir pazardaki herkes için korkunç olsa da, Kenya gibi gelişmekte olan ekonomilerdekiler için oldukça iyi, bir sekreterin veya okul öğretmeninin maaş düzeyine denk geliyor. TIME, Sama’nın OpenAI ile bağlarını koparmasına rağmen çalışanlarının nasıl işsiz kaldığını bile belirtiyor. Aynı makaleden:
“… metin etiketleme projelerinde çalışan bir Sama çalışanı söyledi. “Bunun bizim için ailelerimizi geçindirmenin bir yolu olduğunu söyledik.” Yaklaşık üç düzine işçinin çoğu, aylık 70 dolarlık müstehcen içerik ikramiyesi olmaksızın diğer daha düşük ücretli iş akışlarına taşındı; diğerleri işlerini kaybetti. Sama, son etiketli veri grubunu, sözleşmenin sona ermesinden sekiz ay önce, Mart ayında OpenAI’ye teslim etti.
Yani mesele iki tarafı da kesiyor. Bir yandan, hiçbir insan bu tür içerikleri günlük olarak görüntülemek zorunda kalmamalı (Sama, çalışanlara psikolojik kaynakların sunulduğunu iddia etse de); diğer yandan, bazı insanlar hiçbir şey yapmamaktansa o işi yapmayı tercih eder.
Daha da önemlisi, eğer AI bir geleceğe sahip olacaksa, tüm bunlara alternatifin ne olduğu net değil. Ne yazık ki, en azından başlangıçta, insanların bu eğitim sürecinin bir parçası olması gerekiyor. Yine de, bu bireyler (ve genel olarak toplum) üzerindeki etki ölçülemeyen bir şeydir. veya göz ardı edildi.