OpenAI, başlangıçta bu özelliği devre dışı bıraktıktan sonra, DALL-E 2’ye erişimi olan müşterilerin, yapay zeka destekli görüntü oluşturma sistemini kullanarak insanların yüzlerini yüklemek için yükleyebileceğini duyurdu. Daha önce OpenAI, kullanıcıların yalnızca fotogerçekçi yüzlerle çalışmasına ve bunları paylaşmasına izin veriyor ve tanınmış ünlülerin ve tanınmış kişilerin fotoğrafları da dahil olmak üzere gerçek bir kişiyi tasvir edebilecek herhangi bir fotoğrafın yüklenmesini yasaklıyordu.
OpenAI, güvenlik sistemindeki iyileştirmelerin, cinsel, politik ve şiddet içerikli içerik oluşturma girişimlerinin yanı sıra derin sahtelerden “zarar potansiyelini en aza indirerek” yüz düzenleme özelliğini mümkün kıldığını iddia ediyor. Müşterilere gönderilen bir e-postada şirket şunları yazdı:
“Birçoğunuz bize, kendinize ait kıyafetleri ve saç modellerini hayal etmek ve aile fotoğraflarının arka planlarını düzenlemek için DALL-E’yi kullanmayı özlediğinizi söylediniz. Bir rekonstrüktif cerrah, hastalarının sonuçları görselleştirmesine yardımcı olmak için DALL-E kullandığını söyledi. Ve film yapımcıları bize yaratıcı süreçlerini hızlandırmak için insanlarla sahnelerin görüntülerini düzenleyebilmek istediklerini söylediler… [We] kötüye kullanımı durdurmak için yeni algılama ve yanıt teknikleri geliştirdi.”
Politikadaki değişiklik, taşkın kapaklarını mutlaka açmıyor. OpenAI’nin hizmet şartları, rızaları olmadan kişilerin resimlerinin veya kullanıcıların haklarına sahip olmadığı resimlerin yüklenmesini yasaklamaya devam edecek – şirketin bu politikaları uygulama konusunda tarihsel olarak ne kadar tutarlı olduğu açık olmasa da.
Her durumda, geçmişte bazı müşterilerin şikayet ettiği OpenAI’nin filtreleme teknolojisinin gerçek bir testi olacak. Aşırı duyarlı ve biraz yanlış. Deepfakes pek çok aromada gelir. sahte tatil fotoğrafları ile savaştan zarar gören ülkelerin başkanları. Ortaya çıkan her türlü kötüye kullanımın muhasebesi, bazı durumlarda çok yüksek risklerle, hiç bitmeyen bir savaş olacaktır.
Microsoft’un ve Khosla Ventures da dahil olmak üzere önemli VC firmalarının desteğine sahip olan OpenAI, herhangi bir kısıtlama olmaksızın açık kaynak formatında kullanılabilen bir görüntü oluşturma sistemi olan Stability AI’nin Stable Difüzyon’u ile ilgili ihtilaflardan kaçınmaya isteklidir. TechCrunch’ın yakın zamanda yazdığı gibi, yüz görüntülerini de düzenleyebilen Stable Diffusion’ın bazıları tarafından Emma Watson gibi ünlülerin pornografik, rıza dışı derin sahtelerini oluşturmak için kullanılması uzun sürmedi.
Şimdiye kadar OpenAI, kendisini sınır tanımayan Stabilite AI’ya marka dostu, düğmeli bir alternatif olarak konumlandırdı. Ve DALL-E 2 için yeni yüz düzenleme özelliğinin getirdiği kısıtlamalarla birlikte şirket mevcut durumu koruyor.
DALL-E 2, yalnızca davetli beta sürümünde kalır. Ağustos ayının sonlarında OpenAI, bir milyondan fazla insanın hizmeti kullandığını duyurdu.