OpenAI, video oluşturma aracı Sora’yı Pazartesi günü başlattı. Ancak şirket, daha fazla test yapılmasını bekleyen çoğu kullanıcı için önemli bir özelliği yayınlamamayı tercih ediyor.
Söz konusu özellik, gerçek bir kişinin yüklenen bir fotoğrafını veya görüntüsünü referans olarak kullanarak bir video oluşturuyor. OpenAI, Sora kullanıcılarının bir “alt kümesine” erişim izni vereceğini, ancak “güvenlik yaklaşımına” ince ayar yapma şansı bulana kadar bu özelliği geniş çapta kullanıma sunmayacağını söylüyor.
OpenAI şöyle yazdı: “Gerçek bir kişinin yüklenmiş bir fotoğrafını veya videosunu ‘tohum’ olarak kullanarak bir video oluşturma yeteneği, potansiyel bir suiistimal vektörüdür ve erken kullanım modellerinden öğrenmeye yönelik özellikle artımlı bir yaklaşım benimsiyoruz.” blog yazısı. “Sanatçılardan gelen ilk geri bildirimler, bunun değer verdikleri güçlü bir yaratıcı araç olduğunu gösteriyor ancak kötüye kullanım potansiyeli göz önüne alındığında, bunu başlangıçta tüm kullanıcıların kullanımına sunmuyoruz.”
OpenAI Ayrıca kullanıcıların, gerçek kişilerin kliplerini veya resimlerini içeren oluşturulan videoları Sora’nın ana sayfa keşif akışında paylaşmasına izin vermez.
OpenAI teknik ekibinin bir üyesi ve Sora araştırma lideri Will Peebles, “OpenAI olarak büyük bir hedefimiz olduğu açık, bu nedenle Sora ile yasa dışı faaliyetleri önlemek istiyoruz, ancak bunu aynı zamanda yaratıcı ifadeyle dengelemek istiyoruz” dedi. , bugün erken saatlerde canlı yayın sunumu sırasında söyledi. “Bunu biliyoruz [this will be] Devam eden bir zorluk; ilk günde mükemmel olamayabiliriz. Biraz muhafazakar bir başlangıç yapıyoruz ve eğer moderasyonumuz tam olarak doğru sonuç vermezse, bize geri bildirimde bulunun.”
Üretken video güçlü bir araçtır ve deepfake ve yanlış bilgilerin önemli endişeler oluşturduğu tartışmalı bir araçtır. Binaen Kimlik doğrulama hizmeti Sumsub’dan alınan verilere göre, dünya çapında deepfake dolandırıcılığı 2022’den 2023’e 10 kattan fazla arttı.
OpenAI’nin kötüye kullanımı önlemek için attığını söylediği diğer adımların yanı sıra, Sora, oluşturulan bir videonun 18 yaşın altındaki birini tasvir edip etmediğini tespit etmek için bir filtreye sahip. Eğer öyleyse, OpenAI cinsel, şiddet içeren veya kişisel konularla ilgili denetim için “daha katı bir eşik” uyguluyor – Şirket, içeriğe zarar verdiğini iddia ediyor.
Sora tarafından oluşturulan tüm videolar, kökenlerini gösteren meta veriler içerir; özellikle C2PA teknik standardına uygun meta veriler. Meta veriler kaldırılabilir, kabul edilebilir. Ancak OpenAI bunu, C2PA’yı destekleyen platformların bir videonun Sora’dan kaynaklanıp kaynaklanmadığını hızlı bir şekilde tespit etmesinin bir yolu olarak sunuyor.
Telif hakkı şikayetlerini savuşturmak amacıyla OpenAI ayrıca Sora’nın yaşayan bir yaratıcının tarzında videolar üretmesini önlemek için “hızlı yeniden yazma” yöntemini kullandığını da söylüyor.
Şirket, “Kullanıcı yaşayan bir sanatçının tarzında bir video oluşturmaya çalıştığında tetiklenecek şekilde tasarlanmış hızlı yeniden yazma işlemleri ekledik” diye yazdı. “Sora’nın yaratıcı topluluk tarafından nasıl kullanıldığı hakkında daha fazla şey öğrendikçe, Sora’nın bu versiyonunda muhafazakar bir yaklaşım benimsemeyi tercih ettik… Yaratıcılıkta, diğer sanatçıların tarzlarından yola çıkarak oluşturulan çok uzun bir gelenek var, ancak bazı yaratıcıların bunu takdir ediyoruz. endişeleri olabilir.”
Bir dizi sanatçı, OpenAI’nin de aralarında bulunduğu AI şirketlerine, içeriklerini kendi benzersiz tarzlarında yeniden canlandıran AI araçları oluşturmak için izinsiz olarak çalışmaları üzerinde eğitim verdikleri iddiasıyla dava açtı. Şirketler, adil kullanım doktrininin kendilerini telif hakkı ihlali iddialarından koruduğunu ve yapay zeka modellerinin aslında yeniden ortaya çıkmadığını iddia etti.
Sora’nın ilk ön izlemesini alan video blog yazarı Marcus Brownlee’ye göre sistem, bir metin isteminden veya görselden çok sayıda video klip varyasyonu oluşturabiliyor ve bir Yeniden Karıştırma aracı aracılığıyla mevcut videoları düzenleyebiliyor. Storyboard arayüzü kullanıcıların video dizileri oluşturmasına olanak tanır; Karışım aracı iki videoyu alır ve her ikisinin de öğelerini koruyan yeni bir video oluşturur; Döngü ve Yeniden Kesme seçenekleri, içerik oluşturucuların videolarında ve sahnelerinde daha fazla ince ayar yapmasına ve düzenlemesine olanak tanır.
OpenAI’nin ChatGPT Pro ve Plus planlarına abone olanlar, yalnızca belirli ülkelerde yaşıyorlarsa OpenAI’nin video oluşturucusu Sora’ya bugün erişebiliyorlar.
