Yolculuk ortası Midjourney’in üretken yapay zekasını kullanarak kullanıcıların web’den yüklenen görselleri düzenlemesine olanak tanıyacak yükseltilmiş bir web aracı yayınlamayı planlıyor.
Midjourney CEO’su David Holtz’un “önümüzdeki haftanın başlarında” piyasaya sürüleceğini söylediği yükseltilmiş araç, aynı zamanda kullanıcıların resimlerdeki nesneleri yeniden dokulandırmasına ve altyazılara göre renklerini ve ayrıntılarını “yeniden boyamasına” olanak tanıyacak.
Mevcut görüntüleri yapay zeka ile düzenlemek son zamanlarda üzerinde durulan bir konu haline geldi. Meta gibi platformlar, yapay zeka araçlarıyla düzenlenen görsellerin nasıl etiketleneceği ile yapay zeka modeliyle sıfırdan oluşturulan görsellerin nasıl etiketleneceği konusunda çekişirken, Google gibi şirketler de bu görselleri yayınladı. güçlü yapay zeka özellikleri Hiçbir görsel gösterge vermeyen görüntüler yapay zeka ile değiştirildi.
Geçen yıl Midjourney, görüntülere yapay zeka tarafından oluşturulduğunu belirten meta verileri yerleştiren teknik bir standart olan IPTC’nin Dijital Kaynak Türü özelliğini kullanmayı taahhüt etti. Ancak şirket, bir görüntünün, onu oluşturmak için kullanılan ekipman ve yazılım da dahil olmak üzere tüm kaynağını izleyen bir meta veri teknolojisi olan C2PA’yı benimsemeyen birkaç büyük yapay zeka platformundan biri.
Bir gönderide Midjourney’in resmi Discord sunucusuHolz, yükseltilmiş görsel aracının başlangıçta “mevcut topluluğun bir alt kümesiyle” sınırlı olacağını, kötüye kullanımı önlemek için artan insan denetiminin yanı sıra “yeni, daha gelişmiş AI moderatörleri” ile sınırlı olacağını söyledi.
“Dürüst olmak gerekirse, bu özelliğin dağıtımını tam olarak nasıl kısıtlayacağımızdan emin değiliz” dedi. Midjourney, ilk önce hangi kullanıcıların erişeceğini belirlemek için kullanacağı bir anket aracılığıyla topluluktan geri bildirim alıyor.
Bu tür düzenleme araçlarının yeterli güvenlik önlemleri olmadan piyasaya sürülmesinin riskleri vardır. Telif hakkı ihlallerini büyük ölçekte kolaylaştırabilirler veya yanıltıcı deepfake’lerin yayılmasını teşvik edebilirler.
Deepfake’ler sosyal medyada kontrol edilemeyen bir yangın gibi yayılıyor ve gerçeği dezenformasyondan ayırmayı zorlaştırıyor. Son zamanlarda, yıkım ve insanların çektiği acılara dair sahte üretken yapay zeka görüntüleri interneti sular altında bıraktı Helene Kasırgası sonrasında.
Deepfake tespit firması Clarity’nin verilerine göre, bu yıl geçen yılın aynı zaman dilimine kıyasla %900 daha fazla deepfake oluşturuldu ve yayınlandı. Anlaşılacağı üzere alarma neden oluyor. YouGov’un yakın zamanda yaptığı bir anket şunu ortaya çıkardı: Amerikalıların yüzde 85’i endişeli İnternette yayılan yanıltıcı deepfake’ler hakkında.
ABD’de derin sahtekarlıkları federal düzeyde suç sayan bir yasanın bulunmaması nedeniyle 10’dan fazla eyalet, yapay zeka destekli kimliğe bürünmeye karşı yasalar çıkardı. Şu anda yürürlükte olmayan Kaliforniya yasası, hakimlere deepfake posterlerinin kaldırılması yönünde emir verme yetkisi veren ilk yasa olacak, aksi takdirde para cezasıyla karşı karşıya kalma ihtimali var.
Midjourney, sorumlu yapay zeka dağıtımının pek de parlak bir örneği olmadı. (Örneğin, üretken AI modellerini eğitmek için telif hakkıyla korunan içeriği kullandığı iddiasıyla dava ediliyor.) Ancak son aylarda platform, ABD başkanlığına giden siyasi figürlere yönelik filtreler de dahil olmak üzere deepfake’lerin yayılmasını sınırlamak için adımlar attı. seçim.
