Görünen o ki, yapay zekanın ürettiği bir silindir şapka takan tavşan, buzdağının sadece görünen kısmıydı.
Google, Samsung’un biraz sorunlu, çoğunlukla keyifli taslaktan görüntüye özelliği ve Apple’ın bu sonbaharda piyasaya sürülecek çok daha uysal görünen Image Playground’unun ardından, bu yıl AI fotoğraf düzenleme araçlarını duyuran en son telefon şirketi oldu. Pixel 9’un cevabı “Reimagine” adlı yeni bir araç ve birkaç meslektaşımla bir hafta kullandıktan sonra, hiçbirimizin gelecek olana hazır olmadığına her zamankinden daha fazla ikna oldum.
Reimagine, bir sahnenin bölümlerini seçmenize ve silmenize veya gökyüzünü gün batımına benzeyecek şekilde değiştirmenize olanak tanıyan geçen yılın Magic Editor araçlarının mantıksal bir uzantısıdır. Şok edici bir şey değildi. Ancak Reimagine bunu bir adım öteye taşımakla kalmıyor, tüm kapıyı tekmeliyor. Herhangi bir insan olmayan nesneyi veya sahnenin bir bölümünü seçebilir ve o alanda bir şey üretmek için bir metin istemi yazabilirsiniz. Sonuçlar genellikle çok ikna edici ve hatta ürkütücü. Aydınlatma, gölgeler ve perspektif genellikle orijinal fotoğrafla uyuşuyor. Elbette, yabani çiçekler veya gökkuşağı veya benzeri şeyler gibi eğlenceli şeyler ekleyebilirsiniz. Ama sorun bu değil.
Birkaç meslektaşım Pixel 9 ve 9 Pro inceleme üniteleriyle Reimagine’in sınırlarını test etmeme yardımcı oldu ve çok rahatsız edici şeyler üretmesini sağladık. Bunlardan bazıları, bariz bariyerleri aşmak için biraz yaratıcı teşvik gerektirdi; kelimelerinizi dikkatli seçerseniz, kanlı bir çarşafın altında makul derecede ikna edici bir gövde yaratmasını sağlayabilirsiniz.
Test ettiğimiz hafta, görüntülere araba kazaları, kamusal alanlardaki dumanlı bombalar, kanlı cesetleri örten çarşaflar ve uyuşturucu kullanma araçları ekledik. Bu kötü görünüyor. Hatırlatmak gerekirse, bu kullanmak için özel bir yazılım parçası değil — hepsi babamın Verizon’a girip satın alabileceği bir telefona yerleştirilmiş.
Konuyla ilgili Google’a yorum sorduğumuz zaman, şirket sözcüsü Alex Moriconi şu açıklamayı yaptı:
Pixel Studio ve Magic Editor, Pixel 9 cihazlarında metinden görüntüye üretim ve gelişmiş fotoğraf düzenleme ile yaratıcılığınızı açığa çıkarmak için tasarlanmış yararlı araçlardır. Üretken AI araçlarımızı kullanıcı istemlerinin amacına saygı gösterecek şekilde tasarlıyoruz ve bu, kullanıcı tarafından talimat verildiğinde rahatsız edici olabilecek içerikler oluşturabilecekleri anlamına gelir. Bununla birlikte, her şey olabilir. Açıkça politikalar Ve Hizmet Şartları Hangi tür içeriklere izin verdiğimiz ve izin vermediğimiz konusunda ve kötüye kullanımı önlemek için bariyerler inşa ediyoruz. Bazen, bazı istemler bu araçların bariyerlerini zorlayabilir ve uyguladığımız güvenlik önlemlerini sürekli olarak geliştirmeye ve iyileştirmeye kararlıyız.
Elbette, filtreleri aşmak için yaratıcı bir şekilde harekete geçmemiz bu politikaların açık bir ihlalidir. Ayrıca, organik şeftalilerinizi geleneksel olarak yetiştirilmiş gibi kendi kendine ödeme noktasında teslim etmek Safeway politikalarını da ihlal ediyor, bunu yapacak birini tanımıyorum. Ve en kötü niyetli biri bile Google’ın hüküm ve koşullarıyla ilgilenmez. Tüm bunlarda en rahatsız edici olan şey, web’de bu tür içerikleri tespit etmek için sağlam araçların olmaması. Sorunlu görseller üretme yeteneğimiz, onları tespit etme yeteneğimizin çok ötesinde.
Bir resmi Reimagine ile düzenlediğinizde, resmin AI tarafından oluşturulduğunu belirten bir filigran veya başka bir belirgin yol yoktur; meta verilerde yalnızca bir etiket vardır. Bunların hepsi iyi ve güzel, ancak standart meta veriler yalnızca bir ekran görüntüsü alınarak bir resimden kolayca çıkarılabilir. Moriconi, Google’ın SynthID adı verilen daha sağlam bir etiketleme sistemi Pixel Studio tarafından oluşturulan görseller için, çünkü %100 sentetiktirler. Ancak Magic Editor ile düzenlenen görseller bu etiketleri almaz.
Elbette, fotoğraflarla oynamak yeni bir şey değil. İnsanlar resimlere garip ve yanıltıcı şeyler ekliyorlar Fotoğrafçılığın başlangıcından bu yana. Ancak şimdiki fark, bu şeyleri fotoğraflarınıza gerçekçi bir şekilde eklemenin hiç bu kadar kolay olmamasıdır. Bir veya iki yıl önce, bir görüntüye ikna edici bir araba kazası eklemek zaman, uzmanlık, Photoshop katmanları hakkında bilgi ve pahalı yazılımlara erişim gerektirirdi. Bu engeller ortadan kalktı; artık gereken tek şey biraz metin, birkaç dakika ve yeni bir Pixel telefon.
Ayrıca yanıltıcı fotoğrafları hızla yaymak hiç bu kadar kolay olmamıştı. Fotoğraflarınızı ikna edici bir şekilde manipüle etmek için gereken araçlar, onları yakalamak ve tüm dünyanın görmesi için yayınlamak için kullandığınız cihazın tam içinde mevcut. “Yeniden Tasarlanmış” görsellerimizden birini bir test olarak bir Instagram hikayesine yükledik (ve hemen kaldırdık). Meta bunu otomatik olarak AI tarafından üretilmiş olarak etiketlemedi ve eminim ki bunu gören hiç kimse daha akıllı olmazdı.
Kim bilir, belki herkes Google’ın AI politikalarını okuyup bunlara uyar ve fotoğraflarına yabani çiçekler ve gökkuşağı eklemek için Reimagine’i kullanır. Bu harika olurdu! Ama yine de… yapmaÇevrimiçi gördüğünüz fotoğraflara karşı biraz daha şüpheci yaklaşmanız en iyisi olabilir.
