Google’ın DeepMind’ı, görüntülerin gerçek mi yoksa yapay zeka tarafından mı oluşturulduğunu doğrulamaya çalışanları rahatsız eden bir sorunu çözdüğünü söylüyor. Araştırmacılar yeni filigran SynthID formatının, görüntünün görüntüsünü bozmadan yapay zeka tarafından oluşturulan derin sahtekarlıkları tespit etmek için kullanılabileceğini duyurdu. orjinal kalite. Yakalayış bu mu program şu anda yalnızca Google’ın yerel görsel oluşturma sistemleriyle çalışmaktadır.
İçinde Blog yazısıDeepMind, beta SynthID sisteminin yapay zeka tarafından üretilen görüntülerin piksellerinin içine bir filigran yerleştirdiğini, bunun da insan gözünün farkı görememesine rağmen bir algılama aracının bu anlatı tanımlayıcıları tespit edebileceği ve bir görüntü söyleyebileceği anlamına geldiğini söyledi. yaratıldı AI ile. SynthID, Google’ın Vertex AI platformunu kullanan şirketler için mevcuttur; bu, yalnızca Google’ın şirketin kendi Imagen modelini kullanan büyük kurumsal ortakları için mevcut olduğu anlamına gelir.
Google’ın DeepMind bölümü yakın zamanda Google’ın Brain AI ekibiyle birleştirildi—bu filigranın tam olarak nasıl çalıştığını söylemiyor. Araştırmacılar, SynthID’nin filigranı yeniden boyutlandırıldıktan, sıkıştırıldıktan veya renk filtreleriyle değiştirildikten sonra bile tutacağını söyledi. Aksi takdirde, gizli sos gizli tutuluyor ve muhtemelen dışarıdakilerin bir yol bulmasını engellemek için. DeepMind CEO’su Demis Hassabis şunları söyledi: Sınır eğer sistemin etkili olduğu kanıtlanırsa, şirket eninde sonunda bunu “ortaklarıyla” paylaşmak isteyecektir.
Ancak bu aynı zamanda filigranların Google ekosistemi içerisinde kapalı bir döngüde var olduğu anlamına da gelir. Sistem ayrıca Imagen tarafından yaratılmış olma ihtimalini değerlendirmek için görüntüleri tarayabilir, ancak bunu bilerek piyasada kaç tane yapay zeka görüntü oluşturucu varbu özelliğin ne kadar yararlı olabileceğini söylemek zor.
Filigranlar Yanlış Bilginin Yayılmasını Engelleyemez
Biden yönetimi ihtiyacı vurguladı şirketler bir fikir bul AI görüntülerini tanımlamak için araçlar. Şey yani filigranlar bizi yapay zeka tarafından oluşturulan sahte bilgiler ve yanlış bilgi sorunlarından kurtaramayacak.
Araştırmacılar, çoğu yapay zeka tespit yazılımının, özellikle de pek çok şirketin kendi özel yapay zeka platformlarını pazarlamaya çalıştığı bir dönemde, ihtiyaç duyduğu işi yapmadığını belirtti. UC Berkley bilgisayar bilimi profesörü Hany Farid şunları söyledi: Bilimsel amerikalı Bu ay filigranlamanın yapay zeka deepfake’lerinin zararlarına karşı bir “azaltma stratejisi” olduğu ortaya çıktı.
Gizmodo, bunun için yöntemler oluşturmaya çalışan diğer mühendislerle uzun uzun konuştu. görüntüleri yapay zeka manipülasyonuna karşı bağışıklık kazandırmaancak eleştirmenler kusursuz bir yöntem olmadığına dikkat çekti. Ne zaman bir yaratıcı, görüntüleri bozulmaya karşı korumanın veya yapay zeka tarafından oluşturulan görüntüleri işaretlemenin bir yolunu bulduğunda, bir başkası ortaya çıkıp bu sorunu aşmanın bir yolunu bulabilir.
Ve filigranlama özellikle bir sorun. Yapay zeka araştırmacısı olarak Claire Leibowicz yakın zamanda muayene edildi parça tarafından yayınlandı MIT Teknoloji İncelemesifiligranlama yalnızca insanların potansiyel olarak manipüle edilmiş görüntüleri çürütmesine yardımcı olur, ancak yapay zeka tarafından oluşturulan görüntülerden önce bu mümkün olmaz gibi içerik Pentagon’un patladığını gösteren sahte görüntüler dolaşımda çevrimiçi. Filigranlar kaldırılabilir; bazıları diğerlerinden daha kolay, ancak sonunda İnternet veri dedektifleri lejyonları filigranları aşmanın yollarını bulacaktır.
DeepMind bile bu yöntemin “aşırı görüntü manipülasyonlarına karşı kusursuz olmadığını” belirtmekte gecikmedi, bunun yerine bunu bazı kuruluşların “AI tarafından oluşturulan içerikle sorumlu bir şekilde çalışmasının” bir yolu olarak nitelendirdi.
Google, Workspace için Daha Fazla Yapay Zekayı Duyurdu
Google, Cloud Next konferansı sırasında bir dizi yeni AI özelliğini duyurdu. Birincisi, Google yapıştırmak AI ile Sohbet’e düet yapın. Düet buna benzer Microsoft’un Copilot’u kendi 365 uygulamalarında kullanılıyor. Şirket, bu yapay zekanın kullanıcılardan bilgi alabilmesi gerektiğini söyledi. Drive ve Gmail hesaplarının yanı sıra Slaytlar ve E-Tablolar gibi diğer uygulamalar. Kullanıcılar, paylaşılan bir toplantı odasında yapay zekanın belgeleri veya konuşmaları özetlemesini sağlayabilir. Hepsi planlananlara benzer özellikler Yakınlaştır Ve Gevşek ilave olarak.
Google Workspace’in Duet AI özelliği artık genellikle müsait kayıt olmak isteyen firmalar için duruşma. Google, kendi hizmetlerinin ötesinde, diğer büyük yapay zeka şirketlerine de bulut platformunu sunmaya başlayacak. Meta’nın Lama 2 dil modeli Ve Anthropic’in Claude 2 sohbet robotu aracılığıyla satışa sunulacak Google Bulut iş yazılımı. Llama 2, Microsoft’un Azure bulut platformunda zaten mevcuttur; dolayısıyla Google, yapay zekadaki en son ticari uygulamaları takip etmek için elinden geleni yaparken, birçok açıdan hâlâ arayı kapatıyor.
