Elon Musk’ın Grok’u Salı gecesi, AI sohbet robotu gibi çok az güvenlik önlemi olan yeni bir AI görüntü oluşturma özelliği yayınladı. Bu, örneğin Joe Rogan şovunda Donald Trump’ın esrar içtiği sahte görüntüler üretebileceğiniz ve bunları doğrudan X platformuna yükleyebileceğiniz anlamına geliyor. Ancak bu çılgınlığa güç veren aslında Elon Musk’ın AI şirketi değil; bunun yerine, tartışmalı özelliğin arkasındaki ekip yeni bir girişim olan Black Forest Labs.
İkili arasındaki iş birliği Salı günü xAI’nin duyuruldu Grok’un FLUX.1 modelini kullanarak görüntü oluşturucusunu güçlendirmek için Black Forest ile birlikte çalışıyor. 1 Ağustos’ta başlatılan bir AI görüntü ve video girişimi olan Black Forest, Musk’ın Grok’u OpenAI’nin Dall-E’sinde veya Google’ın Imagen’inde bulunan katı güvenlik bariyerleri olmadan “uyanıklık karşıtı bir sohbet robotu” olarak görme vizyonuna sempati duyuyor gibi görünüyor. Sosyal medya sitesi zaten çılgın görüntülerle dolu yeni özellikten.
Almanya merkezli Black Forest Labs, yakın zamanda Andreessen Horowitz liderliğinde 31 milyon dolarlık tohum yatırımıyla gizlilikten çıktı. basın bülteni. Diğer önemli yatırımcılar arasında Y Combinator CEO’su Garry Tan ve eski Oculus CEO’su Brendan Iribe yer alıyor. Girişimin kurucu ortakları Robin Rombach, Patrick Esser ve Andreas Blattmann, eskiden Stability AI’nın Stable Diffusion modellerini oluşturmaya yardımcı olan araştırmacılardı.
Buna göre Yapay AnalizBlack Forest Lab’ın FLUX.1 modelleri, en azından kullanıcıların kendi değerlendirmelerine göre, kalite açısından Midjourney ve OpenAI’nin AI görüntü oluşturucularını geride bırakıyor. görüntü arenası.
Girişim, açık kaynaklı AI görüntü oluşturma modelleriyle “modellerimizi geniş bir kitleye sunduğumuzu” söylüyor Sarılma Yüzü Ve GitHubŞirket yakın zamanda metinden videoya geçiş modeli de oluşturmayı planladığını söylüyor.
Black Forest Labs, TechCrunch’ın yorum talebine henüz yanıt vermedi.
Şirket lansman duyurusunda, “bu modellerin güvenliğine olan güveni artırmayı” amaçladığını söylüyor; ancak bazıları X Çarşamba günü AI tarafından oluşturulan görüntülerinin selinin tam tersini yaptığını söyleyebilir. Kullanıcıların Grok ve Black Forest Labs’ın aracını kullanarak oluşturabildikleri birçok görüntü, örneğin Pikachu’nun bir saldırı tüfeği tutması, Google veya OpenAI’nin görüntü oluşturucularıyla yeniden oluşturulamadı. Modelin eğitimi için telif hakkıyla korunan görüntülerin kullanıldığına dair kesinlikle şüphe yok.
İşte mesele bu zaten
Bu güvenlik önlemlerinin eksikliği, Musk’ın bu iş birlikçisini seçmesinin başlıca nedeni olabilir. Musk, güvenlik önlemlerinin aslında AI modellerini daha az güvenli hale getirdiğine inandığını açıkça belirtti. Musk, bir konuşmasında “AI’yı uyanık olmak için eğitmenin tehlikesi – başka bir deyişle yalan söylemesi – ölümcüldür” dedi. cıvıldamak 2022’den itibaren.
Black Forest Labs Yönetim Kurulu Direktörü Anjney Midha, X’te şunları paylaştı: bir dizi karşılaştırma Google Gemini ve Grok’un Flux iş birliği tarafından lansmanın ilk gününde oluşturulan görüntüler arasında. Konu, Google Gemini’nin, özellikle ırksal çeşitliliği uygunsuz bir şekilde görüntülere enjekte ederek, insanların tarihsel olarak doğru görüntülerini oluşturma konusundaki iyi belgelenmiş sorunlarını vurgular.
“Memnun oldum @ibab ve ekip bunu ciddiye aldı ve doğru seçimi yaptı” dedi Midha cıvıldamakFLUX.1’in bu konudan kaçınıyor gibi görünmesine atıfta bulunarak (ve xAI baş araştırmacısı Igor Babuschkin’in açıklamasından bahsederek).
Bu hatadan dolayı Google özür diledi ve Şubat ayında Gemini’nin insanların resimlerini üretme yeteneğini kapattı. Bugün itibariyle şirket hala Gemini’nin insanların resimlerini üretmesine izin vermiyor.
Yanlış bilginin yangın hortumu
Bu genel güvenlik eksikliği Musk için sorunlara yol açabilir. X platformu, Taylor Swift’i temsil eden yapay zeka tarafından oluşturulan deepfake açık görüntüler platformda viral hale geldiğinde eleştirilere maruz kaldı. Bu olayın yanı sıra, Grok halüsinasyonlu manşetler X’teki kullanıcılara neredeyse haftalık olarak görünen.
Geçtiğimiz hafta beş dışişleri bakanı, X’i Kamala Harris hakkında X’te yanlış bilgi yaymayı bırakmaya çağırdı. Bu ayın başlarında Musk, yeniden paylaşıldı Harris’in sesini yapay zeka kullanarak klonlayan ve sanki başkan yardımcısının “çeşitlilik odaklı işe alım” yaptığını itiraf ediyormuş gibi gösteren bir video.
Musk, bu tür yanlış bilgilerin platforma yayılmasına izin vermeye kararlı görünüyor. Kullanıcıların, filigran içermeyen Grok’un AI görsellerini doğrudan platformda yayınlamasına izin vererek, esasen herkesin X haber akışına yöneltilmiş bir yanlış bilgi hortumu açmış oldu.