Bu ay, Chatgpt, 4O modelinin bir parçası olarak, görüntülerin içinde metin oluşturmada çok daha iyi olan yeni bir görüntü üreticisini tanıttı.
İnsanlar zaten sahte restoran makbuzları üretmek için kullanıyorlar ve potansiyel olarak dolandırıcılar tarafından kullanılan AI DeepFakes’in kapsamlı araç setine başka bir araç ekliyorlar.
Üretken Sosyal Medya Poster ve VC Deedy Das X’de yayınlandı 4o ile yaratıldığını söylediği (gerçek) bir San Francisco et lokantası için sahte bir makbuz fotoğrafı.
Diğerleri benzer sonuçları çoğaltabildi, içermek Biri daha da otantik görünmesini sağlamak için yiyecek veya içecek lekeleri olan:
Bulunan en gerçek görünümlü örnek TechCrunch aslında bir LinkedIn kullanıcısının bulunduğu Fransa’dan geldi yayınlanmış Yerel bir restoran zinciri için buruşuk AI tarafından üretilen bir makbuz:
TechCrunch 4o’yu test etti ve San Francisco’daki bir Applebee’s için sahte bir makbuz oluşturabildi:
Ama girişimimiz sahte olduğu birkaç ölü hediye vardı. Birincisi, toplam bir süre yerine virgül kullanır. Bir diğeri için matematik toplanmaz. LLM’ler hala temel matematik yapmak için mücadele ediyor, bu yüzden bu özellikle şaşırtıcı değil.
Ancak bir dolandırıcının, fotoğraf düzenleme yazılımı veya muhtemelen daha kesin istemlerle sayılardan birkaçını hızlı bir şekilde düzeltmesi zor olmaz.
Sahte makbuzlar üretmeyi gerçekten kolaylaştırmanın, sahtekarlık için büyük fırsatlar sunduğu açıktır. Bu tür bir teknolojinin kötü aktörler tarafından tamamen sahte masraflar için “geri ödenmesi” için kullanıldığını hayal etmek zor olmaz.
Openai sözcüsü Taya Christianson, TechCrunch’a tüm görüntülerinin Chatgpt tarafından yapıldığını gösteren meta verileri içerdiğini söyledi. Christianson, Openai’nin kullanıcıların kullanım politikalarını ihlal ettiklerinde “harekete geçtiğini” ve gerçek dünyadaki kullanım ve geri bildirimden “her zaman öğrendiğini” de sözlerine ekledi.
TechCrunch daha sonra ChatGPT’nin neden insanların ilk etapta sahte makbuzlar üretmesine izin verdiğini ve bunun Openai’s ile uyumlu olup olmadığını sordu. Kullanım Politikaları (hangi sahtekarlığı yasaklayın.)
Christianson, Openai’nin “amacının kullanıcılara mümkün olduğunca çok yaratıcı özgürlük vermek” olduğunu ve sahte AI makbuzlarının, orijinal sanat ve ürün reklamları oluşturmanın yanı sıra “insanlara finansal okuryazarlık hakkında bilgi edinme” gibi kullanılmayan durumlarda kullanılabileceğini söyledi.
