Ne bilmek istiyorsun
- FTC, ChatGPT’yi araştırıyor.
- Komisyon, OpenAI’nin herhangi bir tüketici koruma yasasını ihlal edip etmediğini anlamaya çalışıyor.
- OpenAI, komisyonun veri güvenliği uygulamalarına ilişkin endişelerini vurgulayan 20 sayfalık bir talep mektubu aldı.
- OpenAI yanlış bulunursa Microsoft’un etkilenmesi muhtemeldir.
Federal Ticaret Komisyonu (FTC) birkaç nedenden dolayı bir dakikadır manşetlerde yer alıyor. Bildiğiniz gibi ajans, Activision Blizzard’ı satın almasını engellemek için Microsoft’la savaş alanına girdi ve bunun rakiplerini dezavantajlı duruma düşüreceğini belirtti.
Ancak göründüğü gibi, Microsoft Xbox ve FTC destanı yakında sona eriyor olabilir. Komisyon kısa süre önce Microsoft’un bekleyen Activision Blizzard’ı devralmasına karşı şirket içi davasını geri çekti.
Sırada ne olduğunu görmek için beklerken, FTC vites değiştirdi ve şimdi OpenAI’nin ChatGPT’sini araştırıyor. Komisyon, yapay zeka destekli sohbet robotunun The Motley Fool aracılığıyla tüketici koruma yasasını ihlal edip etmediğini belirlemek için şimdiden bir soruşturma başlattı.
Komisyon, OpenAI’nin veri güvenliği uygulamalarına ilişkin endişelerini vurgulayan 20 sayfalık bir talep mektubu yayınladı. ChatGPT’nin, kullanıcının itibarı üzerindeki etkisi konusunda da artan bir endişe var.
OpenAI’nin, komisyona, sohbet robotu onlara “yanlış bilgi” verdiğinde ve sonuçta itibarlarını lekelediğinde, kullanıcılar tarafından yapılan şikayetlerin ayrıntılı bir hesabını sağlaması istenecektir. Son gelişmelerde, Standford tarafından yürütülen bir araştırma, ChatGPT’nin zamanla aptallaştığını vurguladı.
Bu yılın başlarında Microsoft, milyarlarca dolarlık bir yatırım yaparak OpenAI ile ortaklığını genişletti ve böylece şirketin en büyük yatırımcısı oldu. O zamandan beri Microsoft, yapay zekayı ürün ve hizmetlerinin çoğuna entegre etti.
Bunu göz önünde bulundurarak, FTC’nin OpenAI araştırması herhangi bir tutarsızlık bulursa, BingChat OpenAI ve ChatGPT’ye dayandığından Microsoft da dolaylı olarak etkilenecektir.
Analiz
FTC’nin görevi, tüketicilerin çıkarlarını kötü niyetli uygulamalardan korumaktır. Geçmişte, Meta, Zoom, Twitter ve daha fazlası gibi kuruluşlar, gizlilikle ilgili konularda yanlış oldukları tespit edildikten sonra ağır para cezaları ödediler.
Bu araçların arkasındaki şirketler, AI modellerini eğitmek için büyük ölçüde özel ve halka açık verilere güveniyor. Kendi verilerini kullanarak onları eğitmek mümkün olsa da, ChatGPT ve Bing Chat gibi sohbet robotları, insanlar bunları karmaşık Matematik problemlerini çözmek, araştırma yapmak ve daha fazlası dahil olmak üzere birçok nedenle kullandıklarından daha geniş bir veri kümesi gerektirir.
Yakın zamana kadar ChatGPT, GPT-3.5 modelini kullanıyordu ve bu model, araç yalnızca Eylül 2021’e kadar bilgilere erişebildiği için büyük bir gerilemeydi. Ancak, OpenAI kısa süre önce, iOS kullanıcılarının arama deneyimini geliştirmesi için Bing ile Gözat adlı yeni bir özellik sundu, ancak buna erişmek için bir ChatGPT Plus aboneliğinizin olması gerekecek.
Bir sohbet robotunun başarısı, doğruluğu ile belirlenir ve bildiğiniz gibi GPT-3.5 ve GPT-4, kullanıcı geri bildirimleri ve verileri kullanılarak güncellenir. Chatbot’lar her zaman doğru olmadığından, bunun nasıl yapıldığını kesin olarak belirlemek imkansızdır. Geçmişte, Bing Chat’in halüsinasyon gördüğü ve hatta yanlış yanıtlar verdiği hakkında birkaç rapor yapılmıştır.
Bu nedenle, birçok kuruluş bu sohbet robotları ve nasıl çalıştıkları konusundaki endişelerini açıkça dile getirdi. Microsoft ve OpenAI, girişlerinin kontrolden çıkmamasını sağlamak için ayrıntılı güvenlik önlemleri aldıklarını belirttiler. Yine de, kuruluşlar teknoloji konusunda isteksizdir ve verilerini, özellikle de bilgileri olmadan kullanan sohbet robotlarına karşı olduklarını kategorik olarak belirtmişlerdir.
İsteksizlikleri esas olarak güvenlik ve telif hakkı endişeleri etrafında toplanıyor. ChatGPT, kullanıcılardan gelen geniş kaynaklara erişime sahiptir ve saldırganlar tarafından ele geçirilirse etkisi oldukça önemli olacaktır. Haziran ayında bir siber güvenlik firması tarafından hazırlanan bir rapor, 100.000’den fazla ChatGPT kimlik bilgisinin bilgisayar korsanları tarafından erişildiğini ve karanlık ağda satıldığını ortaya çıkardı. Bilgi çalan kötü amaçlı yazılım aracılığıyla kimlik bilgilerine erişebildiler.
Komisyon ayrıca OpenAI’nin tüketici verilerini nasıl sakladığını, şirketin tüketici verilerini ve itibar zararını korumak için kullandığı güvenlik önlemlerini ve son olarak geçmişte bu sohbet robotunu etkileyen saldırıları inceleyecek.
Yapay zeka geliştirmelerinin nasıl yapıldığını yönetmek için kullanılacak kurallara ve düzenlemelere ihtiyaç var. Bu yılın başlarında, önemli endüstri oyuncuları, yeni girişler geliştirmek için altı aylık bir bekleme talep eden bir mektup imzaladılar. Bu, milletvekillerine sektördeki son gelişmeleri takip etmeleri için yeterli zaman sağlamak içindir. Microsoft’un CEO’su Satya Nadella geçen ay bir röportaj sırasında konuyla ilgili yorum yaptı ve şunları belirtti:
“Bununla birlikte, bu noktada, sadece dur demek yerine, bu hizalamaları oluşturmak için yapılması gereken işi hızlandırmamız gerektiğini söyleyebilirim. Sidney’i ilk gördüğüm gün GPT-4 ile fırlatmadık çünkü bir emniyet kemeri oluşturmak için çok çalışmamız gerekti.
FTC’nin soruşturması, OpenAI tarafından yapılan yanlış eylemleri ortaya çıkarırsa. Microsoft’u olumsuz etkileyebilir. FTC yeni yasalar çıkaramasa da, ABD hükümetine AI modellerinin gelişimini yöneten tavsiyeler verebilir. Ayrıca, sohbet robotunun erişebileceği kaynak sayısını sınırlamak için daha fazla kısıtlama uygulanırsa, Microsoft’un sohbet robotu Bing Chat, doğruluğunu sınırlayacağından büyük ölçüde etkilenecektir.
FTC’nin soruşturması sırasında neler ortaya çıkardığını ve ileriye dönük sonraki adımları görmek ilginç olacak. Gelişmekte olan bu hikaye hakkında daha fazla şey öğrendiğimizde sizi haberdar edeceğiz.
