Ne bilmek istiyorsun
- Elon Musk, yapay zekanın insanlığı ele geçirme ve hatta yok etme potansiyeline sahip olduğunu ve bunun gerçekleşme olasılığının yüzde 10 ile 20 arasında olduğunu söylüyor.
- Yaklaşan tehlike ne olursa olsun Musk, yapay zeka alanında daha fazla ilerlemenin keşfedilmesi gerektiğini söylüyor.
- Bir Yapay Zeka Güvenliği araştırmacısı, yapay zekanın insanlığı sona erdirme olasılığının Musk’ın algıladığından daha yüksek olduğunu söylüyor ve ayrıca bunun neredeyse kesin olduğunu ve bunun olmasını engellemenin tek yolunun onu ilk etapta inşa etmemek olduğunu belirtiyor.
- Diğer araştırmacılar ve yöneticiler de p(doom) teoremine dayanarak benzer düşünceleri dile getiriyorlar.
Üretken yapay zeka faydalı veya zararlı bir araç olarak görülebilir. Kuşkusuz tıp, bilgisayar, eğitim ve daha pek çok alanda yapay zekanın desteklediği etkileyici başarılara tanık olduk. Ancak diğer taraftan, Copilot’un ikinci kişiliği olan Supremacy AGI’den, güç tüketimi endişelerini de unutmadan soğutma için aşırı miktarda su talep eden yapay zekaya kadar teknolojiyle ilgili kritik ve endişe verici sorunlar gündeme geldi.
Elon Musk, yapay zeka hakkındaki görüşlerini oldukça yüksek sesle dile getiriyor ve konu etrafında birçok tartışmaya yol açıyor. Son zamanlarda milyarder, yapay zekayı “en büyük teknoloji devrimi” olarak nitelendirdi ancak 2025 yılına kadar yeterli enerjinin olmayacağını ve sonuçta bu alanda daha fazla gelişmenin engelleneceğini belirtti.
Bolluk Zirvesi’nde Elon Musk, “bunun insanlığı sona erdirme ihtimalinin olduğunu” belirtti. Milyarder bu sonuca nasıl vardığını paylaşmasa da yapay zekanın insanlığı sona erdirme ihtimalinin yüzde 10 ila 20 arasında olduğunu söylüyor. İşletme İçeriği).
Garip bir şekilde Musk, yapay zeka ortamındaki potansiyel büyüme alanlarının ve ilerlemelerin hâlâ keşfedilmesi gerektiğini düşünüyor ve “Muhtemel olumlu senaryonun olumsuz senaryoya ağır bastığını düşünüyorum.”
Yapay zeka p(doom)’a göre tamamen felaket ve kasvettir
Louisville Üniversitesi Siber Güvenlik Laboratuvarı yöneticisi ve yapay zeka güvenlik araştırmacısı Business Insider ile konuşan Roman Yampolskiy, yapay zekanın insanlığı sona erdirme olasılığının çok daha yüksek olduğunu açıkladı. Musk’ın yüzde 10 ila 20 arasındaki tahminini “fazla muhafazakar” olarak nitelendirdi.
DEVAMINI OKU: Microsoft Başkanı yapay zekayı Terminatöre benzetiyor
Yapay zeka güvenlik araştırmacısı, riskin katlanarak yüksek olduğunu söylüyor ve buna “p(doom)” adını veriyor. Bağlam açısından p(doom), üretken yapay zekanın insanlığı ele geçirme veya daha da kötüsü onu sona erdirme olasılığını ifade ediyor.
Yapay zeka etrafında dönen gizlilik ve güvenlik kaygılarını hepimiz biliyoruz; ABD ile Çin arasındaki savaş harika bir referans noktası. Geçtiğimiz yıl ABD, NVIDIA gibi yonga üreticilerinin Çin’e (GeForce RTX 4090 dahil) yonga göndermesini engelleyen ihracat kuralları uyguladı.
ABD hükümeti kategorik olarak bu hareketin Çin ekonomisini çökertmek için tasarlanmadığını, ancak yapay zekanın askeri ilerlemelerde kullanılmasını önlemek için tasarlanmış bir güvenlik önlemi olduğunu belirtti.
Elon Musk, yapay zeka girişimi ve CEO’su Sam Altman’a karşı açtığı davada OpenAI’nin GPT-4 modeliyle ilgili benzer endişelerini dile getirdi. Teknolojinin kontrolden çıkmasını önleyecek ayrıntılı önlemlerin ve korkulukların olmayışı endişe verici. Musk, modelin YGZ’yi oluşturduğunu ve araştırmalarının, bulgularının ve teknolojik ilerlemelerinin halk tarafından kolayca erişilebilir olmasını istediğini söylüyor.
(p)doom’a aşina olan çoğu araştırmacı ve yönetici, yapay zekanın insanlığı ele geçirme riskinin yüzde 5 ile 50 arasında olduğunu belirtiyor. New York Times. Öte yandan Yampolskiy, riskin yüzde 99,999999 olasılıkla son derece yüksek olduğunu söylüyor. Araştırmacı, süper zekaya ulaşıldığında yapay zekayı kontrol etmenin neredeyse imkansız olduğunu ve bunu önlemenin tek yolunun onu inşa etmemek olduğunu söylüyor.
Ayrı bir röportajda Musk şunları söyledi:
“Gerçekten şimdiye kadar var olan en büyük teknoloji devriminin eşiğinde olduğumuzu düşünüyorum. Biliyorsunuz, güya bir Çin laneti var: ‘İlginç zamanlarda yaşamanız dileğiyle.’ Evet, çok ilginç bir dönemden geçiyoruz. Bir ara bu beni biraz depresyona sokuyordu açıkçası. Şöyle düşündüm: Peki, işi devralacaklar mı? İşe yaramaz mı olacağız?”
Musk, Tesla’nın Optimus programından bahsederken bu yorumları paylaştı ve insansı robotların karmaşık görevleri yerine getirmede en az insanlar kadar iyi olduğunu ekledi. Şaka yollu bir şekilde, evrim başladığında/başladığında robotların bize iyi davranacağını umduğunu belirtti.