Mart ayında, teknoloji endüstrisi uzmanlarından gelen açık bir mektup, teknolojinin “toplum ve insanlık için derin bir risk” oluşturmasından korkarak gelişmiş yapay zeka modellerinin geliştirilmesini durdurmaya çalıştı. Ve işte bir açıklama OpenAI CEO’su Sam Altman, AI “vaftiz babası” Geoffrey Hinton ve diğerlerinin birlikte yazdığı, AI’nın insanlığı yok etme riskini azaltmayı hedefliyor. Bildirinin önsözü, sektör liderlerini yapay zekanın en ciddi tehditlerini açıkça tartışmaya teşvik ediyor.
Açıklamaya göre yapay zekanın insanlık için oluşturduğu risk, küresel salgın hastalıklar ve nükleer savaşlarla kıyaslanacak kadar ciddi. Diğer ortak imzacılar, Google DeepMind araştırmacıları, Microsoft CTO’su Kevin Scott ve internet güvenliği öncüsü Bruce Schneier’dir.
ChatGPT tarafından popüler hale getirilen günümüzün büyük dil modelleri (LLM’ler), henüz yapay genel zekaya (AGI) ulaşamıyor. Ancak endüstri liderleri, LLM’lerin bu noktaya kadar ilerleyeceğinden endişe duyuyor. AGI, insan zekasını yakalayabilen veya geçebilen yapay zekalı bir varlığı tanımlayan bir kavramdır.
AGI’nin geliştirilmesinin önemli sonuçları olabilir
AGI, OpenAI, Google DeepMind ve Anthropic’in bir gün elde etmeyi umduğu bir başarıdır. Ancak her şirket, AGI’nin geliştirilmesinin önemli sonuçları olabileceğinin farkındadır.
Bu ayın başlarında ABD Kongresi’nde verdiği ifadede Altman, en büyük korkusunun yapay zekanın “dünyaya önemli zararlar vermesi” olduğunu ve zararın birçok şekilde meydana gelebileceğini söyledi.
Birkaç hafta önce, Bay Hinton sinir ağları üzerinde çalıştığı Google’daki görevinden aniden istifa etmişti. CNN’e bildiriyor onun “birdenbire bu şeylerin bizden daha akıllı hale geldiğini fark eden bir bilim adamı” olduğunu söyledi.
Bu konuyu daha ileri götürmek için
Kaynak : “ZDNet.com”
