Google I/O, dünyayı görebilen ve duyabilen bir yapay zeka asistanını tanıtırken, OpenAI de kendi versiyonunu piyasaya sürdü. O-bir iPhone’a sohbet robotu gibi. Gelecek hafta Microsoft, Copilot veya Cortana’nın pivot tabloları anlayan bir sürümüne sahip olacağı kesin olan Build’a ev sahipliği yapacak. Bundan birkaç hafta sonra Apple kendi geliştirici konferansına ev sahipliği yapacak ve eğer söylentiye göre yapay zekadan da bahsedilecek. (Siri’den bahsedilip bahsedilmeyeceği belli değil.)
AI burada! Artık kavramsal değil. İş alıyor, birkaç yeni iş yapıyor ve milyonlarca öğrencinin ödevlerini yapmaktan kaçınmasına yardımcı oluyor. Yapay zekaya yatırım yapan büyük teknoloji şirketlerinin çoğuna göre, biz teknolojideki nadir anıtsal değişimlerden birini deneyimlemenin başlangıcında görünüyor. Sanayi Devrimi’ni veya internetin ya da kişisel bilgisayarın yaratılışını düşünün. Büyük Teknoloji’nin tüm Silikon Vadisi, büyük dil modellerini ve diğer yapay zeka türlerini alıp bunları araştırmacıların dizüstü bilgisayarlarından ortalama insanların telefonlarına ve bilgisayarlarına taşımaya odaklanıyor. İdeal olarak, süreçte çok para kazanacaklar.
Ama bunu pek umursamıyorum çünkü Meta AI sakalımın olduğunu düşünüyor.
Çok açık olmak istiyorum: Ben cis bir kadınım ve sakalım yok. Ancak bilgi istemi penceresine “bana Alex Cranz’ın bir resmini göster” yazarsam, Meta AI kaçınılmaz olarak çok güzel, koyu saçlı, sakallı erkeklerin resimlerini döndürüyor. Ben bunlardan sadece birkaçıyım!
Ayrıntılarla mücadele eden tek kişi Meta AI değil Sınır‘nin künyesi. ChatGPT dün bana şu adreste çalışmadığımı söyledi: Sınır. Google’ın Gemini’si kim olduğumu bilmiyordu (adil), ama bana Nilay Patel’in Google’ın kurucusu olduğunu söyledikten sonra Sınır, daha sonra özür diledi ve öyle olmadığını söyleyerek kendini düzeltti. (Sizi temin ederim öyleydi.)
Bu bilgisayarlar aptal olduğu için yapay zeka işleri batırmaya devam ediyor. Yetenekleri olağanüstü ve aptallıkları şaşırtıcı. Yapay zeka devrimindeki bir sonraki dönemeç için heyecanlanamıyorum çünkü bu dönemeç, bilgisayarların en küçük şeylerde bile tutarlı bir şekilde doğruluk sağlayamadığı bir dönemeç.
Demek istediğim, Google’ın I/O’daki büyük yapay zeka açılış konuşmasında bile işleri berbat ettiler. Google’ın yeni yapay zeka destekli arama motorunun reklamında birisi, sıkışan bir film kamerasının nasıl düzeltileceğini sordu ve “arka kapıyı açmaları ve filmi yavaşça çıkarmaları” önerildi. Bu, daha önce çektiğiniz fotoğrafları yok etmenin en kolay yoludur.
Bir yapay zekanın gerçekle zor ilişkisine “halüsinasyon” denir. Son derece basit bir ifadeyle: Bu makineler bilgi kalıplarını keşfetmede harikadır, ancak tahmin etme ve yaratma girişimlerinde ara sıra yanlış anlarlar. Yeni bir gerçekliği etkili bir şekilde “halüsinasyona uğratırlar” ve bu yeni gerçeklik çoğu zaman yanlıştır. Bu zor bir sorun ve şu anda yapay zeka üzerinde çalışan herkes bunun farkında.
Eski bir Google araştırmacısı sorunun önümüzdeki yıl içinde çözülebileceğini iddia etti (gerçi bu sonuçtan yakınıyordu) ve Microsoft’un bazı kullanıcılarına yönelik, onları tespit etmeye yardımcı olması gereken bir aracı var. Google’ın Arama sorumlusu Liz Reid şunları söyledi: Sınır o da zorluğun farkında. Meslektaşım David Pierce’e “Herhangi bir dil modelinde yaratıcılık ile gerçekçilik arasında bir denge vardır” dedi. “Gerçekten bunu gerçekliğe doğru çevireceğiz.”
Ama Reid’in nasıl bir denge olduğunu söylediğine dikkat ettiniz mi? Bunun nedeni, birçok yapay zeka araştırmacısının aslında halüsinasyonları düşünmemesidir. olabilir çözüldü. Singapur Ulusal Üniversitesi’nden bir araştırma halüsinasyonların tüm büyük dil modellerinin kaçınılmaz bir sonucu olduğunu öne sürdü. Nasıl ki hiç kimse her zaman yüzde 100 haklı değilse, bu bilgisayarlar da öyle.
Ve muhtemelen bu alandaki büyük oyuncuların çoğunun (gerçek kaynaklara ve mali teşviklere sahip olanların) çoğunun yapay zekayı benimsemesi konusunda endişelenmemeniz gerektiğini düşünmesinin nedeni de budur. Google’ın IO açılış konuşması sırasında, gösterdiği neredeyse her yeni AI aracının altındaki ekrana küçük gri yazı tipiyle “yanıtların doğruluğunu kontrol edin” ifadesini ekledi; bu, araçlarına güvenilemeyeceğinin yararlı bir hatırlatıcısıydı, ancak aynı zamanda Bunun bir sorun olduğunu düşünmüyorum. ChatGPT de benzer şekilde çalışır. Bilgi istemi penceresinin hemen altındaki küçük yazı tipinde şöyle yazıyor: “ChatGPT hata yapabilir. Önemli bilgileri kontrol edin.”
Bu, çok yakın gelecekte tüm hayatımızı değiştirmesi beklenen araçlarda görmek isteyeceğiniz bir sorumluluk reddi beyanı değil! Ve bu araçları yapan insanlar, küçük bir uyarının ötesinde sorunu çözmeyi pek umursamıyor gibi görünüyor.
Kârı güvenlikten önce önceliklendirdiği için kısa süreliğine görevden alınan OpenAI’nin CEO’su Sam Altman, bir adım daha ileri giderek yapay zekanın doğruluğuyla ilgili sorunu olan herkesin saf olduğunu söyledi. “Eğer saf bir şey yaparsanız ve ‘Yüzde 100 emin olmadığınız hiçbir şeyi asla söylemeyin’ derseniz, hepsinin bunu yapmasını sağlayabilirsiniz. Ancak insanların bu kadar sevdiği sihire sahip olmayacak” Geçen yıl Salesforce’un Dreamforce konferansında kalabalığa şunları söyledi:.
Yapay zekanın gerçeklikle olan zayıf ilişkisini affetmemizi sağlayacak, ölçülemez bir tür sihirli sosun olduğu fikri, doğruluk endişelerini bir kenara bırakmaya istekli insanlar tarafından sıklıkla gündeme getiriliyor. Google, OpenAI, Microsoft ve diğer pek çok yapay zeka geliştiricisi ve araştırmacısı, halüsinasyonu affedilmesi gereken küçük bir rahatsızlık olarak görmezden geldi çünkü onlar, kendi hayatlarımızı kolaylaştırabilecek dijital varlıklar yaratma yolundalar.
Ancak Sam’den ve beni yapay zeka konusunda heyecanlandırmaya maddi olarak teşvik eden herkesten özür dilerim. İnsan bilincinin yanlış büyüsü için bilgisayarlara gelmiyorum. Onlara geliyorum çünkü insanlar öyle olmadığında çok doğrular. Arkadaşım olmak için bilgisayarıma ihtiyacım yok; Sorduğumda cinsiyetimi doğru bir şekilde belirtmem ve bozulan bir kamerayı tamir ederken yanlışlıkla filmi açığa çıkarmama yardımcı olması için buna ihtiyacım var. Sanırım avukatlar içtihat hukukunun doğru olmasını isterler.
BEN anlamak Sam Altman ve diğer yapay zeka misyonerlerinin nereden geldiği. Uzak bir gelecekte birlerden ve sıfırlardan gerçek bir dijital bilinç yaratma olasılığı var. Şu anda yapay zekanın gelişimi, önceki birçok teknolojik devrimi gölgede bırakacak kadar şaşırtıcı bir hızla ilerliyor. Şu anda Silikon Vadisi’nde gerçek bir sihir iş başında.
Ama yapay zeka sakallı olduğumu düşünüyor. En basit görevleri tutarlı bir şekilde çözemiyor ve yine de, bu yapay zekaların sağladığı hizmetlerin inanılmaz vasatlığını kutlamamız beklentisiyle bize dayatılıyor. Gerçekleşen teknolojik yeniliklere kesinlikle hayret etsem de, sırf konuşabileceğim bir dijital avatarım olsun diye bilgisayarlarımın doğruluktan ödün vermemesini isterim. Bu adil bir takas değil; yalnızca ilginç bir takas.
