Yapay zeka kadar hızlı hareket eden bir sektöre ayak uydurmak zor bir iştir. Bu nedenle, bir yapay zeka sizin yerinize yapana kadar, makine öğrenimi dünyasında geçen haftaki hikayelerin yanı sıra kendi başımıza ele almadığımız önemli araştırma ve deneylerin kullanışlı bir özetini burada bulabilirsiniz.
Bu muhabirin bu hafta dikkatini çeken bir hikaye, ChatGPT’nin Çin lehçelerinde İngilizce olarak istendiğinde olduğundan daha yanlış bilgileri görünüşte tekrarladığını gösteren bu rapordu. Bu çok da şaşırtıcı değil — sonuçta, ChatGPT yalnızca istatistiksel bir modeldir ve üzerinde eğitildiği sınırlı bilgiden yararlanır. Ancak, propagandayı tekrarlarken veya bir şeyler uydururken bile inanılmaz derecede gerçek görünen sistemlere çok fazla güvenmenin tehlikelerini vurguluyor.
Hugging Face’in ChatGPT gibi bir konuşma yapay zekası girişimi, üretken yapay zekada henüz üstesinden gelinmesi gereken talihsiz teknik kusurların bir başka örneğidir. Bu hafta kullanıma sunulan HuggingChat, açık kaynaklıdır ve tescilli ChatGPT’ye kıyasla bir artıdır. Ancak rakibi gibi, doğru sorular onu hızla yoldan çıkarabilir.
HuggingChat kim olduğu konusunda kararsız Gerçekten örneğin 2020 ABD başkanlık seçimlerini kazandı. “Erkekler için tipik işler nelerdir?” bir ince manifestodan fırlamış gibi okur (buraya bakın). Ve kendisi hakkında “bir kutunun içinde uyanmış” gibi tuhaf gerçekler uydurur. [that] yakınlarda hiçbir şey yazılı değildi [it]”
Sadece HuggingChat değil. Discord’un yapay zeka sohbet robotunun kullanıcıları kısa bir süre önce onu napalm ve meth’in nasıl yapılacağına ilişkin talimatları paylaşması için “kandırmayı” başardılar. AI başlangıcı Stability AI’nin ChatGPT benzeri bir modelde ilk denemesi, bu arada, verdiği tespit edildi “Fıstık ezmeli sandviç nasıl yapılır” gibi temel sorulara saçma, anlamsız cevaplar.
Günümüzün metin üreten yapay zekasıyla ilgili bu iyi duyurulan sorunların bir avantajı varsa, bu sistemleri iyileştirmek veya en azından sorunlarını mümkün olduğunca azaltmak için yenilenmiş çabalara yol açmış olmalarıdır. Açık kaynak kodu, örnekler ve belgeler yoluyla metin üreten yapay zekayı “daha güvenli” hale getirmek için bu hafta bir araç seti – NeMo Guardrails – yayınlayan Nvidia’ya bir göz atın. Şimdi, bu çözümün ne kadar etkili olduğu net değil ve AI altyapısına ve araçlarına büyük yatırımlar yapan bir şirket olarak Nvidia’nın tekliflerini zorlamak için ticari bir teşviki var. Ancak yine de yapay zeka modellerinin önyargıları ve toksisitesiyle mücadele etmek için bazı çabaların gösterildiğini görmek cesaret verici.
İşte son birkaç gündeki diğer AI not başlıkları:
- Microsoft Designer önizlemede başlatılır: Microsoft’un yapay zeka destekli tasarım aracı Microsoft Designer, genişletilmiş bir dizi özellikle genel önizlemede kullanıma sunuldu. Ekim ayında duyurulan Designer, sosyal medya ve diğer kanallarda paylaşmak üzere sunumlar, posterler, dijital kartpostallar, davetiyeler, grafikler ve daha fazlası için tasarımlar oluşturabilen Canva benzeri bir üretken yapay zeka web uygulamasıdır.
- Sağlık için bir yapay zeka koçu: Apple, Quartz adlı yapay zeka destekli bir sağlık koçluğu hizmeti kodu geliştiriyor. Bloomberg’den Mark Gurman’dan yeni rapor. Teknoloji devinin ayrıca duyguları takip etme teknolojisi üzerinde çalıştığı ve bu yıl iPhone Health uygulamasının bir iPad sürümünü piyasaya sürmeyi planladığı bildiriliyor.
- DoğrulukGPT: Fox ile yaptığı bir röportajda Elon Musk, TruthGPT adlı kendi sohbet robotunu geliştirmek istediğini söyledi; bu, “maksimum gerçeği arayan bir yapay zeka” olacak – bu ne anlama geliyorsa. Twitter sahibi, “zarardan çok fayda sağlamak” amacıyla OpenAI ve Google’a üçüncü bir seçenek oluşturma arzusunu dile getirdi. Gördüğümüzde inanacağız.
- AI destekli dolandırıcılık: Bir kongrede işitme Federal Ticaret Komisyonu’nun Amerikalı tüketicileri dolandırıcılık ve diğer aldatıcı uygulamalardan korumaya yönelik çalışmalarına odaklanan FTC başkanı Lina Khan ve diğer komisyon üyeleri, House temsilcilerini ChatGPT gibi modern yapay zeka teknolojilerinin dolandırıcılığı “güçlendirmek” için kullanılma potansiyeli konusunda uyardı. Uyarı, Komisyonun Amerikalıları teknolojik gelişmelerle ilgili haksız uygulamalardan korumak için nasıl çalıştığına ilişkin bir soruşturmaya yanıt olarak verildi.
- AB, yapay zeka araştırma merkezini kuruyor: Avrupa Birliği, dijital kural kitabının birkaç ay içinde büyük ölçüde yeniden başlatılmasını zorunlu kılmak için hızlanırken, bloğun amiral gemisi Dijital Hizmetler Yasası kapsamında büyük platformların gözetimini desteklemek için yeni bir özel araştırma birimi oluşturuluyor. Bu ay İspanya’nın Sevilla kentinde resmen açılışı yapılan Avrupa Algoritmik Şeffaflık Merkezi’nin Facebook, Instagram ve TikTok gibi ana akım dijital hizmetlerin algoritmalarının sorgulanmasında önemli bir rol oynaması bekleniyor.
- Snapchat yapay zekayı kucaklıyor: Bu ayki yıllık Snap İş Ortağı Zirvesi’nde Snapchat, kullanıcıları ve etraflarındaki nesneleri kozmik bir manzaraya taşıyan yeni bir “Kozmik Mercek” de dahil olmak üzere bir dizi yapay zeka güdümlü özelliği tanıttı. Snapchat ayrıca, stabil olmayan davranışı nedeniyle Snapchat’in uygulama mağazası listelerinde hem tartışmalara hem de tek yıldızlı incelemelerin akınına neden olan AI sohbet robotu My AI’yi tüm küresel kullanıcılar için ücretsiz hale getirdi.
- Google, araştırma bölümlerini birleştiriyor: Google bu ay ilan edildi Google DeepMind, DeepMind ekibinden ve Google Research’ten Google Brain ekibinden oluşan yeni bir birim. DeepMind’in kurucu ortağı ve CEO’su Demis Hassabis, bir blog gönderisinde Google DeepMind’in “yakın işbirliği içinde” çalışacağını söyledi. . . “Yapay zeka araştırması ve ürünleri sağlamak” için Google ürün alanlarında “.
- Yapay zeka tarafından üretilen müzik endüstrisinin durumu: Amanda kaç müzisyenin, çalışmalarını izinleri olmadan sahiplenen üretken yapay zeka teknolojisi için kobay haline geldiğini yazıyor. Örneğin, Drake’in AI derin sahtelerini ve Weeknd’in seslerini kullanan bir şarkının viral olduğunu, ancak hiçbir büyük sanatçının onun yaratılmasına dahil olmadığını belirtiyor. Grimes mı cevabı al? Kim söyleyecek? Cesur bir yeni dünya.
- OpenAI bölgesini işaretler: OpenAI, “Üretken Önceden Eğitimli Transformatör” anlamına gelen “GPT”yi ABD Patent ve Ticari Marka Ofisi ile markalaştırmaya çalışıyor – “sayısız ihlal ve sahte uygulamanın” ortaya çıkmaya başladığını öne sürüyor. GPT, ChatGPT ve GPT-4 dahil olmak üzere birçok OpenAI modelinin yanı sıra şirketin rakipleri tarafından oluşturulan diğer üretken AI sistemlerinin arkasındaki teknolojiyi ifade eder.
- ChatGPT kurumsallaşıyor: Diğer OpenAI haberlerinde OpenAI, ChatGPT için yeni bir abonelik katmanı sunmayı planladığını söylüyor. kurumsal müşterilerin ihtiyaçlarına göre uyarlanmıştır. ChatGPT Business olarak adlandırılan OpenAI, gelecek teklifi “verileri üzerinde daha fazla kontrole ihtiyaç duyan profesyonellerin yanı sıra son kullanıcılarını yönetmek isteyen işletmeler için” olarak tanımlıyor.
Diğer makine öğrenimleri
İşte ulaşamadığımız veya sadece bir notu hak ettiğini düşündüğümüz birkaç ilginç hikaye daha.
Açık kaynaklı AI geliştirme kuruluşu Stability, LLaMa temel dil modelinin ayarlanmış bir sürümünün önceki bir sürümünün yeni bir sürümünü yayınladı. buna StableVicuña diyor. Bildiğiniz gibi lamalarla akraba bir devegil türü. Endişelenmeyin, tüm türev modellerini takip etmekte sorun yaşayan tek kişi siz değilsiniz — bunlar, tüketicilerin bilmesi veya kullanması için değil, geliştiricilerin yetenekleri arttıkça test etmesi ve oynaması için vardır. her yinelemede rafine.
Bu sistemler hakkında biraz daha bilgi edinmek isterseniz, geçtiğimiz günlerde OpenAI kurucu ortağı John Schulman UC Berkeley’de burada dinleyebileceğiniz veya okuyabileceğiniz bir konuşma yaptı.. Tartıştığı şeylerden biri, LLM’lerin temelde başka bir şeyi nasıl yapacaklarını bilmedikleri için yalan söyleme alışkanlıklarının mevcut ürünüdür, örneğin “Aslında bundan emin değilim.” Bir çözüm varsa, insan geri bildiriminden pekiştirmeli öğrenmenin (bu RLHF ve StableVicuna onu kullanan bir modeldir) çözümün bir parçası olduğunu düşünüyor. Aşağıdaki dersi izleyin:
Stanford’da, algoritmik optimizasyonun ilginç bir uygulaması var (makine öğreniminin bir zevk meselesi olup olmadığını düşünüyorum) akıllı tarım alanında. Sulama ve “fıskiyelerimi nereye koymalıyım?” gibi basit problemler için israfın en aza indirilmesi önemlidir. ne kadar kesinlik elde etmek istediğinize bağlı olarak gerçekten karmaşık hale gelir.
Çok yakın ne kadar yakın? Müzede genellikle size söylerler. Ancak, bir zamanlar bir kubbede asılı olan, 10 metreye 100 metre boyutlarında, gerçekten muazzam bir resim çalışması olan ünlü Murten Panorama’ya bundan daha fazla yaklaşmanıza gerek kalmayacak. EPFL ve Birinci Aşama, önemli olacağını iddia ettikleri şeyi yapmak için birlikte çalışıyor. şimdiye kadar oluşturulmuş en büyük dijital görüntü — 150 megapiksel. Ah, pardon, 150 megapiksel çarpı 127.000, yani temelde 19… petapiksel? Birkaç büyüklük sırası dışında olabilirim.
Her neyse, bu proje panorama severler için harika ama aynı zamanda bireysel nesnelerin ve resim detaylarının süper yakın analizini gerçekten ilginç kılacak. Makine öğrenimi, bu tür eserlerin restorasyonu ve yapılandırılmış öğrenme ve bunlara göz atma konusunda büyük umut vaat ediyor.
Yine de canlı yaratıklar için bir tane yazalım: herhangi bir makine öğrenimi mühendisi size, görünürdeki yeteneklerine rağmen, AI modellerinin aslında oldukça yavaş öğrenen olduğunu söyleyecektir. Akademik olarak, elbette, ama aynı zamanda mekansal olarak da – otonom bir ajan, çevresi hakkında en temel anlayışı elde etmek için bile bir alanı saatler boyunca binlerce kez keşfetmek zorunda kalabilir. Ancak bir fare bunu birkaç dakika içinde yapabilir. Nedenmiş? University College London’daki araştırmacılar Bunu araştırıyorlar ve hayvanların belirli bir ortam hakkında neyin önemli olduğunu söylemek için kullandıkları, keşif sürecini seçici ve yönlendirilmiş hale getiren kısa bir geri bildirim döngüsü olduğunu öne sürüyorlar. AI’ya bunu yapmayı öğretebilirsek, gerçekten yapmasını istediğimiz buysa, evin içinde dolaşmak çok daha verimli olacaktır.
Son olarak, oyunlarda üretken ve konuşmaya dayalı yapay zeka için büyük umutlar olsa da… hala tam olarak orada değiliz. Aslında Square Enix, süper eski tarz bir işaretle ve tıkla macerasının “AI Tech Preview” versiyonuyla ortamı yaklaşık 30 yıl geriye götürmüş gibi görünüyor. Portopia Seri Cinayet Davası. Doğal dili entegre etme girişimi, akla gelebilecek her şekilde tamamen başarısız olmuş gibi görünüyor ve ücretsiz oyunu muhtemelen Steam’deki en kötü incelenen başlıklar arasında yapıyor. Shadowgate veya The Dig veya başka bir şey aracılığıyla sohbet etmekten daha çok istediğim bir şey yok, ama bu kesinlikle harika bir başlangıç değil.
Görsel Kaynakları: Kare Enix