Son haftalarda, ChatGPT ve Bing Chat gibi yapay zeka araçlarının kötü olduğunu düşünmenize neden olacak kaç başlık gördünüz? En az birkaç tane olduğuna bahse girerim. Ve sonra Reddit gibi yerlere gidersiniz.
Bu heyecan verici yeni ürünler, her türlü çevrimiçi işi yürütme biçimimizde gerçek bir devrimdir. Eğitildikleri büyük dil modelleri (LLM), öğrenmenize, sorun gidermenize, gününüzde zaman kazanmanıza yardımcı olabilecek bir dizi faydalı şey üretti.
Ancak, her şey gibi, bunun diğer tarafı “pekala, ona yapmamam gereken neyi yaptırabilirim” veya “aptalca şeyler (xyz) söylemesini nasıl sağlayabilirim” şeklindedir. Kaptın bu işi. İnsanların AI sohbet botlarını ortaya çıkardığı tüm aptalca saçmalıklar veya daha da kötüsü tehlikeli saçmalıklar hakkında bu kadar çok makale ve başlık görmekten gerçekten ama gerçekten bıktım. Bu sadece AI’nın problem olmadığını kanıtlıyor. Biz. İnsanlar en kötüsüdür.
AI LLM’ler insan yapımı kaynaklar üzerinde eğitilir
Neden bir yapay zeka sohbet robotu her şeyden önce kötü bir şey yapabilir? Çünkü eğitimini aldığı içeriği insanlar üretmiştir. Bu sihir değil. ChatGPT bir gün kendiliğinden yükselmedi. Her şey bizimle başlar. İnsanlarla.
Elbette yanılıyor olabilirim, ancak GPT’nin arkasındaki OpenAI mühendislerinin modeline korkunç şeyler dahil etmek için bilinçli bir karar aldıklarına inanmıyorum. GPT, diğer LLM’ler gibi, halihazırda dünyada olan içerik ve kaynaklar üzerinde eğitilmiştir. İçinde kötü şeyler varsa, bunun nedeni onu önce bir kişinin yapmış olmasıdır.
Yapay zeka yerine dikkat, hatta düzenleme ihtiyacını vurguluyor çünkü bir kişinin verebileceği duygusal tepki olmadan bu makine doğru yanıt olduğunu düşündüğü şeyi üretecektir. Yazılımda sınırlar vardır ve Microsoft’unkiler OpenAI’ninkinden bile daha sıkıdır, ancak kurşun geçirmez değildirler. Ve insanlar çok fazla çaba harcamadan etraflarından dolaşabilirler.
Yine de anlıyorum. “Bing Chat’ten aptalca bir şey yapmasını istedim ve o da aynı derecede aptalca bir yanıt verdi”, insanların tıkladığı başlık türüdür. Ondan Windows Phone hakkında bir şiir yazmasını isteyerek bunu kendim yaptım. Bunun mutlaka kötü olmadığını iddia ediyorum, ancak İnternet’teki sürekli aptalca şeyler yapan insanların yaylım ateşi yorucu olmaya başladı ve dikkati nasıl yapılacağından uzaklaştırdı. kullanışlı AI olabilir.
Size bir şeye aptalca bir cevap verdiyse, muhtemelen başlangıçta üzerinde eğitildiği aynı derecede aptalca bir şeye dayanıyordu. Ve ilk örnekte girilen bilgi istemi. Bizimle başlar ve biter.
Birisi onu bozmadan önce iyiye odaklanmaya başlayın
Bu konudan ilham aldım u/Cooltake’den aşağıdaki Reddit gönderisi. Bağlamı başlangıçta Bing Subreddit’e yönelikti, ancak şu anda daha geniş AI alanı için geçerli olduğunu düşünüyorum.
Nefret ettiğim gönderiler: “Bing’e XYZ dedirttim” ve “Bing, XYZ hakkındaki duygularını paylaşıyor” itibaren r/bing
Bu gönderide alıntılanan örnekler aşırı (ve umarız kurgusaldır), ancak asıl noktayı ortaya koymaktadır. Profesyonel kafamla, şu anda yapay zeka araçları konusunda gerçekten heyecanlıyım. Onları kullanmak ve onlar hakkında yazmak için çok zaman harcıyorum. Ama bu aynı zamanda bu türden pek çok cürufun içinden geçmek anlamına da geliyor.
Hepimiz eğlendik, ChatGPT ve Bing Chat’in saçma sapan şeyler söyleyebileceğini veya hiç söylememeleri gereken şeyleri söylemek için “jailbreak” yapılabileceğini biliyoruz. Ama şimdi bunu geçip olumluya odaklanmaya başlayabilir miyiz?
İşte size bir örnek. Daha bu öğleden sonra, hiç kodlama deneyimi olmayan biri olarak, Bing Chat ile nefis bir içgörü oturumu gerçekleştirdim ve bu oturum bana basit bir Python projesinde OpenAI’nin API’sini nasıl kullanacağımı öğretti. Acemi olduğumu anladı ve doğru istemle bana sorular sordu, örnek kod önerdi ve söz konusu kodu açıklamaya başladı. Sonra bana az önce gösterilen şeyi anlayıp anlamadığımı sordu. Ve inanılmaz bir şekilde yaptım.
Bu daha çok görmek istediğim türden bir şey. İnsanların yapay zekayı kendilerini ve hayatlarını daha iyi hale getirmek için nasıl kullandıklarını görmek istiyorum. Eğitmek, otomatikleştirmek, bu şeylerin kendimizi daha iyi hale getirmemize nasıl yardımcı olduğunu.
Bu araçları kırmak ve olumsuz bir dönüşle manşetler oluşturmak için çok fazla çaba harcanmaya devam edilirse, o zaman ne olacak? Bazı ülkelerde ChatGPT için zaten yasaklar var, AB daha fazlasını yapmakla tehdit ediyor ve daha iyi bilmesi gereken (ama bilmeyen) insanları bu araçların doğrudan ellerine geçeceğinden korkutuyor.
Öyleyse, pozitif hakkında daha fazla konuşmaya çalışalım. Bir anlamı olduğu ve kimseye zararı olmadığı sürece eğlenmek harikadır. Ancak insanların ChatGPT ve Bing Chat ile yaptıkları harika şeyler hakkında daha fazlasını duymak istiyorum. Öyleyse lütfen paylaşın.