New York City devlet okulları, okul ağları ve cihazlarında çeşitli konularda ve çeşitli stillerde metin üretebilen yapay zeka sistemi ChatGPT’ye erişimi kısıtladı. Bu sabah geniş çapta bildirildiği ve TechCrunch’a New York Şehri Eğitim Bakanlığı sözcüsü tarafından onaylandığı üzere, kısıtlama şu endişeler nedeniyle uygulandı: “[the] öğrencilerin öğrenmesi üzerindeki olumsuz etkiler” ve ChatGPT’nin ürettiği içeriğin “güvenliği ve doğruluğu”.
Sözcü e-posta yoluyla TechCrunch’a “Araç, sorulara hızlı ve kolay yanıtlar verebilirken, akademik ve yaşam boyu başarı için gerekli olan eleştirel düşünme ve problem çözme becerilerini geliştirmez” dedi. okullardan gelen talepler doğrultusunda erişim sağlandı.
Kendi başına bir yasak değil. New York şehri devlet okulu sistemi, aynı filtreyi aşağıdakiler için kullanıyor: ChatGPT okul mülkündeki diğer uygulamaları ve web sitelerini — örneğin YouTube ve Facebook — engellemek için kullandığını. Okullar, ChatGPT’nin engellemesinin kaldırılmasını talep edebilir ve sözcü, New York Şehri Eğitim Bakanlığı’nın, ChatGPT’nin arkasındaki girişim olan OpenAI ile aracın eğitime nasıl uyarlanabileceği hakkında bir konuşma yapma fırsatını “hoş karşılayacağını” söyledi.
OpenAI’ye gelince, yorum için ulaşıldığında, bir şirket sözcüsü, OpenAI’nin ChatGPT tarafından oluşturulan metni herkesin fark etmesine yardımcı olmak için “hafifletici önlemler” geliştirdiğini söyledi. Bu önemli. TechCrunch yakın zamanda OpenAI’nin yapay zeka tarafından oluşturulan metin için bir filigran tekniği denediğini bildirirken, OpenAI ilk kez özellikle ChatGPT’den gelen metni tanımlamaya yönelik araçlar üzerinde çalıştığını doğruladı.
“ChatGPT’yi, yetenekli, güvenli AI sistemleri geliştirmenin ve devreye almanın kritik bir parçası olduğuna inandığımız gerçek dünya kullanımından öğrenmek için bir araştırma ön izlemesi olarak kullanıma sunduk. OpenAI sözcüsü, sürekli olarak geri bildirimleri ve öğrenilen dersleri dahil ediyoruz” dedi. “Yapay zeka tarafından oluşturulan metnin kullanımı konusunda her zaman şeffaflık çağrısında bulunduk. Politikalarımız, kullanıcıların API’mizi ve yaratıcı araçlarımızı kullanırken hedef kitlelerine karşı açık sözlü olmalarını gerektirir… Yararlı çözümler ve öğretmenlerin ve öğrencilerin yapay zekadan faydalanmasına yardımcı olacak diğer yollar üzerinde eğitimcilerle birlikte çalışmayı dört gözle bekliyoruz.”
ChatGPT’nin şiirden kodlamaya kadar çeşitli konulardaki soruları yanıtlama yeteneği vardır, ancak en büyük kusurlarından biri, bazen kulağa inandırıcı gelen ancak gerçekte doğru olmayan yanıtlar verebilmesidir. Bu yol açtı Soru-Cevap kodlama sitesi Stack Overflow, kullanıcıları geçici olarak yasaklamak için yapay zeka tarafından oluşturulan içeriği paylaşmaktan, ChatGPT’nin kullanıcıların platformu şüpheli yanıtlarla doldurmasını çok kolaylaştırdığını söyleyerek. Yakın zamanda, dünyanın en büyük yapay zeka ve makine öğrenimi konferanslarından biri olan Uluslararası Makine Öğrenimi Konferansı, ilan edildi “beklenmedik sonuçlar” korkusuyla ChatGPT ve diğer benzer yapay zeka sistemleri tarafından oluşturulan metinleri içeren kağıtların yasaklanması.
Eğitimde, tartışma büyük ölçüde kopya çekme potansiyeli etrafında dönüyor. “Okul makaleleri yazmak için ChatGPT” için bir Google araması yapın ve ev ödevlerini ve standartlaştırılmış kompozisyon testlerini tamamlamak için ChatGPT’yi kullanarak suları test eden birçok eğitimci, gazeteci ve öğrenci örneği bulacaksınız. Wall Street Journal köşe yazarı Joanna Stern kullanılmış ChatGPT geçen bir AP İngilizce makalesi yazarken, Forbes çalışanı Emma Whitford dokundu iki üniversite makalesini 20 dakikada bitirmek. Konuşuyorum The Guardian’a Arizona Eyalet Üniversitesi profesörü Dan Gillmor, ChatGPT’ye öğrencilerine verdiği ödevlerden birini nasıl verdiğini ve yapay zekanın makalesinin “iyi bir not” alacağını nasıl bulduğunu hatırladı.
İntihal başka bir endişe kaynağıdır. Diğer metin üreten AI sistemleri gibi, genellikle izin alınmadan toplanan herkese açık veriler üzerinde eğitilen ChatGPT, bazen bu bilgileri herhangi bir kaynak göstermeden kelimesi kelimesine tekrarlayabilir. Buna, daha önce ima edildiği gibi olgusal yanlışlıklar ve önyargılı olanlar da dahildir. pervasızca ırkçı ve cinsiyetçi – bakış açıları. OpenAI, sorunlu metin oluşturmayı önlemek için filtreler ve teknikler sunmaya devam ediyor, ancak her gün yeni geçici çözümler ortaya çıkıyor.
Bu sınırlamalara ve sorunlara rağmen, bazı eğitimciler ChatGPT ve diğer üretken yapay zeka teknolojilerinde pedagojik potansiyel görüyor. Stanford’un Eğitim Enstitüsü web sitesinde yakın zamanda yayınlanan bir yazıda, Stanford’da eğitim profesörü olan Victor Lee, ChatGPT’nin öğrencilerin “şu anda düşünmedikleri şekillerde düşünmelerine” yardımcı olabileceğini, örneğin fikirlerini keşfetmelerine ve netleştirmelerine yardımcı olabileceğini belirtti. Temel içeriğin aynı kaldığı ancak stil, sözdizimi veya dilbilgisinin farklı olduğu bir anlatının öğrenciler için birçok örneğini oluşturarak öğretmenlerin de ChatGPT’den yararlanabileceğini öne sürüyor.
“ChatGPT olabilir [allow] öğrencilerin bu tür süreçlerin sıklıkla yol açtığı ıstırap veya hayal kırıklığı olmadan birçok kez okumaları, yansıtmaları ve gözden geçirmeleri, [while] öğretmenler aracı bir biçim veya türün birçok örneğini ve örneğini olmayanını oluşturmanın bir yolu olarak kullanabilirler,” dedi Lee Beyan. “Açıkçası, öğretmenler bilgisayarın öğrenciler için çok fazla ayak işi yapmasından daha az memnun. Ve öğrencilerin hala yazmayı öğrenmeleri gerekiyor. Ama ne şekilde ve ne tür yazı? Bu yeni tıbbın bir yan etkisi, hepimizin bu soruları sormamızı ve muhtemelen eğitimimizin kapsayıcı hedeflerinde ve yöntemlerinde bazı önemli değişiklikler yapmamızı gerektirmesidir.