Yapay zeka sadece sosyal medyayı çöple doldurmakla kalmıyor, aynı zamanda açık kaynak programlama topluluğunu da etkiliyor. Aynı şekilde, X’in Topluluk Notları gibi doğrulama araçları da çürütmek için mücadele etmek Açık kaynak projelerine katkıda bulunanlar, yanlış bilgi seli nedeniyle yapay zeka kod oluşturma araçları kullanılarak oluşturulan hata raporlarının değerlendirilmesi ve bunların çürütülmesi için harcanan zamandan yakınıyor.
Kayıt rapor edildi Bugün Seth Larson’un yakın zamanda bir blog yazısında dile getirdiği bu tür endişeler hakkında. Python Yazılım Vakfı’nda yerleşik bir güvenlik geliştiricisi olan Larson, “açık kaynaklı projelere yönelik son derece düşük kaliteli, spam içerikli ve LLM halüsinasyonlu güvenlik raporlarında” bir artış fark ettiğini söylüyor.
Larson, “Bu raporlar ilk bakışta potansiyel olarak meşru gibi görünüyor ve bu nedenle çürütülmesi zaman alıyor” diye ekledi. İnternetin büyük bir kısmına güç veren açık kaynaklı projeler (yani Python, WordPress, Android) için potansiyel olarak büyük bir sorun olabilir, çünkü bunlar genellikle ücretsiz katkıda bulunan küçük gruplar tarafından sürdürülür. Her yerde bulunan kod kitaplıklarındaki meşru hatalar, kötüye kullanılmaları halinde potansiyel olarak geniş bir etki alanına sahip oldukları için tehlikeli olabilir. Larson, yalnızca nispeten az sayıda yapay zeka tarafından oluşturulan önemsiz rapor gördüğünü ancak sayının arttığını söyledi.
Başka bir geliştirici Daniel Sternberg, bir hata göndereni çağırdı Yapay zeka kullanılarak oluşturulduğuna inandığı bir raporla zamanını boşa harcadığı için:
Muhtemelen bir yapay zekanın sizi buna inandırması nedeniyle bir güvenlik sorunu olduğunu söylediğiniz, bariz bir yapay zeka çöküşü ‘raporu’ sundunuz. Daha sonra bize bir yapay zekanın bunu sizin için yaptığını söylemeyerek zamanımızı boşa harcıyorsunuz ve ardından görünüşe göre yine yapay zeka tarafından üretilmiş olan daha da saçma yanıtlarla tartışmaya devam ediyorsunuz.
Kod oluşturma, büyük dil modelleri için giderek daha popüler hale gelen bir kullanım durumudur; ancak birçok geliştirici, bunların gerçekten ne kadar yararlı olduğu konusunda hala fikir ayrılığına sahiptir. GitHub Copilot veya ChatGPT’nin kendi kod oluşturucusu gibi programlar, herhangi bir projeyi başlatmak için temel iskelet kodu olan iskele oluşturmada oldukça etkili olabilir. Ayrıca, geliştiricilerin ihtiyaç duyabilecekleri küçük kod parçacıklarını hızlı bir şekilde bulmalarına olanak tanıyarak, bir geliştiricinin aşina olmayabileceği bir programlama kitaplığındaki işlevleri bulmak için de yararlı olabilirler.
Ancak herhangi bir dil modelinde olduğu gibi, halüsinasyon görecekler ve yanlış kodu ya da yalnızca kısmi parçacıkları üretecekler. Kodu “anlamıyorlar”; onlar sadece daha önce gördüklerine dayanarak ne isteyebileceğinizi tahmin eden olasılık makineleri. Eksiksiz bir proje üretebilmek için geliştiricilerin, sorunları ayıklamak için birlikte çalıştıkları programlama dilini temel olarak anlamaları ve ne oluşturmaya çalıştıklarını, kodun tüm bağımsız parçalarının nasıl bir araya getirildiğini bilmeleri gerekiyor. Bu nedenle alandaki uzmanlar, bu araçlardan en doğrudan etkilenecek olanların genç geliştiriciler olacağını söylüyor. Sadece yapay zeka kullanılarak yapılabilecek basit uygulamalar muhtemelen daha önce de oluşturulmuştu.
HackerOne gibi platformlar başarılı hata raporları için ödüller sunuyor; bu da bazı kişileri ChatGPT’den kusurlar için bir kod tabanı aramasını istemeye ve ardından LLM’nin döndürdüğü hatalı olanları göndermeye teşvik edebilir.
Spam internette her zaman mevcuttu, ancak yapay zeka spam’in oluşturulmasını çok daha kolay hale getiriyor. Kendimizi, bununla mücadele etmek için kullanılan giriş ekranları için CAPTCHA’lar gibi daha fazla teknoloji gerektiren bir durumda bulmamız mümkün görünüyor. Talihsiz bir durum ve herkes için büyük bir zaman kaybı.
