Geliştiricilerin büyük çoğunluğu üretkenliği artırmak ve yazılım zorluklarına ayak uydurmak için üretken yapay zeka sistemlerinin kullanılmasının gerekli olacağına inanıyor ancak fikri mülkiyet sorunları ve güvenlik kaygıları benimsenmeyi engellemeye devam ediyor.
Geliştiricilerin yaklaşık %83’ü yapay zekayı benimsemenin gerekli olduğuna inanıyor veya geride kalma riskiyle karşı karşıyalar, ancak %32’si yapay zekayı süreçlerine dahil etme konusunda endişeli. Geliştirme hizmetleri firması GitLab tarafından bu hafta yayınlanan bir ankete göre, bunların neredeyse yarısı (%48) yapay zekanın kodlarının fikri mülkiyet korumasını kirletebileceğinden endişe ediyor ve %39’u yapay zeka tarafından oluşturulan kodlarda daha fazla güvenlik açığı bulunacağından endişe ediyor . Geliştiricilerin üçte birinden fazlası yapay zeka sistemlerinin kendilerinin yerini alabileceğinden veya işlerini ortadan kaldırabileceğinden endişe ediyor.
GitLab’ın CISO’su Josh Lemos, geliştiricilerin genel olarak üretken yapay zeka sistemlerinin kendilerini daha verimli hale getirebileceğini gördüğünü ancak nihai etkiler konusunda endişelendiğini söylüyor (yazarla hiçbir ilişkisi yok).
“Gizlilik ve veri güvenliği endişeleri [large language models] hâlâ girişe engel teşkil ediyor, [as well as] kod önerilerinin kalitesi” diyor. “İster kod ister iş akışınızdaki diğer işlevler olsun, üretken yapay zeka özelliklerinden en iyi şekilde nasıl yararlanabileceğinizi anlamak, insanların çalışma şeklini değiştirecek ve onların bilinçli olarak yeni bir yaklaşımı benimsemeleri gerekecek kod tabanlarıyla etkileşime girme yaklaşımı.”
Üretken yapay zekanın ikili doğasından endişe duyanlar yalnızca geliştiriciler değil. Rapora göre, şirket yönetim kurulu üyelerinin yarısından fazlası (%59) üretken yapay zeka konusunda, özellikle de çalışanlar tarafından ChatGPT gibi hizmetlere yüklenen gizli bilgilerin sızmasıyla ilgili endişeler taşıyor “Siber Güvenlik: 2023 Yönetim Kurulu Perspektifi,” Proofpoint tarafından bu hafta yayınlandı. Ayrıca, saldırganların kimlik avı saldırılarını ve diğer teknikleri geliştirmek için üretken yapay zeka sistemlerini benimsemesi de endişe kaynağı haline geldi.
Proofpoint’in CISO’su Ryan Witt, kurulların CISO’ları savunmalarını güçlendirmeye çağırdığını söylüyor.
“Savunuculara yönelik bir araç olarak üretken yapay zeka, özellikle yüksek lisans (LLM) (büyük dil modelleri) kullandığınız durumlarda perde arkasında çalışmak açısından kritik önem taşıyor” diyor. “Kötü aktörler için, iyi yazılmış kimlik avı ve iş e-postası kampanyaları oluşturmak artık çok daha kolay ve ölçeklenebilir hale geldi. Son kullanıcılara bariz gramer, bağlam ve söz dizimi hatalarını aramalarının tavsiye edildiği günler geride kaldı.”
Yapay Zekanın Parça Parça Benimsenmesi
Şirketler, bilgi çalışanlarının günlük görevlerini hızlandırmanın bir yolu olarak üretken yapay zekayı keşfetmeye hızla yöneldi. Microsoft ve Kaspersky gibi bazı şirketler, güvenlik analistlerini güçlendirmenin bir yolu olarak yeniden satmak veya şirket içinde kullanmak üzere Yüksek Lisans’a dayalı hizmetler oluşturdu. GitHub, GitLab ve diğer geliştirici hizmetleri sağlayıcıları, programcıların daha verimli kod üretmelerine yardımcı olmayı amaçlayan benzer sistemler yayınladı.
Genel olarak geliştiriciler yapay zeka sayesinde verimlilik artışları (%55) ve daha hızlı geliştirme döngüleri (%44) gördü veya görmeyi umuyor. GitLab’ın son anketine göre. Ancak %40’ı yapay zekayı benimseyerek daha güvenli kod gelmesini beklerken, %39’u yapay zeka tarafından oluşturulan kodda daha fazla güvenlik açığı bekliyor.
Genel olarak, geliştiriciler yapay zekayı benimseme konusunda daha ayrıntılı hale gelecek, üretken yapay zekanın belirli uygulamalarını kolayca kabul ederken diğerlerine direnecekler. Örneğin GitLab’ın Lemos’u, özellikle güncellemedeki notların düzinelerce veya yüzlerce yorum içerdiği durumlarda, üretken yapay zekanın bir kod güncellemesinden veya birleştirme isteğinden kısa bir özet oluşturma yeteneğinin en ilgi çekici olduğunu düşünüyor.
“Olan her şeyin kısa bir özetini alıyorum” diyor. “Konunun tamamını okumadan birkaç saniye içinde bu sorunla ilgili neler olup bittiğini öğrenebilirim.”
Yapay Zeka Zaten İş Yaratıyor mu?
Yapay zekayla ilgili yaygın endişelerden biri de sistemlerin geliştiricilerin yerini almasıdır: Geliştiricilerin %36’sı, bunların yerini bir yapay zeka sisteminin alacağından endişe ediyor. Ancak GitLab araştırması, yıkıcı teknolojilerin insanlar için daha fazla iş anlamına geldiği yönündeki argümanlara da daha fazla ağırlık verdi: Şirketlerin neredeyse üçte ikisi, yapay zeka uygulamalarının yönetilmesine yardımcı olması için çalışanları işe aldı.
Endişenin bir kısmı kuşaklarla ilgili gibi görünüyor. Lemos, daha deneyimli geliştiricilerin yapay zeka sistemleri tarafından yapılan kod önerilerini kabul etme eğiliminde olmadığını, ancak daha genç geliştiricilerin bunları kabul etme olasılığının daha yüksek olduğunu söylüyor. Ancak her ikisi de dokümantasyon ve birim testleri oluşturma gibi en sıkıcı işlerde kendilerine yardımcı olması için yapay zekaya bakıyor.
“Dokümantasyonlarının yapay zeka tarafından yazılması veya test içeriğinin yapay zeka tarafından yazılması fikrini gündeme getiren çok daha fazla geliştirici görüyorum, çünkü kodun kalitesine daha az önem veriyorlar, sadece testin işe yaramasını önemsiyorlar” diyor. “Daha iyi test kapsamına sahip olmanın hem güvenlik hem de geliştirme avantajı var ve bu, üzerinde zaman harcamak zorunda olmadıkları bir şey.”
Proofpoint’ten Witt, yapay zekanın geliştiricilere en sıradan görevlerde yardımcı olabileceğini ancak saldırganların da öğrendiğini söylüyor. Şirketlerin yapay zekanın siber güvenlik denkleminin bir tarafına veya diğer tarafına açıkça fayda sağlamasını beklememesi gerektiğini vurguluyor.
“Bu, yapay zeka ile geliştirilmiş savunmaların, yapay zeka ile iyileştirilmiş tehditler tarafından sürekli olarak zorlandığı ve bunun tersinin de geçerli olduğu bir kedi-fare oyununa dönüşebilir” diyor. “Tüm bunlar, siber güvenlik savunucularının sanal savaş alanında saldırganlarla eşleşebilmesi için yapay zeka teknolojisine sürekli yatırım gerektirecek.”
