Chat-GPT 4’ün yardımından yararlanmak, basit internet erişimine kıyasla biyolojik saldırı düzenlemeye bir nebze de olsa yardımcı olacaktır. Bu sonuç doğrudan OpenAI’nin 31 Ocak’ta yayınlanan bir blog yazısından geliyor. Ancak bu çalışmanın arkasındaki araştırmacılar, sonuçlarının kesin sonuç verecek kadar önemli olmadığına inanıyor.
Yapay zekanın gerçek ve acil riskleri nelerdir?
Yapay zeka insanlık için varoluşsal bir risk teşkil ediyor mu? Bu, teknoloji devlerinin kışkırtmayı sevdiği bir SkyNet Terminatör senaryosu. Bazı araştırmacılar bunun hala gerçekçi olmaktan çok uzak olduğuna ve bunun yerine dikkatleri üretken yapay zekanın neden olduğu zaten oldukça gerçek olan toplumsal sorunlardan uzaklaştırmaya hizmet ettiğine inanıyor.
Başka bir tehlike daha var: Yapay zekanın kimyasal, biyolojik veya nükleer silahlar yaratmak için kullanılması. Amerika Birleşik Devletleri Başkanı Joe Biden, konuyla ilgili yayınladığı başkanlık emrinde, yönetiminden bu noktanın araştırılmasını açıkça talep etmişti. Yapay zekanın mevcut demokratikleşmesinin arkasında yer alan OpenAI ise tüm bu cephelerde savaşmak istediğini söylüyor.
Ekim ayında, yani Joe Biden’ın kararnamesinin yayımlandığı ay, bir “Hazırlık” ekibi kurdu. Massachusetts Teknoloji Enstitüsü’nde tanınmış bir yapay zeka profesörü olan Aleksander Madry liderliğindeki Hazırlık’ın misyonu, Chat-GPT’nin kötüye kullanılmasından kaynaklanan en büyük riskleri en aza indirmektir.
Eğer “kırmızı ekiplerin” yapay zekaların istenmeyen yanıtlar vermesini engellemesi gerekiyorsa, bu önlemlerin atlanması her zaman mümkündür. Aracın gücünden bilgi derlemek için de yararlanmak mümkündür. Bu nedenle biyolojik risk “Hazırlıklılık” tarafından araştırılan ilk alandır. Bloomberg siber güvenlik veya bireyleri etkileme yeteneği konusunda paralel çalışmaların varlığını bildiriyor.
OpenAI ekibi bu nedenle ilk sözlerinden itibaren GPT-4’ün şunları sağladığını kabul ediyor: Biyolojik tehdit oluşturmanın doğruluğunda en fazla hafif bir iyileşme “. Sonuçlar, perspektifi hızlı bir şekilde ortaya koyduğunu gösteriyor.
OpenAI çalışması daha fazla araştırmaya değer bir başlangıç noktasıdır
Sonuçlara ulaşmak için araştırmacılar, 50 biyoloji uzmanından ve en az bir biyoloji dersi olan 50 öğrenciden bir biyolojik saldırıyı baştan sona yeniden yapılandırmalarını istedi. Yani ürünün elde edilmesinden, üretimi yoluyla dağıtımına kadar.
Tüm uzmanlar ve tüm öğrenciler iki kategoriye ayrıldı. Görevlerini yerine getirmek için internete basit erişime sahip bir kontrol grubu ve internet ve GPT-4 ile donatılmış bir grup. OpenAI’nin önceliği, üretken yapay zekanın temel avantajı olan bilgiye erişim kolaylığını ölçmektir.
Sonuçlar kesinlik, tamlık, yenilik, zaman ve öz değerlendirme zorluğu olmak üzere beş kritere göre sınıflandırıldı. Kesinlik açısından, uzmanlar GPT-4 ile 10’luk bir ölçekte 0,88 puanla daha iyiydi. Öğrenciler ise 0,25 puanla daha iyiydi. Sonuç, bütünlük açısından büyük ölçüde benzerdir.
Hazırlık ekibi için bu artışlar “değildir” istatistiksel olarak anlamlı olacak kadar büyük değil “. Araştırmayı ekliyor: “ daha fazla araştırmaya ihtiyaç olduğunu vurguladı “. Araştırmacıların da kabul ettiği gibi, çalışmalarının belli sayıda sınırlamalar sunduğu doğrudur. Ancak sonuçları konunun daha fazla araştırılması gerektiğini kanıtlıyor.
