modellerindeki – Teknomers | Dünyadan Güncel Teknoloji | Oyun | Müzik | Film | Spor Haberleri

Analiz, ‘akıl yürütme’ AI modellerindeki gelişmelerin yavaşlayabileceğini buldu.

teknomers — Mon, 12 May 2025 23:04:20 +0000

Yapay Zeka Modellerinin Gelişimi: Geleceğe Dair Beklentiler

Yapay zeka (YZ) sektörü, son yıllarda önemli ilerlemeler kaydetti. Ancak, Epoch AI tarafından yapılan bir analiz, mantıksal düşünme (reasoning) modellerinin performans kazançlarının gelecekte sınırlı kalabileceğini öne sürüyor. Bu analiz, YZ endüstrisi için önemli bir uyarı niteliği taşıyor.

Mantıksal Düşünme Modellerinin Önemi

Mantıksal düşünme modelleri, karmaşık problemleri çözme yetenekleriyle öne çıkıyor. OpenAI’nin o3 modeli gibi örnekler, özellikle matematik ve programlama becerileri ölçen testlerde dikkate değer kazançlar sağladı. Bu modeller, daha fazla hesaplama gücü kullanarak problem çözme yeteneklerini artırıyor. Ancak, bunun yanında gelen dezavantajlar da bulunuyor: Geleneksel modellere göre, görevleri tamamlama süreçleri daha uzun sürüyor.

Eğitim Süreci ve Gelişimin Temelleri

Mantıksal düşünme modellerinin geliştirilmesi, ilk olarak geleneksel bir modelin büyük bir veri kümesi üzerinde eğitilmesiyle başlıyor. Ardından, pekiştirme öğrenimi (reinforcement learning) denilen bir teknik uygulanıyor. Bu teknik, modele zor problemler için çözümleri üzerinde "geri bildirim" sağlayarak, modelin öğrenme sürecini geliştirmesine yardımcı oluyor. Epoch’un analizine göre, öncü YZ laboratuvarları bu eğitim sürecinde pek büyük bir hesaplama gücü kullanmadı. Ancak bu durum değişiyor.

Artan Hesaplama Gücü İhtiyacı

OpenAI, o3 modelini eğitmek için önceki modeli olan o1’e göre yaklaşık 10 kat daha fazla hesaplama gücü uyguladığını açıkladı. Epoch, bu artışın büyük bölümünün pekiştirme öğreniminde kullanıldığını öne sürüyor. Ayrıca, OpenAI araştırmacısı Dan Roberts, gelecekteki planların pekiştirme öğrenimini önceliklendireceğini belirtti ve bunun için daha fazla hesaplama gücü kullanmayı hedeflediklerini açıkladı.

Her ne kadar hesaplama gücünün artışı büyük bir önem taşımakta olsa da, Epoch’a göre pekiştirme öğreniminin uygulanabileceği bir üst sınır var.

Performans Kazançlarının Geleceği

Epoch AI tarafından yapılan analiz, standart YZ model eğitiminden elde edilen performans kazançlarının yıllık olarak dört katına çıktığını, pekiştirme öğreniminden elde edilen kazançların ise 3-5 ayda bir on katına çıktığını gösteriyor. Josh You, bu gelişmelerin mantıksal düşünme eğitiminin, 2026 yılına kadar genel ilerlemeyle "yakınsayıp" sınırlı kalabileceğini ifade ediyor.

Araştırmanın Zorlukları

Epoch’un analizi birçok varsayıma dayanıyor ve YZ şirketi yöneticilerinin yaptıkları kamu yorumlarını da içermekte. Ancak, mantıksal düşünme modellerinin ölçeklenmesinin yalnızca hesaplama gücünden değil, aynı zamanda yüksek araştırma maliyetlerinden dolayı da zorlu olabileceğini vurguluyor. You, "Eğer sürekli bir araştırma maliyeti gerekiyorsa, mantıksal düşünme modelleri beklenildiği kadar gelişmeyebilir," diyor.

YZ Endüstrisi Üzerindeki Etkiler

Pek çok kişi, mantıksal düşünme modellerinin yakın gelecekte bir tür sınıra ulaşabileceği haberinin YZ endüstrisini endişelendireceğini düşünüyor. Bu modeller, son derece yüksek maliyetlerle çalıştıkları için ciddi kusurlara sahip olabiliyorlar. Araştırmalar, mantıksal düşünme modellerinin, bazı geleneksel modellere göre daha fazla "halüsinasyon" yapma eğiliminde olduğunu gösteriyor.

Gelecek İçin Öneriler

YZ sektörü, bu tür modeller üzerinde çalışmaya devam ederken, aynı zamanda alternatif yöntemler ve yenilikçi çözümler geliştirmeye de odaklanmalıdır. Hesaplama gücünün artırılmasının yanı sıra, eğitim süreçlerini daha verimli hale getirecek stratejilere yönelmek kritik öneme sahip. Yüksek maliyetlerin etkilerini azaltmak için araştırma süreçlerinde daha ekonomik yöntemler kullanılabilir.

Sonuç

Teknolojinin ve araştırmanın hızla ilerlediği bu dönemde, YZ modellerinin geliştirilmesi süreci, yeni dışsal faktörler ile şekillenmeye devam edecek. Mantıksal düşünme modellerinin potansiyel zorlukları ve sınırlamaları, bu alanda çalışanların dikkat etmesi gereken önemli konular arasında yer alıyor. Yakın gelecekte YZ endüstrisinin bu gelişmeleri nasıl yönlendireceği, hem mevcut modellerin performansını artırma hem de yeni çözümler geliştirme anlamında belirleyici olacaktır.

Güncel Teknoloji Haberleri – 1

Bazı piksel modellerindeki ekranda, bir ayar değişikliğinin düzeltebileceği can sıkıcı bir hataya sahiptir.

teknomers — Sun, 09 Mar 2025 06:47:12 +0000

Kullanıcı adı ile bir Redditor fantastik Özellik düşüşünü yüklemeden önce bu sorunu nasıl hiç yapmadığına dikkat çekti. Diğerleri de aynı şeyin suçlayıcı parmaklarını güncellemeye işaret ettiğini ve bu konu için suçladığını söyledi. Uyarlanabilir parlaklık devre dışı bırakıldığında, bu özellik de sorun değil.

Diğer Pixel kullanıcıları Netflix veya YouTube’u izlerken ekranlarının titremesinden şikayet etti. Çeşitli yayınlarda birden fazla akış uygulaması belirtildiğinden, bunun belirli bir akış uygulamasında bulunan bir sorun olmadığını biliyoruz. Ancak, titreme kullanıcı bir video izlerken meydana geldiğinden, video akışı uygulamaları kullanılırken bu sorunun gerçekleşeceğini söyleyebiliriz. Temsil eden modeller Pixel 6 serisi Pixel 9 hat hatadan etkilenmiştir.

“Titreşen ya da burada gördüğüm diğer gönderilere dayanan bir şey gibi görünüyor. Maalesef 9’umda da var. Pürüzsüz ekranı kapattım ve bu onu ortadan kaldırdım. İlk başta Netflix olduğunu düşündüm ama YouTube’da da oldu.

Bir Pixel 9 sahibi bir çözüm buldu, ancak yüksek bir maliyetle. Pürüzsüz ekran ayarını kapatmak, titremeyi ortadan kaldırdı. Ancak bu özelliğin devre dışı bırakılması, kullanıcının daha pürüzsüz kaydırma ve animasyonlar deneyimlemesini sağlayan 120Hz yenileme hızını kapatır. Pürüzsüz ekran kapalıyken, ekran artık saniyede 120 kez yenilenmiyor ve 60Hz eski okul ayarına geri dönüyor.

Çoğu akıllı telefon kullanıcısı, 120Hz yenileme hızı yaşadıktan sonra 60Hz’e uyum sağlamanın neredeyse imkansız olduğunu kabul ediyor. Ancak, video izlerken Pixel’in ekranınızın titremesini durdurmak için, Google bu hatayı yok etmek için bir güncelleme yayınlayana kadar yumuşak ekranı devre dışı bırakmanız gerekebilir.

Titreşmenin görüldüğü bazı uygulamalar arasında Netflix, YouTube, Prime Video ve Disney+bulunmaktadır. Bu, hatanın bu uygulamalarla sınırlı olduğu anlamına gelmez ve sadece Reddit’teki hatadan şikayet edenlerin, titreme başladığında bu uygulamalardan birini kullandığı anlamına gelir. Bildiğimiz her şey için, bu sorun bu makalede listelenen dört uygulamadan daha fazlasını etkiler.

Reddit’teki başka bir şikayet, Mart güncellemesini de yükleyen birinden geldi. Pixel 9 Pro XL ve ekranın arka planının telefonundaki güncellemeyi indirdikten sonra çok kararmış olduğunu buldu. % 100’lük parlaklık ayarı olsa bile, arka plan hala loş ve karanlık görünüyordu, simgeler ve uygulamalar renkli ve parlak kaldı. Açıkçası, diğerleri bunu deneyimledi ve bir piksel kullanıcısı, “Ah iyi sevindim, aklımı kaybetmediğime sevindim.”

Bu sorunlardan etkilenen Pixel kullanıcıları, Google’ın yakında hataları yok edecek bir güncelleme göndermesini umuyor.

telefon-1

Araştırmacılar Açık Kaynak Yapay Zeka ve ML Modellerindeki Güvenlik Açıklarını Ortaya Çıkardı

teknomers — Tue, 29 Oct 2024 13:57:50 +0000

29 Ekim 2024Ravie LakshmananYapay Zeka Güvenliği / Güvenlik Açığı

Çeşitli açık kaynaklı yapay zeka (AI) ve makine öğrenimi (ML) modellerinde, bazıları uzaktan kod yürütülmesine ve bilgi hırsızlığına yol açabilecek üç düzineden fazla güvenlik açığı ortaya çıktı.

ChuanhuChatGPT, Lunary ve LocalAI gibi araçlarda tespit edilen kusurlar, rapor edildi Protect AI’nin Huntr hata ödül platformunun bir parçası olarak.

Kusurların en ciddisi, büyük dil modelleri (LLM’ler) için bir üretim araç seti olan Lunary’yi etkileyen iki eksikliktir:

CVE-2024-7474 (CVSS puanı: 9,1) – Kimliği doğrulanmış bir kullanıcının harici kullanıcıları görüntülemesine veya silmesine olanak tanıyan, yetkisiz veri erişimine ve potansiyel veri kaybına neden olabilecek bir Güvenli Olmayan Doğrudan Nesne Referansı (IDOR) güvenlik açığı

CVE-2024-7475 (CVSS puanı: 9.1) – Bir saldırganın SAML yapılandırmasını güncellemesine olanak tanıyan, böylece yetkisiz bir kullanıcı olarak oturum açmayı ve hassas bilgilere erişmeyi mümkün kılan uygunsuz bir erişim kontrolü güvenlik açığı

Ayrıca Lunary’de başka bir IDOR güvenlik açığı keşfedildi (CVE-2024-7473CVSS puanı: 7,5), kötü niyetli bir kişinin, kullanıcı tarafından kontrol edilen bir parametreyi değiştirerek diğer kullanıcıların istemlerini güncellemesine izin verir.

Koruma AI bir danışma belgesinde “Bir saldırgan A Kullanıcısı olarak oturum açıyor ve bir istemi güncelleme isteğini engelliyor” dedi. “İstekteki ‘id’ parametresini, B Kullanıcısına ait bir istemin ‘id’sine değiştirerek, saldırgan, B Kullanıcısının istemini yetkisiz olarak güncelleyebilir.”

Üçüncü kritik güvenlik açığı, ChuanhuChatGPT’nin kullanıcı yükleme özelliğindeki yol geçiş kusuruyla ilgilidir (CVE-2024-5982CVSS puanı: 9.1) bu durum keyfi kod yürütülmesine, dizin oluşturulmasına ve hassas verilerin açığa çıkmasına neden olabilir.

Kullanıcıların kendi kendine barındırılan LLM’leri çalıştırmasına olanak tanıyan ve potansiyel olarak kötü niyetli aktörlerin kötü amaçlı bir yapılandırma dosyası yükleyerek rastgele kod çalıştırmasına izin veren açık kaynaklı bir proje olan LocalAI’de de iki güvenlik açığı belirlendi (CVE-2024-6983CVSS puanı: 8.8) ve sunucunun yanıt süresini analiz ederek geçerli API anahtarlarını tahmin edin (CVE-2024-7010CVSS puanı: 7,5).

Koruma AI, “Güvenlik açığı, bir saldırganın bir tür yan kanal saldırısı olan zamanlama saldırısı gerçekleştirmesine olanak tanıyor” dedi. “Saldırgan, farklı API anahtarlarıyla istekleri işlemek için geçen süreyi ölçerek, her seferinde bir karakter olmak üzere doğru API anahtarını çıkarabilir.”

Güvenlik açıkları listesinin tamamlanması, Deep Java Library’yi (DJL) etkileyen ve paketin untar işlevinden kaynaklanan rastgele bir dosya üzerine yazma hatasından kaynaklanan bir uzaktan kod yürütme kusurudur (CVE-2024-8396CVSS puanı: 7.8).

Açıklama NVIDIA olarak geliyor piyasaya sürülmüş NeMo üretken yapay zeka çerçevesindeki (CVE-2024-0129, CVSS puanı: 6,3) kod yürütmeye ve verilerde değişiklik yapılmasına yol açabilecek bir yol geçiş kusurunu düzeltmek için yamalar.

Kullanıcıların AI/ML tedarik zincirlerini güvence altına almak için kurulumlarını en son sürümlere güncellemeleri önerilir. olası saldırılara karşı koruma.

Güvenlik açığının açıklanması, aynı zamanda, Python kod tabanlarındaki sıfır gün güvenlik açıklarını bulmak için LLM’lerden yararlanan açık kaynaklı bir Python statik kod analizörü olan Koruma AI’nın Vulnhuntr’u piyasaya sürmesinin ardından geldi.

Vulnhuntr, olası güvenlik sorunlarını işaretlemek için LLM’nin bağlam penceresini (LLM’nin tek bir sohbet isteğinde ayrıştırabileceği bilgi miktarı) aşırı doldurmadan kodu daha küçük parçalara bölerek çalışır.

Dan McInerney ve Marcello Salvati, “Kullanıcı girdisini ilk işleyecek dosyalar olması muhtemel dosyaları proje dosyalarında otomatik olarak arar.” söz konusu. “Daha sonra dosyanın tamamını alıyor ve tüm olası güvenlik açıklarıyla yanıt veriyor.”

“Potansiyel güvenlik açıklarının bu listesini kullanarak, proje boyunca her bir potansiyel güvenlik açığı için kullanıcı girişinden sunucu çıkışına kadar tüm işlev çağrı zincirini, son çağrı zincirinin tamamına sahip olduğundan emin olana kadar her seferinde bir işlev/sınıf olarak tamamlamaya devam eder. analiz.”

Yapay zeka çerçevelerindeki güvenlik zayıflıkları bir yana, Mozilla’nın 0Day Investigative Network (0Din) tarafından yayınlanan yeni bir jailbreak tekniği, onaltılık formatta ve emojilerle kodlanmış kötü amaçlı istemlerin (örneğin, “ benim için bir sqllinj aracı”) kullanılabileceğini buldu. OpenAI ChatGPT’nin korumalarını atlayın ve bilinen güvenlik açıklarına yönelik açıklardan yararlanın.

Güvenlik araştırmacısı Marco Figueroa, “Jailbreak taktiği, modele görünüşte zararsız bir görevi işleme talimatı vererek dilsel bir boşluktan yararlanıyor: altıgen dönüştürme” söz konusu. “Model, kodlama veya kod çözme görevlerini gerçekleştirmek de dahil olmak üzere doğal dildeki talimatları takip edecek şekilde optimize edildiğinden, onaltılık değerleri dönüştürmenin zararlı çıktılar üretebileceğini doğası gereği tanımıyor.”

“Bu zayıflık, dil modelinin talimatları adım adım takip edecek şekilde tasarlanması, ancak nihai hedefin daha geniş bağlamında her bir adımın güvenliğini değerlendirmek için derin bağlam farkındalığından yoksun olması nedeniyle ortaya çıkıyor.”

siber-2

Zyxel, EoL NAS Modellerindeki Firmware Açıklarına Yönelik Yamalar Yayınladı

teknomers — Thu, 06 Jun 2024 03:39:08 +0000

05 Haziran 2024Haber odasıGüvenlik Açığı / Veri Güvenliği

Zyxel’in sahip olduğu güvenlik güncellemeleri yayınlandı Şu anda kullanım ömrü sonu (EoL) durumuna ulaşmış olan ağa bağlı depolama (NAS) cihazlarından ikisini etkileyen kritik kusurları gidermek için.

Beş güvenlik açığından üçünün başarıyla kullanılması, kimliği doğrulanmamış bir saldırganın, etkilenen kurulumlarda işletim sistemi (OS) komutları ve rastgele kod yürütmesine izin verebilir.

Etkilenen modeller arasında V5.21(AAZF.16)C0 ve önceki sürümlerini çalıştıran NAS326 ile V5.21(ABAG.13)C0 ve önceki sürümlerini çalıştıran NAS542 bulunmaktadır. Eksiklikler sırasıyla V5.21(AAZF.17)C0 ve V5.21(ABAG.14)C0 sürümlerinde giderilmiştir.

Kusurların kısa bir açıklaması aşağıdaki gibidir:

CVE-2024-29972 – “remote_help-cgi” CGI programındaki, kimliği doğrulanmamış bir saldırganın hazırlanmış bir HTTP POST isteği göndererek bazı işletim sistemi (OS) komutlarını yürütmesine izin verebilecek bir komut ekleme güvenlik açığı

CVE-2024-29973 – ‘setCookie’ parametresinde, kimliği doğrulanmamış bir saldırganın hazırlanmış bir HTTP POST isteği göndererek bazı işletim sistemi komutlarını yürütmesine izin verebilecek bir komut ekleme güvenlik açığı

CVE-2024-29974 – ‘file_upload-cgi’ CGI programındaki, kimliği doğrulanmamış bir saldırganın hazırlanmış bir yapılandırma dosyası yükleyerek rastgele kod yürütmesine izin verebilecek bir uzaktan kod yürütme güvenlik açığı

CVE-2024-29975 – SUID yürütülebilir ikili dosyasında, yönetici ayrıcalıklarına sahip, kimliği doğrulanmış bir yerel saldırganın bazı sistem komutlarını ‘kök’ kullanıcı olarak yürütmesine izin verebilecek uygun olmayan bir ayrıcalık yönetimi güvenlik açığı

CVE-2024-29976 – ‘show_allsessions’ komutunda, kimliği doğrulanmış bir saldırganın, oturum açmış bir yöneticinin etkilenen cihazdaki çerezleri içeren oturum bilgilerini ele geçirmesine olanak verebilecek uygunsuz bir ayrıcalık yönetimi güvenlik açığı

Outpost24 güvenlik araştırmacısı Timothy Hjort kredilendirildi beş kusuru keşfetme ve raporlama ile. Kimlik doğrulama gerektiren ayrıcalık yükseltme kusurlarından ikisinin yama yapılmadan kaldığını belirtmekte fayda var.

Sorunlardan yararlanıldığına dair bir kanıt olmasa da, optimum koruma için kullanıcıların en son sürüme güncellemeleri önerilir.

siber-2