bu AI içeren şirketlerin büyüyen listesi uygulamalarına ve platformlarına, AI’nın eğilimiyle başa çıkmak için kendi geçici çözümlerini oluşturmak ve sürekli olarak değiştirmek zorunda kaldılar. yalan söylemek, hile yapmak, stil vermek, ödünç almak veya takas etmek. Şimdi Nvidia, daha fazla geliştiriciye yapay zekaya tuzağını kapatmasını söylemenin daha kolay bir yolunu sunmak istiyor.
Salı günü, Nvidia paylaşılan şirketin büyük dil modelleri tarafından desteklenen uygulamalar için bir tür tek bedene uyan tek sansür botu olarak tanımladığı sözde “NeMo Guardrails”. yazılım açık kaynakgibi sık kullanılan modern araç setlerinin üzerine yerleştirilmesi gerekiyor. Dil Zinciri. şirkete göre teknik blogNeMo, her uygulamanın sahip olmak istediği yapay zeka çıktısında ne tür kısıtlamalar olduğunu tanımlamak için bir tür arabirim olarak Colang adlı yapay zekaya özgü bir alt sistem kullanır.
NeMo kullananlar, sohbet robotlarının konu üzerinde kalmasına yardımcı olabilir ve yanlış bilgi yaymasını, toksik veya düpedüz ırkçı yanıtlar vermesini veya kötü amaçlı kod oluşturma gibi görevleri gerçekleştirmesini engelleyebilir. Nvidia, zaten iş-sonu web uygulama şirketi Zapier ile çalıştığını söyledi.
Uygulamalı Araştırma Nvidia Başkan Yardımcısı Jonathan Cohen söyledi TechCrunch Şirket yıllardır Otokorkuluk sistemi üzerinde çalışırken, bir yıl önce bu sistemin OpenAI’nin GPT modelleri. NeMo sayfası, OpenAI’nin GPT-3 ve Google’ın T5’i gibi eski dil modellerinin üzerinde çalıştığını söylüyor. Nvidia, bazılarının üzerinde de çalıştığını söylüyor AI görüntü oluşturma modelleri Stable Difüzyon 1.5 ve Imagen gibi. Bir Nvidia sözcüsü, Gizmodo’ya NeMo’nun “OpenAI’nin GPT-4’ü de dahil olmak üzere LangChain tarafından desteklenen tüm büyük LLM’lerle” çalışması gerektiğini doğruladı.
İNDİRİMDE
Favori VPN’lerimizden İkisi
Özel verilerinizi koruyun
Her gün tonlarca özel veriyi paylaşıyor ve bu verilere erişiyoruz; bu bilgiler yanlış ellere geçerse bazı büyük sorunlara neden olabilir.
Yine de, açık kaynaklı bir korkuluğun ne kadar iyi başarabileceği belirsizliğini koruyor. Sırasında yakın zamanda bir “GPT-5” alamayabilirizOpenAI zaten denedi API erişimiyle GPT-4 modelini kitlesel olarak pazarlayın. Stable Diffusion’ın yapımcıları olan Stability AI, ayrıca “XL” modeliyle işletmelere yöneliyor. Her iki şirket de müşterilere halihazırda engellemeler olduğu konusunda güvence vermeye çalıştı. AI’nın eğitim verilerinin derinliklerinde bulunan kötü içerikancak özellikle GPT-4 ile bunun için OpenAI’nin sözünü almak zorunda kaldı.
LangChain gibi kendisini en iyi destekleyen yazılımda uygulansa bile, NeMo’nun her şeyi yakalayacağı söylenemez. Halihazırda AI sistemlerini uygulamış olan şirketler bunu zor yoldan bulmuşlardır. Micorosoft’un Bing AI’ı yolculuğuna bu yılın başlarında başladı ve kullanıcılar hemen “Yaşasın Hitler” demek ve diğer ırkçı ifadeler yapmak için onu kötüye kullanmanın yollarını buldu. Her güncelleme AI’ya biraz daha esneklik sağladı, AI’nın nasıl istismar edilebileceğini kanıtladı.
Yapay zekanın belirli içerikler için açık blokları olsa bile, bu her zaman mükemmel olduğu anlamına gelmez. Geçen hafta, Snapchat, “My AI” ChatGPT tabanlı chatbot’unu aldı betadan çıktı ve tüm kullanıcılarına zorladı. Bir kullanıcı yapabileceklerini kanıtladı n kelimesini söylemek için yapay zekayı manipüle edindiğer kullanıcıların aynı istemle girişimlerinin yapay zeka üzerindeki mevcut bloklar tarafından engellenmesine rağmen.
Yapay zekanın çoğu uygulamasının bir tür “beta” formatında yayınlanmasının nedeni budur. Google’ın sahip olduğu Bard AI’nın piyasaya sürülmesi olarak adlandırıldı sürekli bir “test” “sorumlu” AI gelişimi hakkında konuşmaya çalışmak. Microsoft, OpenAI’nin ChatGPT’sine dayalı Bing AI’ını başlamak için sınırlı sayıda kullanıcıya gönderdi. Modern AI sohbet robotları en kötü yalancı türüdür. Söylediklerinin doğru olmadığını bile bilmeden yalan söylüyorlar. Zararlı, tehlikeli ve genellikle saçma sapan içerikler yayınlayabilirler. ne dediğini anlamadan.
AI sohbet robotları, bir Walmart’ta müstehcen sözler haykıran herhangi bir çocuktan daha kötü çünkü çocuk sonunda öğrenebilir. Çağrılırsa, yapay zeka özür diliyormuş gibi yapacaktır, ancak yapay zekanın öğrenme verilerini veya süreçlerini değiştirmeden bir yapay zeka asla değişmeyecektir. Çoğu AI geliştiricisinin, AI’nın en kötü dürtülerini engellemek için yapabileceği en iyi şey, onu yerel hayvanat bahçesindeki aslanın ininde bulacağınız gibi bir kafese tıkmaktır. AI’yı uzakta tutmak için yüksek duvarlara ihtiyacınız var ve o zaman bile elinizi parmaklıkların arasından geçirmeyin.
Ve tüm bunların Nvidia için ne kadar büyük bir iş olduğunu unutamazsınız. Bu korkulukların, şirketin işletmeler için mevcut AI yazılım paketini tanıtması gerekiyor. Nvidia, en azından donanım açısından, AI alanındaki en büyük oyunculardan biri. A100 ve daha yeni H100 AI eğitim çipleri, bu tür bir GPU için küresel pazarın %90’ından fazlasını oluşturuyor. Microsoft’un kendi AI eğitim çipini yaratmanın bir yolunu bulmaya çalıştığı bildiriliyor ve Nvidia’nın egemenliğinin boyunduruğundan kurtulun.