Yapay zeka (AI) çılgınlığı tüm hızıyla devam ederken, Meta iki hafta önce duyurdu LLaMA’nın piyasaya sürülmesi, açık kaynaklı dil modeli. Her şeyden önce araştırmaya adanmıştır ve yalnızca talep eden araştırmacılar tarafından kullanılabilir. Ancak 3 Mart’ta tüm sistem 4chan forumuna sızdırıldı, herkesin indirmesine izin veriyor. Bu olay tartışmayı açtıbilimsel topluluk içinde, bu tür bir dil modelini herkes için erişilebilir kılma ihtiyacı üzerine.
LLaMA ücretsiz indirme
Aldı LLaMA’nın yasa dışı olarak kamuya açıklanması için yalnızca bir hafta. ” Meta’nın 65 milyar parametreli dil modeli internette yeni paylaşıldı, hızlıydı “, gerçeklerin olduğu sırada siber güvenlik araştırmacısı Jeffrey Ladish Twitter’da yazdı. hazırlamayı tavsiye ediyor tonlarca kişiselleştirilmiş spam ve kimlik avı girişimi almak için. Bu modeli açık kaynak yapmak çok kötü bir fikirdi “.
Meta’nın 65 milyar parametreli dil modeli az önce halka açık internete sızdırıldı, bu çok hızlıydı.
Bir sürü kişiselleştirilmiş spam ve kimlik avı girişimine hazır olun. Bu modelleri açık kaynak yapmak berbat bir fikirdi
—Jeffrey Ladish (@JeffLadish) 4 Mart 2023
Meta, basın açıklamasında LLaMA’nın şu an için sadece bilim adamları için. amaç anlamaktır yapay zeka nasıl çalışıriçin çalışmak yanlılık riskini düzeltin Ve çözümler geliştirmek dil kalıplarının bireylere veya topluluklara zarar verebilecek zararlı içerik oluşturmasını önlemek için.
Böyle bir teknolojiyi herkese açık hale getirmek, kötü niyetli kullanıcıların kötü amaçlı uygulamalar için kullanın. Bir basın brifinginde, Meta’nın IA şubesinin genel müdürü Joëlle Pineau, ” bazı kişiler onay sürecini atlatmaya çalıştı “. Sordu SınırLLaMA’ya yasal olarak erişim sağlayan bir yapay zeka araştırmacısı olan Matthew Di Ferrante, 4chan’daki indirilebilir modelin Meta’ya ait olduğunu doğruladı.
Açık kaynak tartışması
Teknoloji devinin dil modeli sızıntısı ortaya çıktı bu teknolojilerin kodlarına ücretsiz erişim üzerine bir tartışma. İki karşıt kamp. Bir yandan, kime ait olduğu insanlar AI güvenlik açıklarını kapsamlı bir şekilde test etmenin tek yolu ve riskleri azaltmak için çözümler bulmak. Öte yandan, buna karşı çıkan insanlar, AI daha sofistike hale geldikçe riskler artıyordaha tehlikeli hale getiriyor.
Matthew Di Ferrante daha incelikli. açıkladı Sınır dil modellerini açık kaynak yapmanın “ kendimizi bir tekel durumunda bulmaktan kaçınmanın bir yolu “. Bu sayede Meta’nın üniversitelerinde veya ortak kurumlarında çalışmayan bağımsız geliştiriciler ve araştırmacılar, bu teknolojilere erişebilir.
Son olarak, birçok kişi LLaMA’nın kötü niyetli kullanımının risklerini kınarken, yapay zeka araştırma laboratuvarı EleutherAI yöneticisi Stella Biderman, ” Çoğu insan gerekli donanıma sahip olmamak LLaMA’nın etkin bir şekilde bir yana, bütünüyle çalışmasını sağlamakS”. Teknik engel argümanı dil modelini herkese açık hale getirmek için Meta’yı zorlayabilir gelecek günlerde.
