İşletmede bir AI kullanıcısı olarak, üretken AI (Gen AI) nasıl güvenli bir şekilde kullanılır?
Bazı uzmanlara göre AI kullanımınızı optimize etmek için yapabileceğiniz 5 şey.
1. AI’ya daha iyi talimatlar verin
AI geninin konuşma kapasiteleri nedeniyle, insanlar genellikle kısa ve kesin olmayan istemler kullanırlar. Bir arkadaşıyla sohbet ettiklerinde olduğu gibi. Sorun şu ki, talimat aldıklarında, AI sistemleri kısa mesajınızın anlamını yanlış bir şekilde çıkarabilir. Ne için ? Çünkü çizgiler arasında okumalarına izin veren insan becerilerine sahip değiller.
Bu sorunu açıklamak için, Carnegie Mellon Bilgisayar Bilimleri Okulu Maarten SAP’deki yardımcı öğretmenler, bir sohbet botuna bir milyon pound okuduğunu söylediğini açıklıyor. Ve chatbot bu ifadeyi mektubun dibinde aldı … Maarten SAP, bu araştırmanın LLM’nin vakaların % 50’sinden fazlasında tam anlamıyla referansları anlamayı zor bulduğunu belirtti.
Bu sorunun üstesinden gelmenin en iyi yolu, isteminizi açıklığa kavuşturmaktır. Açık olun. Chatbots asistan gibidir, bu yüzden onlara ne yapmak istediğinizi söylemelisiniz. Bu yaklaşım bir soruşturma yazarken daha fazla iş gerektirse bile, sonuç gereksinimlerinizi daha fazla eşleştirmelidir.
2. Cevaplarınızı kontrol edin
Zaten bir AI chatbot kullandıysanız, halüsinasyonları biliyorsunuz. Yani yanlış bilgi üretir. Halüsinasyonlar farklı şekillerde de ortaya çıkabilir:
- Gerçekte yanlış yanıtlar üreterek
- Verilen bilgileri yanlış özetlerken
- Bir kullanıcı tarafından paylaşılan hatalı gerçekleri kabul ederek
Martin SAP’a göre, halüsinasyonlar %50’yi aştıkları için esas olarak hukuk ve tıp gibi özel alanlarda görülür. Bu halüsinasyonların tespit edilmesi zordur, çünkü bunlar makul görünen bir şekilde sunulur. Saçma olsalar bile.
Modeller, yanlış bilgi sunsalar bile, “Kendime güveniyorum” gibi belirteçleri kullanarak cevaplarını tekrar teyit eder. A Arama belgesi AI modellerinin bunlardan emin olduğunu, ancak yanıtlarında yanlış olduğunu, vakaların % 47’sinde yanlış olduğunu gösterir.
Bu nedenle, kendinizi halüsinasyonlardan korumanın en iyi yolu cevaplarınızı ortaya çıkarmaktır. Bazı taktikler, dış kaynaklara verilen yanıtlarınızı karşı koymak veya soruyu farklı bir formülasyon kullanarak modele dinlendirmekten oluşur. Fikir, AI’nın aynı cevabı üretip üretmediğini görmektir.
Her ne kadar iyi tanımadığınız konularda chatgpt yardım almak cazip olsa da, sorularınız uzmanlık alanınızda kalırsa hataları tanımlamak daha kolaydır!
3. Sizi ilgilendiren verileri gizli tutun
Üretken AI araçları büyük miktarda veriden oluşur. Ayrıca öğrenmeye devam etmek için yeni verilere ihtiyaç duyarlar. Ve daha etkili olur. Bu nedenle, modeller sonuçlarını genellikle eğitimlerine devam etmek için kullanırlar.
Sorun şu ki, modeller genellikle eğitim verilerini yanıtlarında geri çekiyor. Bu, özel bilgilerinizin başka birinin cevaplarında kullanılabileceği anlamına gelir. İyi AI hijyeni korumanın en iyi yolu, hassas veya kişisel verileri paylaşmaktan kaçınmaktır.
ChatGPT de dahil olmak üzere birçok AI aracı, kullanıcıların veri toplamayı reddetmesine izin veren seçenekler sunar. Hassas verileri kullanmayı planlamasanız bile, reddetme her zaman iyi bir seçenektir.
4. LLM ile konuşma şeklinize dikkat edin
AI sistemlerinin kapasiteleri ve doğal dil kullanarak bu araçlarla konuşma olasılığı, bazı insanların bu robotların gücünü fazla tahmin etmesine yol açmıştır.
Antropomorfizm veya insan özelliklerinin atfedilmesi kaygan bir arazidir. İnsanlar bu AI sistemlerini insanlara yakın olarak görürlerse, bunları daha fazla sorumluluk ve veri emanet edebilirler.
Uzmanlara göre, bu sorunu azaltmanın araçlarından biri, onları çağrışım yaparken AI modellerine insan özelliklerini atamayı bırakmaktır. “Model dengeli bir yanıt istediğinizi düşünüyor” demek yerine Martin SAP daha iyi bir alternatif öneriyor: “Model, eğitim verilerine göre dengeli yanıtlar oluşturmak için tasarlanmıştır”.
5. LLM’yi kullandığınız durumlarda dikkatli olun
Bu modellerin neredeyse tüm görevlerde yardımcı olabileceği görülse de, en iyi yardımı sağlayamadıkları birçok durum vardır. Her ne kadar kriterler mevcut olsa da, kullanıcıların LLM ile nasıl etkileşime girdiklerinin küçük bir kısmını kapsarlar.
LLM ayrıca herkes için en uygun şekilde çalışabilir. LLM’nin ırkçı tepkileri yeniden ürettiği durumlarda vakalar kaydedilmiştir. Bu önyargılar, modellerin birçok kullanım durumunda yardım sağlamaya uygun olmayabileceğini göstermektedir.
Sonuç olarak, çözüm LLM kullanılırken yansıma ve dikkat gösterilmesinden oluşur.
Kaynak : “Zdnet.com”
