İnsanları gelişmelerden haberdar edin
Taylor, insan çalışanların genAI iş akışlarının bir parçası olmasının operasyonları yavaşlatabileceğini ve dolayısıyla genAI’nın ilk etapta kullanılmasının sebebi olan verimliliği azaltabileceğini söylese de bazen bir insanın yaptığı ufak tefek kontrollerin etkili olabileceğini söyledi.
Air Canada müşterisine hemen bilet alabileceğini ve daha sonra bir yas kredisi alabileceğini söyleyen bir sohbet robotu örneğini verdi, bu havayolunun politikası değildir. Kanada’daki bir hukuk mahkemesi, sohbet robotunun şirketin web sitesinin bir parçası olarak sunulması nedeniyle havayolunun müşteriye geri ödeme yapmaktan sorumlu olduğuna karar verdi.
Taylor, “Sohbet sırasında bir insanın devreye girmesi teknik olarak mümkün olmasa da, bir sohbet robotu kullanmanın amacına aykırı olacağından, kesinlikle olayın hemen ardından devreye bir insanın girmesini sağlayabilirsiniz, belki de örnekleme bazında,” dedi.[The person] “Chatbot’un halüsinasyon görüp görmediğini kontrol edebilir, böylece etkilenen kullanıcılara ulaşmak için durumu hızla tespit edebilir ve ayrıca (umarız) bu tür halüsinasyonların tekrar yaşanmasını önlemek için çözümü değiştirebiliriz.”
Düzenleyicilerle uğraşmaya hazır olun
genAI ile ilgili bir diğer uyumluluk hususu da, CIO’ların düzenleyicilerle konuşurken geçmişte olduğundan çok daha fazla teknik ayrıntıyı açıklamak zorunda kalmaları olacak.
Three Arc’tan Anzelc, “CIO’nun tüm iş akışı sürecini konuşmak gibi oldukça önemli miktarda bilgiyi paylaşmaya hazır olması gerekiyor,” dedi. “‘Amacımız buydu.’ Tüm temel bilgileri listelemek, gerçekte ne olduğunu ve neden olduğunu ayrıntılı olarak açıklamak. Tam veri soyağacı. genAI kontrolden çıkıp verileri bir internet kaynağından mı çekti yoksa hatta uydurdu mu? Algoritmik yapı neydi? İşler gerçekten zorlaştığı yer burası.”
Bir olaydan sonra, işletmelerin sorunun tekrarlanmasını önlemek için hızlı düzeltmeler yapması gerekir. “Aracın nasıl çalıştığı veya girdi ve çıktıların akış şeklinin yeniden tasarlanması veya ayarlanması gerekebilir. Paralel olarak, gelecekteki sorunların daha hızlı bir şekilde belirlenmesi için ortaya çıkarılan izleme ölçümlerindeki boşlukları düzeltin,” dedi Anzelc.
Ayrıca bir olayın etkisini hesaplamanın anlamlı bir yolunu bulmanın da önemli olduğunu sözlerine ekledi.
“Bu, Air Canada’nın sohbet robotunda olduğu gibi müşteriler için finansal bir etki veya diğer uyumlulukla ilgili sorunlar olabilir. Örnekler arasında potansiyel olarak iftira niteliğinde olanlar da yer alır X’in sohbet robotu Grok’un son zamanlarda yaptığı açıklamalar veya çalışan eylemleri gibi Üniversite tüm bir dersten kalan Teksas profesörü Anzelc, “Çünkü üretken bir yapay zeka aracı, tüm ödevlerin yapay zeka tarafından değil, insan öğrenciler tarafından oluşturulduğunu yanlış bir şekilde belirtmişti” dedi.
“Hem düzenleyici bir bakış açısından hem de müşterileriniz, tedarikçileriniz ve çalışanlarınızla yaptığınız sözleşmeler ve politikalar açısından ek uyumluluk etkilerini anlayın. Sorunun temel nedeni hakkında daha fazla bilgi edindikçe muhtemelen etkiyi yeniden tahmin etmeniz gerekecektir.”