Yönetim buna “SNCF Groupe GPT” adını verdi. İnsan dilinde yazılmış soruları anlayabilen ve corpus.belgesel içindeki bilgileri arayabilen, geniş bir dil modeli (LLM) aracılığıyla şirket belgeleriyle etkileşime girmenizi sağlayan bir araçtır.
Çalışanlar için etkileşim, SNCF tarafından tasarlanan ve dil modelini bir bilgisayardan veya akıllı telefondan sorgulamalarına olanak tanıyan bir web portalı üzerinden gerçekleşiyor. “Bu, Aralık ayında küçük bir üst düzey yönetici grubu arasında uygulamaya başladığımız, ancak yavaş yavaş daha fazla sayıda çalışanın kullanımına sunduğumuz bir proje. Bugün, “Araç yaklaşık 600 çalışanın erişimine açıktır” açıklamasını yapıyor Julien Nicolas, SNCF’nin dijital direktörü.
“Şu anda destek fonksiyonlarının yanı sıra SNCF Réseau çalışanları gibi daha teknik fonksiyonları da içeren iki deney kurduk. Bu onların bakım veya prosedürlerle ilgili teknik belgelere erişmelerine olanak tanıyor.”
Buradaki fikir, şirket çalışanlarının belgelerde yer alan belirli bir bilgi noktası hakkında belirli bir soru sormalarına ve analiz edilen bilgilere dayanarak doğal dilde sentezlenmiş bir yanıt elde etmelerine olanak sağlamaktır. Kullanıcı ayrıca yeni bir belge yükleyebilir ve SNCF Groupe GPT’den bilgi çıkarmak için onu analiz etmesini isteyebilir. Julien Nicolas, “Şu anda bu araç için gördüğümüz ana kullanımlar bunlar” diye açıklıyor.
Trad SNCF ile anında çeviri
Şirket, SNCF Groupe GPT’nin yanı sıra Trad SNCF adlı dil çeviri aracının da geliştirildiğini duyurdu. İstasyonda bulunan çalışanların kullanımına sunulan bu özellik, onların Fransızca konuşmayan bir kullanıcı tarafından sorulan bir soruyu sözlü olarak toplamalarına ve bir çeviri elde etmelerine ve aynı zamanda onlara kendi dillerinde bir yanıt sunmalarına olanak tanıyor.
Sistem, Eylül 2023’te Fransa’da düzenlenen Rugby Dünya Kupası vesilesiyle açıldı ve 2024’ten itibaren Olimpiyat Oyunları sırasında toplam 130 dil olmak üzere daha fazla sayıda dili hesaba katacak şekilde iyileştirilmesi gerekiyor. Desteklendi.
Bu vesileyle sistem geliştirilecek ve istasyonlardaki ve trenlerdeki acentelerin yanı sıra Olimpiyat Oyunları için planlanan takviyeler için de kullanıma sunulacak. Bu araç, muhatabın diline göre en iyi çeviriyi sunmak için çeşitli ortak hizmet sağlayıcılara güvenir. Veriler üçüncü taraf sunuculara gönderiliyor ancak SNCF, işlem yapan sunucuların AB içinde kalacağını ve veriler üzerinde herhangi bir analiz yapmayacağını taahhüt ediyor.
Bulunacak ekonomik modeller
SNCF bu konularda temkinli hareket ediyor ancak geride kalmak istemiyor. Julien Nicolas şöyle özetliyor: “Şu an için bunlar her şeyden önce iki ana hedefi olan deneyler: çalışanların kültürlenmesini sağlamak ve en uygun kullanım senaryolarını ortaya çıkarmak.” Proje, SNCF GPT için OpenAI, Mistral veya Anthropic dahil olmak üzere piyasadaki farklı dil modellerini test etmeyi amaçlıyor.
Julien Nicolas, “Başlangıçta modeli, şirketin 70.000 belgesinden birkaç yüz tanesine, daha az sayıda belgeye yerleştirmeyi seçtik” diye açıklıyor. Bu belgeler, belgelerin doğrudan farklı hizmet sağlayıcılara gönderilmesini önleyen “güvenli bölgeler” aracılığıyla analiz edilir.
“Şu an için bu “isteğe bağlı” işlem, farklı sağlayıcıları test etmemize olanak tanıyan en basit işlemdir. Ancak aynı zamanda kendi veri merkezlerimiz de var ve gücü doğrudan bu veri merkezlerine kurmak mümkün.” Julien Nicolas’ı özetliyor. Yalnızca performansın ötesinde, maliyet sorunu da ortaya çıkıyor: Sektördeki çoğu hizmet “token başına”, yani istek başına faturalandırıyor: “Birkaç yüz çalışan için yüz belge yüklemekle 70.000 belge yüklemek aynı maliyete sahip değil belgeler tüm çalışanların erişimine açıktır. Bu nedenle, gerçekten yatırımlardan olası getirileri belirlemeye çalışıyoruz.”
Riskleri sınırlayın
Geriye farklı modellerin performansını ve hata risklerini ölçmek kalıyor. Yüksek Lisans’ların “halüsinasyon” riskinden ve yanıt bulma kapasitelerinden sık sık bahsediyoruz, ancak dijital direktör modellerin belgelerden alınan bilgilere sadık kalma kapasitesinden emin olmaya devam ediyor: “Tedarikçiler bize izin veren bir konfigürasyona sahip modelin yalnızca yüklediğiniz modele bağlı kalmasını istemek.İş onu SNCF derlemi üzerinde sorgulamaya geldiğinde yaptığımız şey budur.
Her seferinde referans belgeyi kaynak olarak gösteriyor ve eğer cevap bulamazsa öyle diyor.” Aynı şekilde cihaz tamamen ölçeklendirme yeteneğine sahip, asıl faktör burada alınacak belge miktarı değil. analiz edin ancak indeksleyin.
SNCF, SNCF Groupe GPT’nin çeşitli çalışanlarına kademeli olarak dağıtılmasına, bu aracın geniş ölçekte dağıtımı için bir son tarih belirlemeden devam ediyor. “Amaç, herkesin test etmesine ve bunun onlara neler getirebileceğini hayal etmesine olanak tanımak ve ardından onu belirli bir faaliyet veya hizmet için dağıtmak isteyip istemediğimize karar vermek. Bizim için önemli olan “Yapay zekaya hazır” olmaktı, Üretken yapay zekayı kullanmaya hazır altyapıya sahip olmak. Bunu SNCF GPT ile gösterdik, şimdi de farklı popülasyonlara açıyoruz ve geri bildirimlere göre falan siteye yaygınlaştırılacak.”