Yapay zekâ asistanı yanlış bilgi verir mi?

Sitesine yapay zekâ asistanı eklemeyi düşünen her firmanın ilk sorusu aynıdır: asistan yanlış fiyat ya da olmayan bir özellik söylerse ne olur? Endişe yersiz değil. Genel amaçlı bir dil modeli, kendisine verilmeyen bilgiyi akla yatkın bir cümleyle tamamlamaya eğilimlidir. Bu yazıda yanlış bilginin nereden geldiğini, nasıl önlendiğini ve bir asistanı seçerken nelere bakmanız gerektiğini anlatıyoruz.

Yapay zekâ asistanının yanlış bilgi vermesi nasıl önlenir?

Ürün sorularında asistan önce kataloğunuzda arama yapar ve yalnız bulduğu ürünlerle cevap verir; ürün kartındaki ad, fiyat ve görsel modelin metninden değil, doğrudan verinizden gelir. Cevap ziyaretçiye gitmeden önce kaynaklarda olmayan somut bir iddia içerip içermediği denetlenir; varsa cevap bir kez yeniden yazılır. Her cevabın izi panelde görünür.

Asistan bilmediği bir soruda ne yapar?

Bilgi bankasında ya da katalogda karşılığı olmayan bir soruda tahmin yürütmek yerine konuşmayı ekibinize devretmeyi ya da ziyaretçiden iletişim bilgisi almayı önerir. Panelde cevabın altındaki izden hangi kaynağa bakıldığını görür, eksik bilgiyi bilgi bankasına bir madde olarak eklersiniz; yeni madde bir sonraki cevaptan itibaren kullanılır.

Yanlış bilgi nereden gelir?

Asistanların yanlış cevapları çoğunlukla üç kaynaktan gelir:

• Kaynak yokluğu: Model, sorunun cevabı kendisine verilmediğinde genel bilgisinden tahmin yürütür. "Bu ürün 2 yıl garantili mi?" sorusuna sitenizin politikasını bilmeden cevap verir.
• Eski veri: Fiyat ve stok her gün değişir. Kurulumda bir kez yüklenen ve güncellenmeyen ürün listesi, doğru görünen ama artık geçersiz bir cevap üretir.
• Yazılı rakam: Fiyat, stok ya da kargo süresi modelin kendi yazdığı metinde geçiyorsa, bir rakamın yanlış aktarılması ihtimali her zaman vardır.

Bu yüzden sorulması gereken soru "model ne kadar akıllı?" değil, "model cevabını neye dayandırıyor ve bunu ben görebiliyor muyum?" sorusudur.

Kataloğa bağlı cevap ne demek?

Kataloğa bağlı bir asistan, ürün sorusunda önce sizin ürün listenizde arama yapar ve yalnız bulduğu ürünlerle cevap verir. Katalog yapay zekâya toptan verilmez; her soruda yalnız ilgili birkaç ürün getirilir. Bu sayede yüz binlerce ürünlü bir sitede de cevap güncel kalır.

İkinci önemli nokta ürün kartıdır. SmartOperator'da cevabın altında çıkan kartlardaki ürün adı, fiyat, görsel ve bağlantı yapay zekânın yazdığı metinden değil, doğrudan kataloğunuzdan ya da mağaza veritabanınızdan gelir. Model bir ürüne yalnız kaynak etiketiyle işaret eder; kartın içeriğini sunucu verinizden doldurur.

Cevap gönderilmeden önce denetim

Kaynağa bağlamak tek başına yetmez; modelin kaynakta olmayan bir cümle eklemediğinden emin olmak gerekir. SmartOperator'da uzun bir cevap ziyaretçiye gitmeden önce ayrı bir denetimden geçer: cevapta kaynaklarda olmayan somut bir iddia (fiyat, sayı, tarih, süre, garanti, söz) bulunup bulunmadığına bakılır. Böyle bir iddia bulunursa model, kaynakta olmayanı çıkarması ve bilmediğini söylemesi istenerek cevabı bir kez yeniden yazar.

Asistanın bilmediği durumlarda yapması gereken de bellidir: tahmin yürütmek yerine konuşmayı ekibinize devretmeyi ya da ziyaretçiden iletişim bilgisi almayı önermek.

Her cevabın izini görmek

Güvenin son adımı görünürlüktür. Panelde her cevabın altında "Nasıl cevap verdi?" bölümü açılır: ziyaretçinin niyeti, seçilen bilgi maddeleri, çağrılan araçlar (örneğin katalog araması) ve cevabın dayandığı kaynaklar sırasıyla listelenir. Bu iz yalnız panelde görünür, ziyaretçiye gönderilmez.

Kontrol listesi: asistan seçerken

• Ürün sorularında cevap sizin kataloğunuzda yapılan aramaya mı dayanıyor?
• Ürün kartındaki fiyat verinizden mi geliyor, yoksa modelin yazdığı metinden mi?
• Katalog nasıl güncelleniyor: dosya aktarımı mı, veritabanı bağlantısı mı?
• Asistan bilmediğinde ne yapıyor: tahmin mi, devir mi?
• Her cevabın hangi kaynağa dayandığını panelde görebiliyor musunuz?

SmartOperator bunu nasıl çözer

• Kataloğa bağlı arama: Ürün sorusunda kataloğunuzda ya da mağaza veritabanınızda arar, yalnız bulduğu ürünlerle cevap verir.
• Veriden gelen ürün kartı: Kartlardaki ad, fiyat, görsel ve bağlantı doğrudan verinizden gelir.
• Gönderim öncesi denetim: Kaynakta olmayan somut iddia içeren cevap bir kez yeniden yazdırılır.
• Yapay zekâ izi: Her cevabın dayandığı kaynak panelde görünür.

Ürün kataloğuYapay zekâYapay zekâ izini okumak

Sık sorulan sorular

Yapay zekâ asistanı ürün fiyatını kendisi mi yazar?

Hayır. Ürün kartındaki fiyat, ad, görsel ve bağlantı doğrudan kataloğunuzdan ya da mağaza veritabanınızdan gelir; model yalnız hangi ürünü göstereceğini seçer.

Katalogda olmayan bir ürün sorulursa ne olur?

Asistan yalnız bulduğu ürünlerle cevap verir. Karşılığı yoksa tahmin yürütmek yerine konuşmayı ekibinize devretmeyi ya da iletişim bilgisi almayı önerir.

Asistanın neye dayanarak cevap verdiğini nasıl görürüm?

Panelde her cevabın altındaki yapay zekâ izinde niyet, seçilen bilgi maddeleri, çağrılan araçlar ve dayanılan kaynaklar listelenir. İz ziyaretçiye gönderilmez.