Halüsinasyon (AI Hallucination) Nedir?
Kısa tanım
Halüsinasyon, bir yapay zekâ modelinin gerçekte var olmayan, yanlış ya da kaynağıyla desteklenmeyen bir bilgiyi akıcı ve kendinden emin bir dille üretmesidir. Uydurma bir istatistik, var olmayan bir kaynak, yanlış bir tarih ya da bir markaya ait olmayan bir hizmetin ona atfedilmesi tipik örneklerdir. Dil modellerinin olası metni tahmin ederek çalışmasından kaynaklanır.
Diğer adları: AI hallucination, yapay zekâ halüsinasyonu, yapay zeka halüsinasyonu, uydurma bilgi
Neden ortaya çıkar?
Bir dil modeli doğruluğu kontrol eden bir bilgi sistemi değil, verilen bağlamda en olası devam metnini üreten bir sistemdir. Eğitim verisinde bir konu hakkında yeterli ya da tutarlı bilgi yoksa model boşluğu, dil açısından makul görünen ama gerçeğe dayanmayan bir ifadeyle doldurabilir. Üstelik bunu kesin bir dille yapar; cümlenin üslubu, içeriğin doğruluğu hakkında bir ipucu vermez.
Halüsinasyonu tetikleyen başlıca durumlar şunlardır:
- Az bilinen konular, küçük markalar, yerel işletmeler gibi eğitim verisinde seyrek geçen varlıklar
- Bilgi kesim tarihinden sonra değişmiş olgular (fiyat, adres, yönetici, ürün yelpazesi)
- Benzer isimli kişi, şirket ya da ürünlerin karıştırılması
- Kaynak, alıntı, sayı veya bağlantı gibi kesinlik gerektiren ayrıntılar
- Yanlış bir varsayım içeren sorular ("X şirketinin 2019'daki satın almasını anlatır mısın?" gibi, böyle bir satın alma hiç yaşanmamışsa)
Görüldüğü biçimler
| Tür | Örnek |
|---|---|
| Uydurma olgu | Var olmayan bir ödül, sertifika ya da istatistik |
| Uydurma kaynak | Gerçekte bulunmayan bir makale başlığı veya URL |
| Yanlış atıf | Bir rakibe ait hizmetin sizin markanıza atfedilmesi |
| Eskimiş bilgi | Kapanmış bir şube ya da güncelliğini yitirmiş bir fiyat |
| Kaynağı yanlış okuma | Getirilen sayfada geçmeyen bir ayrıntının ona dayandırılması |
Azaltmanın yolları
Model geliştiren ve kullanan taraf için en etkili yöntem, cevabı doğrulanabilir kaynaklara bağlamaktır. Buna grounding (temellendirme) denir; en yaygın uygulaması, cevap yazılmadan önce ilgili belgelerin getirildiği RAG yaklaşımıdır. Kaynak gösterimi, kullanıcıya iddiayı kontrol etme imkânı verir. Yine de hiçbir yöntem halüsinasyonu tamamen ortadan kaldırmaz; kaynak verilen bir model de metni yanlış yorumlayabilir.
Markalar ne yapabilir?
Bir yapay zekâ asistanının sizin hakkınızda ne söylediğini doğrudan düzeltemezsiniz. Ancak modellerin ve getirme sistemlerinin başvurduğu kaynakları güçlendirebilirsiniz:
- Tek ve net bir doğruluk kaynağı oluşturun: Kim olduğunuzu, ne sunduğunuzu, nerede hizmet verdiğinizi ve iletişim bilgilerinizi açıkça anlatan, güncel tutulan sayfalar.
- Tutarlılık sağlayın: Şirket adı, adres, kuruluş yılı gibi bilgilerin web siteniz, işletme profilleriniz ve sosyal hesaplarınız arasında çelişmemesi, sizi bir varlık olarak ayırt etmeyi kolaylaştırır.
- Makine tarafından okunabilir veri ekleyin: Organization, LocalBusiness ya da Product gibi yapılandırılmış veri türleri temel olguları açık biçimde ifade eder.
- Erişimi engellemeyin: Arama amaçlı yapay zekâ tarayıcıları güncel sayfalarınıza ulaşamıyorsa, cevaplar eski ya da üçüncü taraf kaynaklara dayanır.
Nasıl takip edilir?
Markanızla ilgili tipik soruları (ne yapıyorsunuz, nerede hizmet veriyorsunuz, fiyatlarınız, rakiplerinizden farkınız) farklı yapay zekâ asistanlarına dönem dönem sorun ve cevapları kaynaklarıyla birlikte kaydedin. Hatalı bilginin hangi kaynaktan geldiği görülebiliyorsa, o kaynağı düzeltmek ya da kendi sayfanızda doğru bilgiyi daha açık yazmak işe yarayabilir. Cevaplar zaman içinde ve kişiden kişiye değişebileceği için tek bir denemeden kesin sonuç çıkarmayın.