Kısaca: Yapay zeka halüsinasyonu, bir dil modelinin gerçekte olmayan ya da yanlış bir bilgiyi akıcı ve kendinden emin bir dille doğruymuş gibi sunmasıdır.

Ne anlama geliyor?

Büyük dil modelleri bir sonraki kelimeyi tahmin ederek metin üretir. Bu yöntem çoğu zaman tutarlı cevaplar verir, ama model bilmediği bir konuda da cevap üretmeye devam edebilir. Sonuç; uydurulmuş bir kaynak, var olmayan bir mahkeme kararı, yanlış bir rakam ya da hiç söylenmemiş bir alıntı olabilir.

ABD Ulusal Standartlar ve Teknoloji Enstitüsü (NIST), üretken yapay zeka risk profilinde (NIST AI 600-1) bu riski “konfabulasyon” olarak adlandırır: hatalı ya da yanlış içeriğin kendinden emin biçimde sunulması. OpenAI araştırmacılarının Eylül 2025 tarihli çalışması da bir nedene dikkat çeker: yaygın değerlendirme yöntemleri, “bilmiyorum” demek yerine tahmin yürütmeyi ödüllendirir.

Şirket için neden önemli?

Halüsinasyonun sorumluluğu modeli kullanan şirkette kalır. Kanada’da Moffatt – Air Canada davasında (2024 BCCRT 149, Şubat 2024) havayolunun sitesindeki sohbet botu, yas indirimi için geriye dönük başvuru yapılabileceğini söyledi; şirket politikası bunu öngörmüyordu. British Columbia Sivil Uyuşmazlık Mahkemesi (Civil Resolution Tribunal), botun verdiği bilgiden şirketin sorumlu olmadığı savunmasını reddetti ve havayolunun yolcuya toplam 812,02 Kanada doları ödemesine karar verdi.

Tutar küçük olsa da karar önemli bir ilke koyar: müşteriye dönük botlar, raporlar, sözleşme özetleri ve yatırımcı sunumlarında doğrulanmamış yapay zeka çıktısı; itibar, hukuk ve uyum riski taşır.

Örnek

Bir finans ekibi, yapay zeka asistanından bir rakibin son çeyrek ciro rakamını ister. Asistan bir rakam verir ve kaynak olarak bir kamuyu aydınlatma bildirimini gösterir, ama bu bildirim aslında yoktur. Rakam kaynağı açılarak kontrol edilmeden yönetim sunumuna girerse, kararlar uydurma bir veriye dayanır.

Sık karıştırılan

  • Halüsinasyon ve güncel olmayan bilgi: Modelin eğitim tarihinden sonraki gelişmeleri bilmemesi ayrı bir sorundur; halüsinasyon, bilginin hiç olmadığı ya da yanlış olduğu durumda bile kesin bir cevap üretilmesidir.
  • Halüsinasyon ve önyargı: Önyargı, çıktının belirli gruplar aleyhine sistematik olarak çarpık olmasıdır. Halüsinasyon ise doğruluk sorunudur.
  • Halüsinasyon ve RAG: Cevabı şirket belgelerine dayandıran sistemler (RAG Nedir?) riski azaltabilir ama ortadan kaldırmaz; model doğru belgeyi yanlış özetleyebilir.

Nereden başlanır?

  • Yapay zeka çıktısının hangi işlerde insan kontrolünden geçmeden kullanılamayacağını yazılı hale getirin: müşteriye verilen taahhütler, rakamlar, hukuki metinler.
  • Kritik cevaplarda kaynak göstermeyi zorunlu tutun ve kaynağın gerçekten açılıp okunmasını kontrol listesine ekleyin.
  • Müşteriye dönük botlarda cevap kapsamını sınırlayın; bot emin olmadığında insan temsilciye devretsin.

Ekibinize sorun

  • Müşteriye dönük hangi kanallarda yapay zeka cevap veriyor ve bu cevapları kim denetliyor?
  • Bir bot yanlış bir taahhütte bulunursa bu nasıl fark edilir, kim düzeltir?
  • Yapay zeka ile hazırlanan raporlardaki rakamların kaynak kontrolü kimin sorumluluğunda?

İlgili terimler

Siyah Tilki’de ilgili yazılar

Kaynaklar