Halüsinasyon nedir?
Tanım
Halüsinasyon, bir yapay zekâ modelinin gerçekte var olmayan veya yanlış bir bilgiyi doğruymuş gibi, akıcı ve kendinden emin bir dille üretmesidir; işletme kullanımında en önemli risklerden biridir.
Büyük dil modelleri metni olasılıklara göre ürettiği için, bilmedikleri bir konuda da makul görünen bir cevap uydurabilirler: olmayan bir fiyat, yanlış bir tarih veya var olmayan bir kaynak gibi.
Risk nasıl azaltılır?
- Cevapları işletmenin doğrulanmış bilgisine dayandırmak (RAG)
- Modelin bilmediğinde "bilmiyorum" demesini ve insana devretmesini kural haline getirmek
- Fiyat, sözleşme ve sağlık gibi kritik konularda insan onayı istemek
- Çıktıları düzenli olarak örnekleyip kontrol etmek
Halüsinasyon tamamen sıfırlanamaz; ancak doğru kurulmuş bir sistemde etkisi büyük ölçüde sınırlanabilir.