Tanım
Yapay zekâda halüsinasyon, bir modelin akıcı ancak olgusal olarak yanlış veya anlamsız çıktılar ürettiği durumları ifade eder. Özellikle büyük dil modellerinde ve üretken yapay zekâda yaygındır.
Amaç
Halüsinasyonları incelemek, model güvenilirliğini ve emniyetini artırmaya yardımcı olur. Geliştiricilerin, hatalı çıktıları tespit edip azaltmak için güvenlik önlemleri tasarlamalarına olanak tanır.
Önem
- Ele alınmadığı takdirde yapay zekaya olan güven azalır.
- Sağlık veya hukuk gibi hassas uygulamalarda zarara yol açabilir.
- Mevcut üretken modellerin sınırlamalarını vurgular.
- Olgusal temellendirme ve geri çağırma yöntemleri konusunda araştırmaları yönlendirir.
Nasıl Rezervasyon Yaparım ?
- Model bir komut veya sorgu alır.
- Öğrenilen kalıplara dayalı çıktı üretir, gerçekleri doğrulamaya dayalı değil.
- Mantıklı görünen ama yanlış sonuçlar doğurabilir.
- Tespit ve düzeltme teknikleri uygulanır (örneğin; RAG).
Örnekler (Gerçek Dünya)
- ChatGPT zaman zaman istendiğinde yanlış bilgiler üretebiliyor.
- Google Bard'ın ilk demosu olgusal hatalar ortaya koydu.
- Yapay zekanın ürettiği tıbbi tavsiyeler bazen yanlışlıklar içerebiliyor.
Referanslar / İlave Okumalar
- “Büyük Dil Modellerinde Halüsinasyonların Azaltılması” — arXiv ön baskısı.
- NIST Yapay Zeka Risk Yönetimi Çerçevesi.
- Mitchell ve diğerleri. “Model Raporlaması için Model Kartları.” ACM FAccT.
- Yapay Zeka Halüsinasyonlarının Nedenleri
