RAG nedir sorusu, şirket verisiyle çalışan yapay zeka sistemlerini anlamak için sorulur. Retrieval Augmented Generation, yani getirme destekli üretim, dil modelinin cevap vermeden önce ilgili bilgiyi dış kaynaklardan almasına dayanır. Bu kaynak şirket dokümanı, yardım merkezi, ürün kılavuzu, CRM kaydı veya iç prosedür olabilir. Microsoft, Retrieval Augmented Generation yaklaşımını yanıtları özel içerikle temellendiren bir model olarak açıklar.
Temel Mantığı 3 Adımda
İlk adımda kullanıcı soru sorar. İkinci adımda sistem, bu soruyla ilgili belgeleri veya veri parçalarını arar. Üçüncü adımda dil modeli, bulduğu bilgiyi kullanarak cevap üretir. Burada önemli nokta şudur: Model her şeyi hafızasından söylemeye çalışmaz. Şirketin verdiği kaynaklara bakar ve cevabı o bağlama göre kurar.
Şirket Kullanımı: Örnek Senaryolar
Retrieval Augmented Generation müşteri destek ekiplerinde sık kullanılır. Ekip, ürün dokümanlarını sisteme bağladığında müşteri sorularına daha tutarlı cevaplar hazırlanabilir. Satış ekibi CRM sistemi içindeki müşteri notlarını, teklif geçmişini ve ürün bilgisini birlikte değerlendirmek isteyebilir. İnsan kaynakları tarafında iç yönetmelikler, izin politikaları ve oryantasyon belgeleri sorgulanabilir.
RAG ile Fine-tuning Farkı
RAG ile fine-tuning aynı şey değildir. Fine-tuning modelin davranışını eğitim yoluyla belirli bir amaca yaklaştırır. RAG ise modeli yeniden eğitmeden, cevap sırasında ilgili bilgiyi dış kaynaktan getirir. AWS, Retrieval Augmented Generation sistemlerinin şirket içi belgeler gibi dış verilerle modeli desteklemek için pratik bir yol sunduğunu belirtir.
RAG Mimarisi Kurma Adımları
Şirket önce hangi belgelerin kullanılacağını belirlemelidir. Sonra bu belgeler parçalara ayrılır, aranabilir hale getirilir ve bir indeks ya da vektör veritabanında tutulur. Kullanıcı soru sorduğunda sistem ilgili parçaları getirir. Model bu parçaları kullanarak cevap üretir. Bu aşamada erişim yetkileri, güncellik ve kaynak gösterimi ayrıca planlanmalıdır.
Türkiye’den RAG Örnekleri
Türkiye’de bir e-ticaret şirketi ürün açıklamaları, iade kuralları ve kargo süreçleri için RAG tabanlı destek botu kurabilir. Bir üretim firması teknik bakım dokümanlarını sorgulanabilir hale getirebilir. Bir muhasebe ekibi mevzuat notlarını ve şirket içi prosedürleri daha hızlı bulmak için benzer yapı kullanabilir.
SSS
RAG her hatayı önler mi?
Hayır. Kaynak eksikse veya eskiyse cevap da zayıflar.
Prompt yazımı hâlâ önemli mi?
Evet. Kullanıcı soruyu açık yazarsa sistem daha doğru belge arar. ChatGPT prompt örnekleri yazısını okuyarak bu konuda detaylı bilgi edinebilirsiniz.
Mevcut yapay zeka yazılarıyla ilişkisi nedir?
Retrieval Augmented Generation, kurumsal yapay zeka projelerinde şirket verisini modele bağlamanın temel yollarından biridir.
