Kendi Verinizle Çalışan Yapay Zekâ: Nasıl Kurulur?

Yanlış varsayım

"Modele dokümanlarımızı yükleyelim, öğrensin" cümlesi teknik olarak yanlış bir beklenti kurar.

Model eğitmek pahalı, yavaş ve güncellemesi zordur. Bir doküman değiştiğinde modeli yeniden eğitemezsiniz.

Doğru yaklaşım

Soru geldiğinde, kendi belgelerinizde arama yapılır. Bulunan ilgili parçalar modele verilir. Model cevabı yalnız bu parçalardan üretir.

Böylece güncel veri kullanılır, kaynak gösterilebilir ve model uydurmaya zorlanmaz.

Adım bir: belgeleri parçalara ayırmak

Uzun belgeler anlamlı parçalara bölünür. Parça boyutu kritiktir: çok küçükse bağlam kaybolur, çok büyükse alakasız bilgi taşar.

Bölme işlemi başlık ve bölüm sınırlarına saygı göstermelidir. Cümle ortasından bölmek anlamı bozar.

Her parçaya kaynak bilgisi eklenir: hangi belge, hangi bölüm. Bu bilgi cevapta kaynak göstermek için kullanılır.

Adım iki: arama

Parçalar anlamsal olarak aranabilir hale getirilir. Böylece kullanıcı belgede geçen kelimeleri bilmese de doğru parça bulunur.

Anlamsal arama ile klasik kelime aramasını birlikte kullanmak, tek başına her birinden daha iyi sonuç verir. Özellikle ürün kodu ve özel isimlerde kelime araması vazgeçilmezdir.

Adım üç: yanıt üretimi

Bulunan parçalar ve soru modele birlikte verilir.

Talimat net olmalıdır: yalnız verilen kaynaklardan cevap ver, kaynaklarda yoksa bilmediğini söyle.

Bu talimat olmadan model, boşlukları kendi bilgisiyle doldurur ve yanlış bilgi üretir.

Kaynak gösterimi

Cevabın hangi belgeden geldiği kullanıcıya gösterilmelidir. Bu hem güven verir hem de doğrulama imkânı sağlar.

Bağlantıları modele yazdırmayın; bulunan kaynak kayıtlarından koda ekleyin. Model uydurma bağlantı üretebilir.

Kalite sorunları ve çözümleri

Yanlış parça bulunuyorsa sorun aramadadır, modelde değil. Parçalama stratejisini ve arama yöntemini gözden geçirin.

Cevap eksikse, getirilen parça sayısını artırmayı deneyin.

Model kaynaklara sadık kalmıyorsa talimatı sıkılaştırın ve sıcaklık ayarını düşürün.

Bakım

Belgeler değiştiğinde ilgili parçaların yeniden işlenmesi gerekir. Bu süreç otomatik olmalıdır.

Silinen belgelerin arama dizininden de çıkarılması gerekir; aksi halde sistem artık geçerli olmayan bilgiyi kaynak gösterir.

Erişim yetkisi

Kullanıcının görmeye yetkili olmadığı belgeler arama sonuçlarına girmemelidir.

Yetki filtresi arama aşamasında uygulanmalıdır. Modele her şeyi verip "bunu söyleme" demek güvenlik değildir.

Belge hazırlığı kalitenin yarısıdır

Dağınık ve güncel olmayan belgelerle kurulan sistem, dağınık ve güncel olmayan cevaplar verir.

Başlamadan önce belge setini temizleyin: yinelenen sürümleri kaldırın, eskiyenleri arşivleyin, başlık yapısını düzenleyin.

İyi başlıklandırılmış belgeler, daha anlamlı parçalara bölünür ve arama kalitesi belirgin biçimde artar.

Tablolar ve görseller metne dönüştürülemiyorsa kaybolur; kritik bilgi tablolardaysa bunları ayrıca metinleştirin.

Kaliteyi ölçmek

Gerçek sorulardan oluşan bir test seti hazırlayın ve beklenen cevapları yazın.

Her değişiklikten sonra bu seti çalıştırıp sonuçları karşılaştırın; parçalama veya arama ayarı değişikliklerinin etkisi ancak böyle görülür.

Kullanıcı geri bildirimi toplayın: her cevabın altına faydalı oldu mu sorusu koyun.

Faydasız işaretlenen cevapları düzenli inceleyin; genellikle belirli bir belge grubunda toplanır ve orada bir hazırlık sorunu vardır.