Kurum İçi Veriyle Çalışan Yapay Zeka Sistemi Nasıl Kurulur?

Kısaca: kurum içi veriyle çalışan bir yapay zeka sistemi, modeli yeniden eğiterek değil, soruya cevap verirken kurumun kendi belgelerini getirerek kurulur. Bu yönteme erişimli üretim (RAG) denir. Kurumların büyük çoğunluğunun kendi modelini eğitmesi gerekmez; gereken şey verinin düzenlenmesi, erişim sınırlarının tanımlanması ve cevabın kaynağını göstermesidir.

Sorun: hazır asistan sizin işinizi bilmez

Genel bir yapay zeka asistanı, internetteki yaygın bilgiyi bilir. Sizin fiyat listenizi, geçen yılki sözleşme şartlarınızı, iç prosedürünüzü veya bir müşterinin geçmişini bilmez. Bu yüzden "bizde bu nasıl yapılıyor" tipi sorularda ya genel bir cevap verir ya da makul görünen ama yanlış bir cevap üretir.

İkincisi daha tehlikelidir. Genel bir cevap fark edilir; makul görünen yanlış bir cevap, doğruluğunu kontrol edecek kişi o konuyu zaten bilmiyorsa fark edilmez.

Çözüm, modeli daha akıllı yapmak değil, ona doğru belgeyi vermektir.

Model eğitmek yerine: erişimli üretim

Erişimli üretim, soruyu doğrudan modele göndermez. Önce kurumun belge havuzunda o soruyla ilgili parçaları arar, bulduklarını soruyla birlikte modele verir ve modelden yalnızca bu parçalara dayanarak cevap vermesini ister.

Bunun üç pratik sonucu vardır. Cevap kurumun kendi belgesine dayanır, bu yüzden güncel kalır — belge değişince cevap da değişir. Cevabın kaynağı gösterilebilir, yani kontrol edilebilir. Ve veri modelin içine gömülmediği için, bir kişinin göremeyeceği bir belge cevaba da giremez.

Model eğitmek (fine-tuning) ise farklı bir iştir ve farklı bir soruna çözümdür: modelin bilgisini değil üslubunu ve biçimini değiştirir. "Bizim ürün adlarımızı bilsin" diye model eğitmek, pahalı ve yanlış araçtır; belge her değiştiğinde eğitimi tekrarlamak gerekir.

Kurulum adımları

1. Kaynakları belirleyin. Hangi belgeler sisteme girecek: prosedürler, sözleşme şablonları, ürün dokümanları, geçmiş destek yazışmaları. Bu aşamada en sık yapılan hata her şeyi dahil etmektir; güncelliği belirsiz bir belge, yanlış cevabın kaynağı olur.

2. Veriyi temizleyin ve parçalayın. Belgeler aranabilir parçalara bölünür. Parça boyutu önemlidir: çok küçük parçalar bağlamı kaybeder, çok büyük parçalar ilgisiz metni cevaba taşır.

3. Erişim sınırlarını veriye bağlayın. Her parça, onu görmeye yetkili rolle etiketlenir. Bu adım atlanırsa sistem, kullanıcının yetkisi olmayan bir belgeden cevap üretebilir — ve bu, en sık görülen ve en pahalı hatadır.

4. Arama katmanını kurun. Soru geldiğinde ilgili parçaların bulunması gerekir. Anlamsal arama tek başına yeterli olmaz; ürün kodu veya sözleşme numarası gibi tam eşleşme gerektiren aramalarda kelime tabanlı arama ile birlikte çalışması gerekir.

5. Cevabı kaynağa bağlayın. Sistem cevabın hangi belgeden geldiğini göstermelidir. Kaynağı gösterilmeyen bir cevap, doğrulanamadığı için kullanılamaz.

6. Bilmediğini söylemesini sağlayın. Belge havuzunda cevap yoksa sistemin tahmin yürütmemesi gerekir. Bu davranış varsayılan değildir; açıkça kurulur ve test edilir.

7. Ölçün. Gerçek sorulardan oluşan bir test seti hazırlanır ve her değişiklikten sonra aynı sorular tekrar çalıştırılır. Ölçüsüz bir yapay zeka sistemi, iyileşip iyileşmediği bilinemeyen bir sistemdir.

Nerede yetersiz kalır

Bu yöntemin sınırlarını baştan bilmek gerekir.

• Hesaplama gerektiren sorular. "Geçen çeyrekte kaç sözleşme yenilendi" sorusu bir belge sorusu değil, bir veritabanı sorusudur. Bu tip sorular için sistemin veritabanına sorgu atması gerekir.
• Çok adımlı çıkarım. Cevap üç ayrı belgeden parça birleştirmeyi gerektiriyorsa doğruluk düşer. Bu durumda süreci bölmek gerekir.
• Çelişen belgeler. Havuzda aynı konuda iki farklı sürüm varsa sistem hangisinin geçerli olduğunu bilemez. Bu bir yazılım sorunu değil, belge yönetimi sorunudur ve önce o çözülür.

Üçüncü madde en sık karşılaşılanıdır ve şunu gösterir: kurum içi yapay zeka projeleri çoğunlukla model sorunundan değil, düzensiz belge havuzundan takılır.

Veri nerede duruyor

En sık sorulan soru budur. Üç seçenek vardır ve seçim düzenleyici yükümlülüklerinize bağlıdır.

Belgeler kendi altyapınızda kalabilir ve yalnızca ilgili parçalar model sağlayıcısına gider. Ya da hem belgeler hem model kurum içinde çalışır; bu, açık ağırlıklı modellerle mümkündür ve donanım maliyeti getirir. Üçüncü seçenek, sağlayıcının kurumsal sözleşmesiyle verinin eğitimde kullanılmamasını taahhüt altına almaktır.

Hangisi seçilirse seçilsin, karar teşhis aşamasında yazılı olarak verilmelidir. Sonradan değiştirmek, mimarinin yeniden kurulması demektir.

Sık sorulan sorular

Kendi modelimizi eğitmemiz gerekir mi? Kurumların büyük çoğunluğu için hayır. Eğitim, modelin bilgisini değil davranışını değiştirir; "bizim verimizi bilsin" ihtiyacı erişimli üretimle karşılanır ve belge değiştiğinde tekrar eğitim gerektirmez.

Kurulum ne kadar sürer? Sınırlı bir belge havuzu ve tek bir kullanım senaryosu için tipik olarak dört ila altı hafta. Sürenin çoğu modelde değil, veri temizliğinde ve erişim sınırlarının tanımlanmasında geçer.

Yanlış cevap verirse ne olur? Bu yüzden cevap kaynağa bağlanır ve sistemin "bilmiyorum" diyebilmesi kurulur. Ayrıca gerçek sorulardan oluşan bir test seti, her değişiklikten sonra yeniden çalıştırılır.

Mevcut sistemlerimizle konuşabilir mi? Evet. CRM, ERP ve destek sistemleriyle entegrasyon standart kapsamdadır; hesaplama gerektiren sorular zaten bu yolla cevaplanır.

Kaynaklar

• McKinsey & Company, The State of AI: Agents, innovation, and transformation (2025) — kurumların %88'i yapay zekayı en az bir fonksiyonda kullanıyor, ancak yalnızca %39'u kâra etkisini gösterebiliyor.
• Gartner, Gartner Predicts Over 40% of Agentic AI Projects Will Be Canceled by End of 2027 (Haziran 2025) — iptallerin arkasında artan maliyetler, net olmayan iş değeri ve yetersiz risk kontrolleri var.

Kapanış

Kurum içi yapay zeka sisteminin zor tarafı model değil, veridir. Belgeleriniz düzenliyse ve erişim sınırları netse, kurulum öngörülebilir bir iştir.

Özel yapay zeka çözümleri hizmetimizi inceleyin veya asistan ve entegrasyon tarafına bakın.

Ücretsiz keşif görüşmesi planlayın