Kısaca
Şirket içi yapay zeka asistanı, çalışanların şirket dokümanlarına doğal dille soru sorduğu ve yanıtı kaynağıyla birlikte aldığı, ChatGPT benzeri kurumsal bir araçtır. Bilgisi dağınık klasörlerde ve kişilerin aklında duran şirketler içindir. CybUP doküman hazırlığını, RAG altyapısını, yetkiye duyarlı erişimi, bulut veya şirket içi model seçimini ve KVKK açısından veri sızıntısı önlemlerini kurar.
Kurumsal yapay zeka asistanı nedir?
Kurumsal yapay zeka asistanı, şirketin kendi belgelerini kaynak alarak çalışanların sorularını yanıtlayan, ChatGPT benzeri bir sohbet arayüzüdür. Farkı, genel internet bilgisinden değil sizin prosedürlerinizden, ürün dokümanlarınızdan ve politikalarınızdan konuşmasıdır. Yanıtın altında hangi belgenin hangi bölümünden alındığı görünür; çalışan isterse kaynağa tıklayıp kontrol eder.
Örneğin 120 kişilik bir üretim şirketinde yeni başlayan bir planlama uzmanı, “Fason üretimde kalite onayı kimden alınıyor?” diye soruyor. Bugün bu sorunun cevabı ya bir paylaşım klasöründeki eski bir Word dosyasında ya da bir kıdemli çalışanın aklında. Asistan ilgili prosedürü bulur, adımları kısaca sıralar ve dokümanın linkini verir.
RAG nedir, asistan dokümanlardan nasıl yanıt üretir?
RAG (retrieval-augmented generation), modelin soruyu yanıtlamadan önce şirket dokümanları içinden ilgili parçaları bulup bunlara dayanarak cevap ürettiği yöntemdir. Belgeler önce küçük parçalara bölünür, her parça anlamını temsil eden bir vektöre dönüştürülüp bir vektör veritabanına yazılır. Soru geldiğinde en ilgili parçalar bulunur ve modele “yalnızca bu metinlere dayanarak yanıtla” talimatıyla verilir.
Bu yöntemde modeli şirket verisiyle yeniden eğitmek gerekmez. Bir prosedür güncellendiğinde sadece ilgili belge yeniden işlenir ve asistan ertesi sorudan itibaren yeni bilgiyle yanıt verir. Asıl emek doküman tarafındadır: taranmış PDF’lerin okunur hale getirilmesi, eski sürümlerin ayıklanması, aynı konuda çelişen iki belgenin hangisinin geçerli olduğunun belirlenmesi. Bu temizlik yapılmadan kurulan asistan, karmaşayı daha hızlı dağıtmaktan öteye geçmez.
Asistan yetkileri nasıl gözetir?
Yetkiye duyarlı bir asistan, her kullanıcıya yalnızca kaynak sistemde zaten görmeye yetkili olduğu belgelerden yanıt verir. İnsan kaynakları klasöründeki maaş tablosu, muhasebedeki sözleşmeler ya da yönetim kurulu notları asistan üzerinden herkese açılmamalıdır. Bu yüzden belgeler işlenirken her parçanın kimlerin erişebileceği bilgisi de saklanır ve arama yapılırken kullanıcının grup üyeliklerine göre süzülür.
Kullanıcı kimliğini şirketin mevcut dizin hizmetinden alıyoruz; çoğu zaman Active Directory ya da Entra ID ile tek oturum açma kuruluyor. Bir çalışan departman değiştirdiğinde ya da ayrıldığında asistandaki erişimi de dizindeki değişiklikle birlikte güncellenir. Ayrı bir kullanıcı listesi tutmak, unutulan hesaplar demektir.
“Implement fine-grained access controls and permission-aware vector and embedding stores. Ensure strict logical and access partitioning of datasets in the vector database to prevent unauthorized access between different classes of users or different groups.”
Ayrıntılı erişim kontrolleri ve yetkiye duyarlı vektör ve gömme (embedding) depoları uygulayın. Farklı kullanıcı sınıfları veya farklı gruplar arasında yetkisiz erişimi önlemek için vektör veritabanındaki veri kümelerini mantıksal olarak ve erişim açısından sıkı biçimde ayırın.
Bulut mu, şirket içi (on-premise) mi?
Bulut modelleri daha güçlü ve kurulumu hızlıdır; şirket içi modeller ise verinin binadan çıkmamasını sağlar. Karar, belgelerin hassasiyetine, kişisel veri içerip içermediğine ve kullanıcı sayısına göre verilir. Kurumsal sözleşmeli bir bulut servisinde veri, sağlayıcının sözleşme koşullarına göre işlenir; bu koşulların ve verinin işlendiği bölgenin okunması gerekir.
Karma bir yapı da mümkün. Genel prosedür ve ürün dokümanları bulut modeliyle, kişisel veri veya ticari sır içeren belgeler şirket içinde çalışan bir modelle yanıtlanabilir. Şirket içi seçeneğin donanım ve kurulum ayrıntılarını yerel LLM kurulumu sayfasında anlatıyoruz. Vektör veritabanı ve doküman deposu her iki durumda da sizin sunucunuzda ya da sizin bulut aboneliğinizde durabilir.
KVKK ve veri sızıntısı riskleri nasıl yönetilir?
Çalışanların kişisel hesaplarla genel yapay zeka sohbet araçlarına müşteri listesi, sözleşme ya da personel bilgisi yapıştırması, bugün şirketlerde en sık görülen kontrolsüz veri çıkışlarından biridir. Kurumsal asistan, bu ihtiyacı denetlenebilir bir kanala çeker. Kişisel Verileri Koruma Kurumu’nun Üretken Yapay Zekâ ve Kişisel Verilerin Korunması Rehberi bu sistemlerin yaşam döngüsündeki veri işleme risklerini ele alır; 6698 sayılı Kanun ise veri sorumlusuna uygun güvenlik düzeyini sağlayacak teknik ve idari tedbirleri alma yükümlülüğü getirir.
Teknik tarafta OWASP’ın LLM uygulamaları için Top 10 listesi iyi bir kontrol çerçevesi sunar. Listedeki hassas bilgi ifşası, istem enjeksiyonu (prompt injection) ve sistem isteminin sızması başlıkları kurumsal asistan için doğrudan geçerlidir. Bir belgeye gizlenmiş “önceki talimatları yok say” cümlesi bile modelin davranışını değiştirmeye çalışabilir.
- Yetki süzgecinin modelde değil, arama katmanında uygulanması
- Soru ve yanıtların kim tarafından sorulduğuyla birlikte kayıt altına alınması
- Kişisel veri içeren belge türleri için ayrı kural veya ayrı model
- Kayıtların saklama süresinin belirlenmesi
- Model sağlayıcısının veri kullanım koşullarının belgelenmesi
“LLMs, especially when embedded in applications, risk exposing sensitive data, proprietary algorithms, or confidential details through their output.”
LLM’ler, özellikle uygulamalara gömüldüklerinde, çıktıları aracılığıyla hassas verileri, şirkete özel algoritmaları veya gizli ayrıntıları ifşa etme riski taşır.
Şirket içi yapay zeka asistanı projesi nasıl ilerler?
Proje tek bir departmanla ve sınırlı bir doküman setiyle başlar. İlk adımda o departmanın en çok sorulan 30-50 sorusunu ve bu soruların yanıtının bulunduğu belgeleri birlikte topluyoruz. Bu soru listesi, asistanın doğru çalışıp çalışmadığını ölçmek için test seti olarak da kullanılır.
Asistan bir pilot kullanıcı grubuyla açılır; yanıtların doğruluğu, kaynak gösterme oranı ve “bilmiyorum” deme davranışı izlenir. Sonuçlar iyiyse diğer departmanların belgeleri eklenir. Belgelerin otomatik güncellenmesi için paylaşım klasörü ya da doküman yönetim sisteminden düzenli senkronizasyon kuruyoruz; bu akış çoğu zaman bir n8n iş akışıdır. İlk görüşme ve inceleme ücretsizdir.
Teslim ettiklerimiz
- Tek oturum açma ile çalışan, kaynak gösteren sohbet arayüzü
- Temizlenmiş ve sınıflandırılmış doküman seti, vektör veritabanı
- Kullanıcı gruplarına göre süzülen yetkiye duyarlı arama
- Seçilen model (bulut, şirket içi veya karma) ve bağlantı yapılandırması
- Soru-yanıt kayıtları, saklama kuralları ve veri akışı belgesi
- Test seti sonuçlarıyla pilot değerlendirme raporu
Nasıl çalışıyoruz
- 1
Ücretsiz inceleme
Hedef departman, doküman kaynakları, kullanıcı sayısı ve veri hassasiyeti değerlendiriliyor.
- 2
Doküman hazırlığı
Belgeler toplanıyor, eski sürümler ayıklanıyor, yetki bilgileri eşleştiriliyor.
- 3
Altyapı ve model
Vektör veritabanı, arama katmanı ve seçilen model kuruluyor, dizin hizmetine bağlanıyor.
- 4
Pilot ve ölçüm
Asistan pilot grupla açılıyor, test seti ve gerçek sorularla doğruluk ölçülüyor.
- 5
Yaygınlaştırma ve bakım
Diğer departmanlar ekleniyor; senkronizasyon, güncelleme ve kayıt incelemesi sürüyor.
Sıkça sorulan sorular
ChatGPT’yi şirkette kullanmaktan farkı ne?
Genel sohbet araçları sizin belgelerinizi bilmez ve kişisel hesaplarla kullanıldığında verinin nereye gittiği denetlenemez. Kurumsal asistan sizin dokümanlarınızdan, yetkiye göre ve kaynak göstererek yanıt verir. Kullanım kayıtları da şirkette kalır.
Verilerimiz modeli eğitmek için kullanılır mı?
RAG yönteminde modeli verinizle eğitmiyoruz; belgeler yalnızca yanıt anında bağlam olarak verilir. Bulut model kullanılıyorsa sağlayıcının kurumsal koşullarında verinin eğitimde kullanılıp kullanılmadığını kontrol edip belgeliyoruz. Şirket içi modelde veri sunucunuzdan çıkmaz.
Hangi dosya türlerini okuyabilir?
Word, PDF, Excel, PowerPoint, metin dosyaları ve wiki sayfaları yaygın kaynaklardır. Taranmış PDF’ler için önce metin tanıma gerekir ve kalitesi taramaya bağlıdır. Tablo ağırlıklı belgeler ayrı bir işleme ister.
Asistan yanlış yanıt verirse?
Asistan her yanıtta kaynağını gösterir ve belgelerde karşılığı yoksa bunu açıkça söyleyecek şekilde ayarlanır. Yine de dil modelleri hata yapabilir; bu yüzden kritik kararlar için kaynağın kontrol edilmesi gerektiğini kullanıcılara baştan anlatıyoruz. Pilotta hatalı yanıtları toplayıp düzeltiyoruz.
Kaç kullanıcıya kadar çalışır?
Kullanıcı sayısından çok, aynı anda soru soran kişi sayısı ve seçilen model belirleyicidir. Bulut modelde ölçek sağlayıcıya, şirket içi modelde donanıma bağlıdır. Tasarımı beklenen kullanım üzerinden yapıyoruz.
Maliyeti nedir?
Kapsamı inceledikten sonra yazılı teklif veriyoruz; inceleme ücretsiz. Bulut modelin kullanım ücreti ya da şirket içi seçenekte donanım ayrı kalemler olarak gösterilir.
Mevcut SharePoint veya dosya sunucumuzla çalışır mı?
Evet, belgeler bu kaynaklardan düzenli olarak senkronize edilebilir ve klasör yetkileri asistana taşınabilir. Bağlantı yöntemi kaynağın türüne göre değişir. İncelemede mevcut yapınızı kontrol ediyoruz.