Altyapı · Kamu
Kamu için yerel LLM altyapısı
Kamu kurumlarında yapay zekâ kullanımının önündeki engel genellikle veri değil, verinin nereye gittiğinin gösterilememesidir. Zero-Shot kurum ağının içinde, dış bağlantı gerektirmeden çalışan altyapılar kurar: model kurum donanımında çalışır, her erişim kaydedilir, saklama kuralları baştan yazılır.
Ne kuruyoruz
- 01Kurum ağı içinde, internet bağlantısı olmadan çalışan model kurulumu
- 02Kurum içi doküman arama ve özetleme için çıkarım katmanı
- 03Rol bazında erişim, kota ve tam erişim kaydı
- 04Donanım boyutlandırma ve kapasite planı — kaç eşzamanlı kullanıcı, ne donanım
- 05Kurum ekibine devir: işletme dokümantasyonu ve eğitim
Nasıl ilerliyor
01
Kapsam ve mevzuat
Hangi veri sınıfının sisteme gireceği ve saklama süreleri yazılı hâle getiriliyor. Teknik kurulum bu belgeden sonra başlıyor.
02
Kapasite planı
Eşzamanlı kullanıcı sayısına göre donanım hesaplanıyor. Fazla donanım israf, az donanım kullanılmayan sistem demek.
03
Kapalı ağ kurulumu
Sistem dış bağlantı olmadan ayağa kaldırılıyor. Güncelleme yolu da kapalı ağa uygun kuruluyor.
04
Devir ve eğitim
Kurum ekibi sistemi kendi işletiyor. Bağımlılık bırakmamak teslimin parçası.
Neyi ölçüyoruz
- Eşzamanlı kullanıcı kapasitesi ve p95 gecikme
- Erişim kaydı bütünlüğü
- Kurum ekibinin sistemi bağımsız işletme oranı
- Kullanım yoğunluğu — kullanılmayan sistem başarısız sistemdir
- Donanım kullanım oranı ve birim maliyet
Ne zaman uygun değil
Vatandaş hakkında otomatik karar üreten, hak kaybına yol açabilecek kurulumlar bu kapsamın dışında. Sistem doküman erişimi, özetleme ve iç verimlilik için kuruluyor; karar mercii insan kalıyor.
Sık sorulanlar
İnternet bağlantısı olmadan çalışır mı?
Evet, kurulum kapalı ağa göre yapılabiliyor. Model ağırlıkları kurum donanımına yükleniyor ve çalışma sırasında dışarıya hiçbir çağrı gitmiyor. Güncellemeler kontrollü ve kayıtlı bir yolla yapılıyor.
Hangi donanım gerekiyor?
Eşzamanlı kullanıcı sayısına ve seçilen model boyutuna bağlı. Kapasite planı kurulumdan önce çıkarılıyor; hedef, ihtiyacın biraz üstünde kalan ama boşta durmayan bir yapılandırma. Bu hesabı gerçek kullanım tahminiyle yapıyoruz, satıcı listesiyle değil.
Kurum içinde kim ne yapmış görülebiliyor mu?
Evet. Rol bazında erişim ve tam kayıt standart. Hangi kullanıcının hangi belgeye eriştiği ve hangi sorguyu çalıştırdığı kayıtlı; kayıt saklama süresi kurumun politikasına göre belirleniyor.
Diğer hizmetler
Bu konuda yazdıklarımız
- Yapay zekâ ajanı projeleri neden başarısız oluyorDemo'da etkileyici çalışan ajanlar gerçek kullanımda neden duruyor? Araç tasarımı, hata toparlama, insana devretme ve maliyet tavanı üzerine dört gözlem.
- Kurumsal veriyi yapay zekâya vermek güvenli miŞirket verisi bir dil modeline gidince ne oluyor? Sağlayıcı sözleşmeleri, eğitime kullanım, KVKK, yurt dışına aktarım ve kendi sunucunuzda çalıştırma.
- LLM faturası nasıl öngörülebilir hâle gelirYapay zekâ maliyeti neden ay sonunda sürpriz olur, nasıl kontrol edilir: model kademelendirme, prompt önbelleği, çıktı uzunluğu ve istek başına tavan.
Son güncelleme: 2026-09-05
Bu işi konuşalım
Ne yapmak istediğinizi yazın, iki gün içinde kimin bakacağını ve nasıl ölçeceğimizi söyleyelim.