İçeriğe geç
Ücretsiz analiz
Sözlük

Yerel yapay zekâ modeli nedir?

Diğer adları: kendi sunucusunda çalışan yapay zekâ, on-premise AI, yerel LLM

Tanım

Yerel yapay zekâ modeli, bir bulut sağlayıcısının sunucusunda değil, işletmenin kendi sunucusunda veya kontrolündeki altyapıda çalıştırılan yapay zekâ modelidir; verilerin dışarı çıkmaması gereken işlerde tercih edilir.

Açık kaynaklı veya lisansı uygun bazı büyük dil modelleri işletmenin kendi sunucusuna kurulabilir. Böylece müşteri verileri, iç belgeler ve teklif bilgileri üçüncü taraf bir hizmete gönderilmeden işlenebilir.

Ne zaman mantıklıdır?

  • Hassas kişisel veri işleniyorsa
  • Kurum içi belgelerle çalışılıyorsa
  • Kullanım hacmi yüksek ve öngörülebilirse

Dikkat edilecekler

Yerel modeller genellikle en büyük bulut modelleri kadar güçlü değildir ve sunucu, bakım, güncelleme sorumluluğu işletmeye veya hizmet sağlayıcısına geçer. Birçok işletme için en uygun yapı karmadır: hassas işler yerelde, genel işler bulutta.

İlgili terimler

Büyük dil modeliRAG (bilgiye dayalı üretim)

Bu terimin geçtiği rehberler