llama.cpp ile CPU Üzerinde Yerel LLM Çalıştırma

llama.cpp ile CPU Üzerinde Yerel LLM Çalıştırma

Neden CPU Üzerinde Yerel LLM? Öncelikle “Neden GPU olmadan LLM çalıştırmayı istiyoruz” sorusu sizin de aklınıza takıldıysa onun cevabıyla başlayalım. Çünkü elimizde GPU yok :) Sunucumdan dışarıya çıkmasını istemediğim bazı verilerin bir LLM tarafından yorumlanarak bana günlük, haftalık, aylık ve yıllık olarak raporlanmasını kurgulamak ve bazı durumlarda da yine sunucumdan çıkmasını istemediğim veriler hakkında bir dil modeli ile istişare etmek gibi bir isteğim vardı. Bu isteği GPU’ya sahip olmayan ama CPU ve RAM bolluğu bulunan sunucumda uygulayabilir miyim diye bir denemeye giriştim… ...

25 Ekim 2026 · 7 dk