Büyük dil modellerini yerel bir bilgisayarda çalıştırmaya yönelik bir çalışma zamanı sistemi olan Ollama, Apple'ın açık kaynağına destek sağladıMLXmakine öğrenimi için çerçeve. Ayrıca Ollama, önbellekleme performansının iyileştirildiğini ve artık Nvidia'nınNVFP4Model sıkıştırma formatı, belirli modellerde hafızanın çok daha verimli kullanılmasını sağlar.
Bu gelişmeler bir araya getirildiğinde, Apple Silicon çipli (M1 veya üstü) Mac'lerde önemli ölçüde iyileştirilmiş performans vaat ediyor ve yerel modeller daha önce dış araştırmacı ve amatör topluluklarda olmadığı şekilde güç kazanmaya başladığından zamanlama daha iyi olamazdı.
300.000'den fazla yıldıza ulaşan OpenClaw'ın son zamanlardaki kontrolden çıkan başarısıGitHub'dagibi deneylerle manşetlere çıktıMolt kitabıve Çin'de bir takıntı haline geldiözellikle-makinelerinde modelleri çalıştırmayı deneyen birçok kişi var.
