Google başlattıGemma 4 açık modellerBu bahar, yerel yapay zeka için yeni bir güç ve performans düzeyi vaat ediyor. Google'ın uç yapay zeka konusundaki yaklaşımı, şu sürümün piyasaya sürülmesiyle birlikte daha da hızlanmış olabilir:Çoklu Token Tahmini(MTP) Gemma için taslak hazırlayanlar. Google, bu deneysel modellerin, gelecekteki jetonlar hakkında tahminde bulunmak için bir tür spekülatif kod çözme yönteminden yararlandığını ve bunun, modellerin kendi başlarına jeton oluşturma yöntemiyle karşılaştırıldığında üretimi hızlandırabileceğini söylüyor.
En yeni Gemma modelleri, Google'ın öncü Gemini yapay zekasına güç veren aynı temel teknoloji üzerine inşa edilmiştir, ancak yerel olarak çalışacak şekilde ayarlanmıştır. Gemini Google'da çalışacak şekilde optimize edildiözel TPU çiplerisüper hızlı ara bağlantılara ve belleğe sahip devasa kümeler halinde çalışır. Tek bir yüksek güçlü yapay zeka hızlandırıcı, en büyük Gemma 4 modelini tam hassasiyetle çalıştırabilir ve niceleme, bunun tüketici GPU'sunda çalışmasına olanak tanır.
Gemma, kullanıcıların tüm verilerini Google'ın veya başka birinin bulut yapay zeka sistemiyle paylaşmak yerine, donanımlarında yapay zeka ile oynamalarına olanak tanıyor. Google ayrıca Gemma 4 lisansını da Apache 2.0 olarak değiştirdi; bu, Google'ın önceki sürümlerde kullandığı özel Gemma lisansından çok daha hoşgörülüdür. Ancak çoğu kişinin yerel yapay zeka modellerini çalıştırmak için sahip olduğu donanımda doğal sınırlamalar vardır. MTP'nin devreye girdiği yer burasıdır.
