Bu cihazda
Çalışan modeller: kendi cihazınızda
Küçük açık modeller bu tarayıcıya bir kez iner ve GPU'nuzda yanıt verir. Anahtar yok, giriş yok ve yazdığınız hiçbir şey cihazdan çıkmaz. Ücretsizler, çünkü işi cihazınız yapar.
- Anahtar yok, giriş yok
- Sözleriniz bu cihazda kalır
- Ücretsiz, çünkü işi GPU'nuz yapar
Bu cihaz
Bu tarayıcıya GPU'su soruluyor
6 model, küçükten büyüğe
Her biri sizin seçtiğiniz, bir kerelik bir indirme. Siz silene kadar bu tarayıcıda kalır.
SmolLM2 360M
Hugging Face yapımı
212 MB indirme · 4k bağlam
yaklaşık 376 MB GPU belleği gerekir
Qwen3.5 0.8B
Qwen yapımı
443 MB indirme · 4k bağlam
yaklaşık 1,6 GB GPU belleği gerekir
düşünen bir model, doğrudan yanıt vermesi istenir
Gemma 3 1B
Google yapımı
602 MB indirme · 4k bağlam
yaklaşık 711 MB GPU belleği gerekir
Llama 3.2 1B
Meta yapımı
710 MB indirme · 4k bağlam
yaklaşık 879 MB GPU belleği gerekir
Qwen3 1.7B
Qwen yapımı
985 MB indirme · 4k bağlam
yaklaşık 2 GB GPU belleği gerekir
düşünen bir model, doğrudan yanıt vermesi istenir
Llama 3.2 3B
Meta yapımı
1,8 GB indirme · 4k bağlam
yaklaşık 2,3 GB GPU belleği gerekir
Nasıl çalışır
Motor, MLC'nin WebLLM'i (Apache 2.0), sürüm 0.2.85. Her model önceden WebGPU programlarına derlenir ve bu sayfanın yanında bir worker içinde çalışır.
Ağırlıklar Hugging Face'ten, derlenmiş model GitHub'dan bir kez gelir. Bu tarayıcı onları, siz burada silene veya site verilerini temizleyene kadar Cache Storage içinde tutar.
Her yanıtı GPU'nuz yazar. Hiçbir istem ve hiçbir yanıt Antimatter'a veya bir model sağlayıcısına gitmez. Sohbette bir konuşma, diğer konuşmalarınız gibi kaydedilir.
Daha büyük modeller bulutta, tek bir anahtarın ardında. Sohbeti açın