Auf diesem Gerät
Modelle, die laufen: auf deinem eigenen Gerät
Kleine offene Modelle werden einmal in diesen Browser geladen und antworten auf deiner GPU. Kein Schlüssel, keine Anmeldung, und nichts, was du tippst, verlässt das Gerät. Sie kosten nichts, weil dein Gerät die Arbeit macht.
- Kein Schlüssel, keine Anmeldung
- Deine Worte bleiben auf diesem Gerät
- Kostenlos, weil deine GPU die Arbeit macht
Dieses Gerät
Dieser Browser wird nach seiner GPU gefragt
6 Modelle, von klein bis groß
Jedes ist ein Download, den du einmal wählst. Er bleibt in diesem Browser, bis du ihn löschst.
SmolLM2 360M
von Hugging Face
212 MB Download · 4k Kontext
braucht etwa 376 MB GPU-Speicher
Qwen3.5 0.8B
von Qwen
443 MB Download · 4k Kontext
braucht etwa 1,6 GB GPU-Speicher
ein denkendes Modell, gebeten, direkt zu antworten
Gemma 3 1B
von Google
602 MB Download · 4k Kontext
braucht etwa 711 MB GPU-Speicher
Llama 3.2 1B
von Meta
710 MB Download · 4k Kontext
braucht etwa 879 MB GPU-Speicher
Qwen3 1.7B
von Qwen
985 MB Download · 4k Kontext
braucht etwa 2 GB GPU-Speicher
ein denkendes Modell, gebeten, direkt zu antworten
Llama 3.2 3B
von Meta
1,8 GB Download · 4k Kontext
braucht etwa 2,3 GB GPU-Speicher
So funktioniert es
Die Engine ist WebLLM von MLC (Apache 2.0), Version 0.2.85. Jedes Modell ist vorab in WebGPU-Programme übersetzt und läuft in einem Worker neben dieser Seite.
Die Gewichte kommen von Hugging Face und das übersetzte Modell von GitHub, einmal. Dieser Browser hält sie in seinem Cache Storage, bis du sie hier löschst oder die Daten der Seite löschst.
Deine GPU schreibt jede Antwort. Kein Prompt und keine Antwort geht an Antimatter oder an einen Modellanbieter. Im Chat wird eine Unterhaltung gespeichert wie deine anderen Unterhaltungen.
Größere Modelle leben in der Cloud, hinter einem Schlüssel. Chat öffnen