聊天

在此设备上

运行在 你自己设备上的模型

小型开放模型只需下载一次到这个浏览器，在你的 GPU 上作答。无需密钥，无需登录，你输入的内容不会离开设备。它们免费，因为干活的是你的设备。

  • 无需密钥，无需登录
  • 你的文字留在此设备上
  • 免费，因为由你的 GPU 来算

此设备

正在向这个浏览器询问它的 GPU

6 个模型，从小到大

每个都是由你选择的一次性下载。它会留在这个浏览器里，直到你删除。

  • SmolLM2 360M

    来自 Hugging Face

    下载 212 MB · 4k 上下文

    约需 376 MB GPU 显存

  • Qwen3.5 0.8B

    来自 Qwen

    下载 443 MB · 4k 上下文

    约需 1.6 GB GPU 显存

    推理模型，这里要求它直接作答

  • Gemma 3 1B

    来自 Google

    下载 602 MB · 4k 上下文

    约需 711 MB GPU 显存

  • Llama 3.2 1B

    来自 Meta

    下载 710 MB · 4k 上下文

    约需 879 MB GPU 显存

  • Qwen3 1.7B

    来自 Qwen

    下载 985 MB · 4k 上下文

    约需 2 GB GPU 显存

    推理模型，这里要求它直接作答

  • Llama 3.2 3B

    来自 Meta

    下载 1.8 GB · 4k 上下文

    约需 2.3 GB GPU 显存

工作原理

引擎是 MLC 的 WebLLM（Apache 2.0），版本 0.2.85。每个模型都预先编译为 WebGPU 程序，在本页旁的 worker 中运行。

权重来自 Hugging Face，编译好的模型来自 GitHub，只下载一次。这个浏览器把它们存在 Cache Storage 中，直到你在这里删除或清除本站数据。

每条回复都由你的 GPU 写出。没有任何提示词或回复会发送给 Antimatter 或任何模型提供方。在聊天中，对话会像你的其他对话一样保存。

更大的模型在云端，一个密钥即可使用。 打开聊天

Antimatter