чат

На этом устройстве

Модели, которые работают на вашем собственном устройстве

Небольшие открытые модели один раз загружаются в этот браузер и отвечают на вашей GPU. Без ключа, без входа, и ничто из набранного не покидает устройство. Они бесплатны, потому что работу делает ваше устройство.

  • Без ключа, без входа
  • Ваши слова остаются на этом устройстве
  • Бесплатно, потому что работает ваша GPU

Это устройство

Спрашиваем у этого браузера его GPU

6 моделей, от малой к большой

Каждая из них загружается один раз, если вы её выберете. Она остаётся в этом браузере, пока вы её не удалите.

  • SmolLM2 360M

    от Hugging Face

    загрузка 212 МБ · контекст 4k

    нужно около 376 МБ памяти GPU

  • Qwen3.5 0.8B

    от Qwen

    загрузка 443 МБ · контекст 4k

    нужно около 1,6 ГБ памяти GPU

    рассуждающая модель, её просят отвечать сразу

  • Gemma 3 1B

    от Google

    загрузка 602 МБ · контекст 4k

    нужно около 711 МБ памяти GPU

  • Llama 3.2 1B

    от Meta

    загрузка 710 МБ · контекст 4k

    нужно около 879 МБ памяти GPU

  • Qwen3 1.7B

    от Qwen

    загрузка 985 МБ · контекст 4k

    нужно около 2 ГБ памяти GPU

    рассуждающая модель, её просят отвечать сразу

  • Llama 3.2 3B

    от Meta

    загрузка 1,8 ГБ · контекст 4k

    нужно около 2,3 ГБ памяти GPU

Как это работает

Движок: WebLLM от MLC (Apache 2.0), версия 0.2.85. Каждая модель заранее скомпилирована в программы WebGPU и работает в worker рядом с этой страницей.

Веса загружаются с Hugging Face, а скомпилированная модель с GitHub, один раз. Этот браузер хранит их в Cache Storage, пока вы не удалите их здесь или не очистите данные сайта.

Каждый ответ пишет ваша GPU. Ни один запрос и ни один ответ не уходит в Antimatter или к какому-либо поставщику моделей. В чате диалог сохраняется так же, как другие ваши диалоги.

Модели побольше живут в облаке, за одним ключом. Открыть чат

Antimatter