星图
Meta

Llama 3.1 8B Instruct

meta-llama/llama-3.1-8b-instruct

每条消息 不到 1/100 美分

一条典型消息:你发送约 500 token,它生成约 500 token。

你发送的每 1M token $0.055它生成的每 1M token $0.088一次读取 131k token

公布的能力工具调用json schema

Meta's latest class of model (Llama 3.1) launched with a variety of sizes & flavors. This 8B instruct-tuned version is fast and efficient. It has demonstrated strong performance compared to...

以上为 Meta 的原话。

它说的话会出现在这里。

服务商目录中关于这个世界的信息,以及它在此处的计费价格。

上下文窗口
131,072 token
最长回答
117,964 token
输入,每 1M token
$0.055服务商 $0.05
输出,每 1M token
$0.088服务商 $0.08
缓存输入,每 1M
$0.0275服务商 $0.025
加价
+10%
可读取
文本
首次上架
2024年7月23日

价格和延迟历史的 JSON:GET /api/planet/history?id=meta-llama/llama-3.1-8b-instruct。

674ms
首字,中位数
1,715ms
首字,慢速
450.9 tok/s
速度
4.2%
错误

来自过去 7 天经此部署的 24 个请求。不是基准测试,只是这艘船看到的情况。

能力探测

不可用
工具调用
可用
json schema
100%
上下文召回
0%
拒答率

探测中位数:首字 567ms,完整回答 579ms,覆盖一天中的 10 个小时

在以下深度找到隐藏信息:10% 是, 50% 是, 90% 是

行为在 2026年10月19日 发生变化:tool calling went from working to broken。没有人公布这个;我们之所以注意到,是因为我们每次都用同样的方法测量同样的东西。

经由此网关端到端实测,而不是照搬厂商的说法。 最近一次测量于 2026年10月19日。 拒答通过对一组固定的中性提示做模式匹配来判断,所以宁可少报,也不会误判。

任务测试

通过 6 / 8
代码
通过 7 / 8
信息提取
通过 4 / 8
推理

本网关按计划运行的固定小任务:由该世界编写的函数,在隔离环境中用测试用例运行;从文本中提取的字段,逐一精确核对;只有一个答案的简短谜题。统计最近 30 天,最近一次在 2026年10月19日。

延迟

首 token p50 完整回答 p50 数据不足最高 521ms
2026年9月19日:没有测量2026年9月20日:没有测量2026年9月21日:没有测量2026年9月22日:没有测量2026年9月23日:没有测量2026年9月24日:没有测量2026年9月25日:没有测量2026年9月26日:没有测量2026年9月27日:没有测量2026年9月28日:没有测量2026年9月29日:没有测量2026年9月30日:没有测量2026年10月1日:没有测量2026年10月2日:没有测量2026年10月3日:1 个样本,数据不足(需要 5 个)2026年10月4日:5 个样本, 首 token p50 415ms, 完整回答 p50 425ms, 100% 成功2026年10月5日:4 个样本,数据不足(需要 5 个)2026年10月6日:4 个样本,数据不足(需要 5 个)2026年10月7日:4 个样本,数据不足(需要 5 个)2026年10月8日:4 个样本,数据不足(需要 5 个)2026年10月9日:6 个样本, 首 token p50 513ms, 完整回答 p50 521ms, 100% 成功2026年10月10日:4 个样本,数据不足(需要 5 个)2026年10月11日:4 个样本,数据不足(需要 5 个)2026年10月12日:4 个样本,数据不足(需要 5 个)2026年10月13日:4 个样本,数据不足(需要 5 个)2026年10月14日:3 个样本,数据不足(需要 5 个)2026年10月15日:4 个样本,数据不足(需要 5 个)2026年10月16日:4 个样本,数据不足(需要 5 个)2026年10月17日:2 个样本,数据不足(需要 5 个)2026年10月18日:2 个样本,数据不足(需要 5 个)
2026年9月19日2026年10月18日
每个 UTC 日的首 token 和完整回答中位数,来自经此网关的请求和定时探测。30 天中有 2 天达到此处计算中位数所需的 5 个样本;最近一天为 2026年10月9日: 首 token 513ms, 完整回答 521ms, 100% 成功。样本较少的日子显示为数据不足,而不是一个数字。
每日延迟,UTC
日期样本成功首 token p50完整回答 p50
2026年10月3日1数据不足
2026年10月4日5100%415ms425ms
2026年10月5日4数据不足
2026年10月6日4数据不足
2026年10月7日4数据不足
2026年10月8日4数据不足
2026年10月9日6100%513ms521ms
2026年10月10日4数据不足
2026年10月11日4数据不足
2026年10月12日4数据不足
2026年10月13日4数据不足
2026年10月14日3数据不足
2026年10月15日4数据不足
2026年10月16日4数据不足
2026年10月17日2数据不足
2026年10月18日2数据不足

一个兼容 OpenAI 的端点,这个模型的 id,以及来自控制台的 am_live_ 密钥。或者先在聊天中试用,无需密钥。

curl https://useantimatter.com/v1/chat/completions \
  -H "Authorization: Bearer $ANTIMATTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "meta-llama/llama-3.1-8b-instruct", "messages": [{"role": "user", "content": "Hello"}]}'

其余内容都在文档中。

一枚徽章,显示这个世界在此处计费的每百万 token 实时价格,可用于 README 或网站。它链接回本页面。

Llama 3.1 8B Instruct 在 Antimatter 上的价格
<a href="https://useantimatter.com/planet/meta-llama/llama-3.1-8b-instruct"><img src="https://useantimatter.com/api/badge/price?id=meta-llama%2Fllama-3.1-8b-instruct" alt="Llama 3.1 8B Instruct price on Antimatter" height="28"></a>

价格和记忆容量最接近的,来自其他厂商。

返回星系,或把这个世界带进一段对话。

Antimatter