Sao10k: Llama 3.1 Euryale 70B v2.2
用于多语言聊天、推理和编程的开放 Llama 指令模型
- 研发机构
- Sao10k
- 模型系列
- llama
输入与输出文本 → 文本
上下文窗口131,072
最大输出16,384
输入USD 1.595904 / 1M token
输出USD 1.595904 / 1M token
快速接入
使用你的 Moduck API Key,将 API 基础地址设置为 https://api.moduck.ai/v1,并将 model 参数设置为 sao10k/l3.1-euryale-70b。
import os
import requests
base_url = "https://api.moduck.ai/v1"
api_key = os.environ["MODUCK_API_KEY"]
model_id = "sao10k/l3.1-euryale-70b"
response = requests.post(
f"{base_url}/chat/completions",
headers={
"Authorization": f"Bearer {api_key}",
"Content-Type": "application/json",
},
json={
"model": model_id,
"messages": [{"role": "user", "content": "Hello!"}],
"stream": False,
},
timeout=60,
)
response.raise_for_status()
print(response.json())采用 OpenAI 风格的聊天请求格式,沿用熟悉的调用方式,让模型接入更简单。
Llama 3.1 Euryale 70B v2.2 API 价格
| 规格 | 价格资料 |
|---|---|
| 输入 | USD 1.595904 / 1M token |
| 输出 | USD 1.595904 / 1M token |
性能
性能走势
输出速度90.6 tok/s当前
首 token 延迟1.3 s当前
端到端延迟7.1 s当前
输出速度
当前90.6 tok/s
窗口均值90.3 tok/s
首 token 延迟
当前1.3 s
窗口均值1.5 s
端到端延迟
当前7.1 s
窗口均值7.5 s
长尾延迟(P99)
当前13.7 s
窗口均值15.9 s
提示词缓存命中率
当前26.4%
窗口均值24.7%
错误率
当前0.0%
窗口均值0.1%
可用性
运行时间100%至少一个服务方有响应
可用率100%实际成功服务的请求
错误率0%失败请求占比
服务请求 · 按小时
24 小时前现在
Llama 3.1 Euryale 70B v2.2 模型对比
| 模型 | 输入价格 | 输出价格 | 上下文窗口 | 主要能力 |
|---|---|---|---|---|
| Llama 3.1 Euryale 70B v2.2当前模型 | USD 1.595904 / 1M token | USD 1.595904 / 1M token | 131,072 | 文本输出 · 工具调用 |
| Llama 3.3 Euryale 70B | USD 0.715208 / 1M token | USD 0.82524 / 1M token | 131,072 | 文本输出 |
| Llama 3 8B Lunaris | USD 0.055016 / 1M token | USD 0.055016 / 1M token | 8,192 | 文本输出 |
| Beam 1.0 501B A23B | USD 0.2 / 1M token | USD 0.8 / 1M token | 1,048,576 | 文本输出 · 推理 · 工具调用 |
| Ling 3.1 Flash | USD 0.06 / 1M token | USD 0.176 / 1M token | 262,144 | 文本输出 · 推理 · 工具调用 |
模型规格
- 输入
- 文本
- 输出
- 文本
- 上下文窗口
- 131,072
- 最大输出
- 16,384
- 发布日期
- 2024-08-28
- 附件输入
- 不支持
- 推理
- 不支持
- 工具调用
- 支持
- 结构化输出
- 支持
- 温度参数
- 支持
- 开放权重
- 支持
常见问题
Llama 3.1 Euryale 70B v2.2 适合做什么?
用于多语言聊天、推理和编程的开放 Llama 指令模型
Llama 3.1 Euryale 70B v2.2 支持哪些输入和输出?
资料记录的输入:文本;输出:文本。
Llama 3.1 Euryale 70B v2.2 如何计费?
本页价格表展示当前记录的 Moduck 价格。例如:输入 USD 1.595904 / 1M token;输出 USD 1.595904 / 1M token。完整计费单位、规格和条件请查看本页价格表。
Llama 3.1 Euryale 70B v2.2 的已记录规格是什么?
当前资料记录:上下文窗口 131,072 tokens;最大输出 16,384 tokens。
快速接入示例中的 model 参数是什么?
示例使用 sao10k/l3.1-euryale-70b。这个值来自页面标识,尚未核定为可调用的 Moduck 公共 ID。
现在能通过 Moduck API 调用这款模型吗?
本页没有这款模型已通过 Moduck API 实际调用的验证记录。接入示例和预留 ID 不代表已经开放,请以账户可用模型列表为准。