Sao10k: Llama 3 8B Lunaris
用于多语言聊天、推理和编程的开放 Llama 指令模型
- 研发机构
- Sao10k
- 模型系列
- llama
输入与输出文本 → 文本
上下文窗口8,192
最大输出7,372
输入USD 0.055016 / 1M token
输出USD 0.055016 / 1M token
快速接入
使用你的 Moduck API Key,将 API 基础地址设置为 https://api.moduck.ai/v1,并将 model 参数设置为 sao10k/l3-lunaris-8b。
import os
import requests
base_url = "https://api.moduck.ai/v1"
api_key = os.environ["MODUCK_API_KEY"]
model_id = "sao10k/l3-lunaris-8b"
response = requests.post(
f"{base_url}/chat/completions",
headers={
"Authorization": f"Bearer {api_key}",
"Content-Type": "application/json",
},
json={
"model": model_id,
"messages": [{"role": "user", "content": "Hello!"}],
"stream": False,
},
timeout=60,
)
response.raise_for_status()
print(response.json())采用 OpenAI 风格的聊天请求格式,沿用熟悉的调用方式,让模型接入更简单。
Llama 3 8B Lunaris API 价格
| 规格 | 价格资料 |
|---|---|
| 输入 | USD 0.055016 / 1M token |
| 输出 | USD 0.055016 / 1M token |
性能
性能走势
输出速度89.5 tok/s当前
首 token 延迟1.2 s当前
端到端延迟8.0 s当前
输出速度
当前89.5 tok/s
窗口均值88.3 tok/s
首 token 延迟
当前1.2 s
窗口均值1.4 s
端到端延迟
当前8.0 s
窗口均值7.5 s
长尾延迟(P99)
当前28.5 s
窗口均值17.9 s
提示词缓存命中率
当前31.4%
窗口均值22.5%
错误率
当前0.0%
窗口均值0.2%
可用性
运行时间100%至少一个服务方有响应
可用率100%实际成功服务的请求
错误率0%失败请求占比
服务请求 · 按小时
24 小时前现在
Llama 3 8B Lunaris 模型对比
| 模型 | 输入价格 | 输出价格 | 上下文窗口 | 主要能力 |
|---|---|---|---|---|
| Llama 3 8B Lunaris当前模型 | USD 0.055016 / 1M token | USD 0.055016 / 1M token | 8,192 | 文本输出 |
| Llama 3.3 Euryale 70B | USD 0.715208 / 1M token | USD 0.82524 / 1M token | 131,072 | 文本输出 |
| Llama 3.1 Euryale 70B v2.2 | USD 1.595904 / 1M token | USD 1.595904 / 1M token | 131,072 | 文本输出 · 工具调用 |
| Beam 1.0 501B A23B | USD 0.2 / 1M token | USD 0.8 / 1M token | 1,048,576 | 文本输出 · 推理 · 工具调用 |
| Ling 3.1 Flash | USD 0.06 / 1M token | USD 0.176 / 1M token | 262,144 | 文本输出 · 推理 · 工具调用 |
模型规格
- 输入
- 文本
- 输出
- 文本
- 上下文窗口
- 8,192
- 最大输出
- 7,372
- 发布日期
- 2024-08-13
- 附件输入
- 不支持
- 推理
- 不支持
- 工具调用
- 不支持
- 结构化输出
- 支持
- 温度参数
- 支持
- 开放权重
- 支持
常见问题
Llama 3 8B Lunaris 适合做什么?
用于多语言聊天、推理和编程的开放 Llama 指令模型
Llama 3 8B Lunaris 支持哪些输入和输出?
资料记录的输入:文本;输出:文本。
Llama 3 8B Lunaris 如何计费?
本页价格表展示当前记录的 Moduck 价格。例如:输入 USD 0.055016 / 1M token;输出 USD 0.055016 / 1M token。完整计费单位、规格和条件请查看本页价格表。
Llama 3 8B Lunaris 的已记录规格是什么?
当前资料记录:上下文窗口 8,192 tokens;最大输出 7,372 tokens。
快速接入示例中的 model 参数是什么?
示例使用 sao10k/l3-lunaris-8b。这个值来自页面标识,尚未核定为可调用的 Moduck 公共 ID。
现在能通过 Moduck API 调用这款模型吗?
本页没有这款模型已通过 Moduck API 实际调用的验证记录。接入示例和预留 ID 不代表已经开放,请以账户可用模型列表为准。