Nousresearch: Hermes 3 70B Instruct

用于多语言聊天、推理和编程的开放 Llama 指令模型

研发机构
Nousresearch
模型系列
nousresearch
输入与输出文本 → 文本
上下文窗口131,072
最大输出16,384
输入USD 0.56 / 1M token
输出USD 0.56 / 1M token

快速接入

使用你的 Moduck API Key,将 API 基础地址设置为 https://api.moduck.ai/v1,并将 model 参数设置为 moduck/nousresearch/hermes-3-llama-3-1-70b。

import os
import requests

base_url = "https://api.moduck.ai/v1"
api_key = os.environ["MODUCK_API_KEY"]
model_id = "moduck/nousresearch/hermes-3-llama-3-1-70b"

response = requests.post(
    f"{base_url}/chat/completions",
    headers={
        "Authorization": f"Bearer {api_key}",
        "Content-Type": "application/json",
    },
    json={
        "model": model_id,
        "messages": [{"role": "user", "content": "Hello!"}],
        "stream": False,
    },
    timeout=60,
)
response.raise_for_status()
print(response.json())

采用 OpenAI 风格的聊天请求格式,沿用熟悉的调用方式,让模型接入更简单。

Hermes 3 70B Instruct API 价格

规格价格资料
输入USD 0.56 / 1M token
输出USD 0.56 / 1M token

模型评测

综合智能指数 · v4.36
编码指数—
Agent 指数—

性能

输出速度27.49 tokens/s
首 token 延迟2.36 s
首个答案 token 延迟—
端到端响应时长—

性能走势

输出速度27.49 tok/s当前
首 token 延迟2.36 s当前
端到端延迟6.9 s当前
输出速度
当前27.49 tok/s
窗口均值26.5 tok/s
首 token 延迟
当前2.36 s
窗口均值2.9 s
端到端延迟
当前6.9 s
窗口均值7.5 s
长尾延迟(P99)
当前13.7 s
窗口均值16.6 s
提示词缓存命中率
当前18.2%
窗口均值24.5%
错误率
当前0.0%
窗口均值0.1%

可用性

运行时间100%至少一个服务方有响应
可用率100%实际成功服务的请求
错误率0%失败请求占比
服务请求 · 按小时
24 小时前现在

Hermes 3 70B Instruct 模型对比

模型输入价格输出价格上下文窗口主要能力
Hermes 3 70B Instruct当前模型USD 0.56 / 1M tokenUSD 0.56 / 1M token131,072文本输出
Hermes 3 405B InstructUSD 0.8 / 1M tokenUSD 0.8 / 1M token131,072文本输出
Hermes 4 405BUSD 0.24 / 1M token · 上下文 ≤ 128000 token · 最大输出 8192 token · 最大输入 128000 tokenUSD 0.96 / 1M token · 上下文 ≤ 128000 token · 最大输出 8192 token · 最大输入 128000 token131,072文本输出 · 推理
Hermes 2 Pro Llama 3 8BUSD 0.112 / 1M tokenUSD 0.112 / 1M token8,192文本输出 · 工具调用
Beam 1.0 501B A23BUSD 0.2 / 1M tokenUSD 0.8 / 1M token1,048,576文本输出 · 推理 · 工具调用

模型规格

输入
文本
输出
文本
上下文窗口
131,072
最大输出
16,384
发布日期
2024-08-18
附件输入
不支持
推理
不支持
工具调用
不支持
结构化输出
支持
温度参数
支持
开放权重
支持

常见问题

Hermes 3 70B Instruct 适合做什么?

用于多语言聊天、推理和编程的开放 Llama 指令模型

Hermes 3 70B Instruct 支持哪些输入和输出?

资料记录的输入:文本;输出:文本。

Hermes 3 70B Instruct 如何计费?

本页价格表展示当前记录的 Moduck 价格。例如:输入 USD 0.56 / 1M token;输出 USD 0.56 / 1M token。完整计费单位、规格和条件请查看本页价格表。

Hermes 3 70B Instruct 的已记录规格是什么?

当前资料记录:上下文窗口 131,072 tokens;最大输出 16,384 tokens。

快速接入示例中的 model 参数是什么?

示例使用 moduck/nousresearch/hermes-3-llama-3-1-70b。这是目录记录的 Moduck 公共/预留 ID;实际调用仍需以账户可用模型列表核对。

现在能通过 Moduck API 调用这款模型吗?

本页没有这款模型已通过 Moduck API 实际调用的验证记录。接入示例和预留 ID 不代表已经开放,请以账户可用模型列表为准。