Cohere: Command R+
Cohere 的 RAG 主力,用于长上下文企业搜索和工具使用
- 研发机构
- Cohere
- 模型系列
- command-r
模型资料
输入与输出文本 → 文本
上下文窗口128,000
最大输出4,000
输入USD 2 / 1M token
输出USD 8 / 1M token
快速接入
使用你的 Moduck API Key,将 API 基础地址设置为 https://api.moduck.ai/v1,并将 model 参数设置为 cohere/command-r-plus-08-2024。
import os
import requests
base_url = "https://api.moduck.ai/v1"
api_key = os.environ["MODUCK_API_KEY"]
model_id = "cohere/command-r-plus-08-2024"
response = requests.post(
f"{base_url}/chat/completions",
headers={
"Authorization": f"Bearer {api_key}",
"Content-Type": "application/json",
},
json={
"model": model_id,
"messages": [{"role": "user", "content": "Hello!"}],
"stream": False,
},
timeout=60,
)
response.raise_for_status()
print(response.json())采用 OpenAI 风格的聊天请求格式,沿用熟悉的调用方式,让模型接入更简单。
Command R+ API 价格
| 规格 | 价格资料 |
|---|---|
| 输入 | USD 2 / 1M token |
| 输出 | USD 8 / 1M token |
性能
性能走势
输出速度91.5 tok/s当前
首 token 延迟1.2 s当前
端到端延迟7.2 s当前
输出速度
当前91.5 tok/s
窗口均值89.9 tok/s
首 token 延迟
当前1.2 s
窗口均值1.4 s
端到端延迟
当前7.2 s
窗口均值7.5 s
长尾延迟(P99)
当前15.1 s
窗口均值16.7 s
提示词缓存命中率
当前26.5%
窗口均值23.4%
错误率
当前0.0%
窗口均值0.1%
可用性
运行时间100%至少一个服务方有响应
可用率100%实际成功服务的请求
错误率0%失败请求占比
服务请求 · 按小时
24 小时前现在
Command R+ 模型对比
| 模型 | 输入价格 | 输出价格 | 上下文窗口 | 主要能力 |
|---|---|---|---|---|
| Command R+当前模型 | USD 2 / 1M token | USD 8 / 1M token | 128,000 | 文本输出 · 工具调用 |
| Command R7B Arabic | USD 0.03 / 1M token | USD 0.12 / 1M token | 128,000 | 文本输出 · 工具调用 |
| Command R7B | USD 0.03 / 1M token | USD 0.12 / 1M token | 128,000 | 文本输出 · 工具调用 |
| Command R | USD 0.12 / 1M token | USD 0.48 / 1M token | 128,000 | 文本输出 · 工具调用 |
| Command A Translate | USD 2 / 1M token | USD 8 / 1M token | 8,000 | 文本输出 · 工具调用 |
模型规格
- 输入
- 文本
- 输出
- 文本
- 上下文窗口
- 128,000
- 最大输出
- 4,000
- 发布日期
- 2024-08-30
- 附件输入
- 不支持
- 推理
- 不支持
- 工具调用
- 支持
- 温度参数
- 支持
- 开放权重
- 支持
常见问题
Command R+ 适合做什么?
Cohere 的 RAG 主力,用于长上下文企业搜索和工具使用
Command R+ 支持哪些输入和输出?
资料记录的输入:文本;输出:文本。
Command R+ 如何计费?
本页价格表展示当前记录的 Moduck 价格。例如:输入 USD 2 / 1M token;输出 USD 8 / 1M token。完整计费单位、规格和条件请查看本页价格表。
Command R+ 的已记录规格是什么?
当前资料记录:上下文窗口 128,000 tokens;最大输出 4,000 tokens。
快速接入示例中的 model 参数是什么?
示例使用 cohere/command-r-plus-08-2024。这个值来自页面标识,尚未核定为可调用的 Moduck 公共 ID。
现在能通过 Moduck API 调用这款模型吗?
本页没有这款模型已通过 Moduck API 实际调用的验证记录。接入示例和预留 ID 不代表已经开放,请以账户可用模型列表为准。