Magnum v4 72B

anthracite-org/magnum-v4-72b

模态: text->text
输入 / 输出价格: $2.5 / $5
上下文: 33K
上架: 2024年10月22日
知识截止: 2024-06-30

This is a series of models designed to replicate the prose quality of the Claude 3 models, specifically Sonnet(https://openrouter.ai/anthropic/claude-3.5-sonnet) and Opus(https://openrouter.ai/anthropic/claude-3-opus).

The model is fine-tuned on top of Qwen2.5 72B.

结构化输出

支持的参数

frequency_penalty
频率惩罚
按 token 已出现的次数降低它再次出现的概率。
logit_bias
Logit 偏置
按 token id 加减分，用来鼓励或禁止某些 token。
logprobs
对数概率
返回每个输出 token 的对数概率。
max_tokens
输出上限
最多生成多少 token。达到上限会截断。
min_p
最小概率
丢掉概率低于该阈值的 token。
presence_penalty
存在惩罚
只要 token 出现过就降低它再次出现的概率。
repetition_penalty
重复惩罚
对已经生成过的内容施加重复惩罚，常见于开源模型。
response_format
响应格式
例如 json_object 或 json_schema，用于约束输出形状。
seed
随机种子
固定种子有助于复现采样结果，不保证字节级一致。
stop
停止词
生成到这些字符串时停止。可以是字符串或字符串数组。
structured_outputs
结构化输出
按 JSON Schema 生成可解析的结构。
temperature
温度
采样温度。越低越稳定，越高越发散。常见范围 0 到 2。
top_a
Top-A
按相对概率动态收窄候选 token。
top_k
Top-K
只从概率最高的 K 个 token 里采样。
top_logprobs
候选对数概率
每个位置额外返回概率最高的若干候选。
top_p
核采样
只在累计概率达到 top_p 的 token 里采样。

支持的参数

frequency_penalty

频率惩罚

按 token 已出现的次数降低它再次出现的概率。

logit_bias

Logit 偏置

按 token id 加减分，用来鼓励或禁止某些 token。

logprobs

对数概率

返回每个输出 token 的对数概率。

max_tokens

输出上限

最多生成多少 token。达到上限会截断。

min_p

最小概率

丢掉概率低于该阈值的 token。

presence_penalty

存在惩罚

只要 token 出现过就降低它再次出现的概率。

repetition_penalty

重复惩罚

对已经生成过的内容施加重复惩罚，常见于开源模型。

response_format

响应格式

例如 json_object 或 json_schema，用于约束输出形状。

seed

随机种子

固定种子有助于复现采样结果，不保证字节级一致。

stop

停止词

生成到这些字符串时停止。可以是字符串或字符串数组。

structured_outputs

结构化输出

按 JSON Schema 生成可解析的结构。

temperature

温度

采样温度。越低越稳定，越高越发散。常见范围 0 到 2。

top_a

Top-A

按相对概率动态收窄候选 token。

top_k

Top-K

只从概率最高的 K 个 token 里采样。

top_logprobs

候选对数概率

每个位置额外返回概率最高的若干候选。

top_p

核采样

只在累计概率达到 top_p 的 token 里采样。