Mancer: Weaver (alpha)

mancer/weaver

模态: text->text
输入 / 输出价格: $0.4 / $0.75
上下文: 8K
上架: 2023年8月2日
知识截止: 2023-06-30

An attempt to recreate Claude-style verbosity, but don't expect the same level of coherence or memory. Meant for use in roleplay/narrative situations.

结构化输出

支持的参数

frequency_penalty
频率惩罚
按 token 已出现的次数降低它再次出现的概率。
logit_bias
Logit 偏置
按 token id 加减分，用来鼓励或禁止某些 token。
logprobs
对数概率
返回每个输出 token 的对数概率。
max_tokens
输出上限
最多生成多少 token。达到上限会截断。
min_p
最小概率
丢掉概率低于该阈值的 token。
presence_penalty
存在惩罚
只要 token 出现过就降低它再次出现的概率。
repetition_penalty
重复惩罚
对已经生成过的内容施加重复惩罚，常见于开源模型。
response_format
响应格式
例如 json_object 或 json_schema，用于约束输出形状。
seed
随机种子
固定种子有助于复现采样结果，不保证字节级一致。
stop
停止词
生成到这些字符串时停止。可以是字符串或字符串数组。
temperature
温度
采样温度。越低越稳定，越高越发散。常见范围 0 到 2。
top_a
Top-A
按相对概率动态收窄候选 token。
top_k
Top-K
只从概率最高的 K 个 token 里采样。
top_logprobs
候选对数概率
每个位置额外返回概率最高的若干候选。
top_p
核采样
只在累计概率达到 top_p 的 token 里采样。

模型 Mancer

Mancer: Weaver (alpha)

mancer/weaver

在试验场打开

模态: text->text
输入 / 输出价格: $0.4 / $0.75
上下文: 8K
上架: 2023年8月2日
知识截止: 2023-06-30

An attempt to recreate Claude-style verbosity, but don't expect the same level of coherence or memory. Meant for use in roleplay/narrative situations.

结构化输出

支持的参数

frequency_penalty
频率惩罚
按 token 已出现的次数降低它再次出现的概率。
logit_bias
Logit 偏置
按 token id 加减分，用来鼓励或禁止某些 token。
logprobs
对数概率
返回每个输出 token 的对数概率。
max_tokens
输出上限
最多生成多少 token。达到上限会截断。
min_p
最小概率
丢掉概率低于该阈值的 token。
presence_penalty
存在惩罚
只要 token 出现过就降低它再次出现的概率。
repetition_penalty
重复惩罚
对已经生成过的内容施加重复惩罚，常见于开源模型。
response_format
响应格式
例如 json_object 或 json_schema，用于约束输出形状。
seed
随机种子
固定种子有助于复现采样结果，不保证字节级一致。
stop
停止词
生成到这些字符串时停止。可以是字符串或字符串数组。
temperature
温度
采样温度。越低越稳定，越高越发散。常见范围 0 到 2。
top_a
Top-A
按相对概率动态收窄候选 token。
top_k
Top-K
只从概率最高的 K 个 token 里采样。
top_logprobs
候选对数概率
每个位置额外返回概率最高的若干候选。
top_p
核采样
只在累计概率达到 top_p 的 token 里采样。