"Cohere" (服务连接)

连接该服务需要外部账户 »

使用 Wolfram 语言调用 Cohere API.

连接与验证

ServiceConnect["Cohere"]创建与 Cohere API 的连接. 如果可以找到以前保存的连接，则将使用该连接；否则，将启动新的身份验证请求.
使用此连接需要访问互联网和 Cohere 帐户.

请求

ServiceExecute["Cohere","request",params] 使用参数 params 向 Cohere API 发送请求. 以下给出了可能的请求.
请求：

"TestConnection" — 如果连接正常则返回 Success，否则返回 Failure

文本

请求：

"Completion" — 为给定提示创建文本补全

参数：
  • "Prompt"(required)生成补全的提示
    "MaxTokens"Automatic要生成的最大令牌数
    "FrequencyPenalty"Automatic根据令牌在目前文本中的现有频率对其进行惩罚（介于 -2 和 2 之间）
    "Model"Automatic要使用的模型名称
    "N"Automatic要返回的补全数量
    "PresencePenalty"Automatic根据新令牌是否出现在目前文本中对其进行惩罚
    "StopTokens"AutomaticAPI 将停止生成更多令牌的字符串
    "Stream"False以服务器发送事件的形式返回结果
    "Temperature"Automatic采样温度
    "TopProbabilities"Automatic仅在 k 个概率最高的类别中进行采样
    "TotalProbabilityCutoff"Automatic作为温度采样的替代方案，称为核采样，模型考虑具有所请求概率质量的令牌结果
    • 请求：

    "Chat" — 为给定的聊天对话创建回复

    参数：
  • "Messages"(required)对话中的消息列表，每条消息都以 "Role" 和 "Content" 键的关联形式给出
    "MaxTokens"Automatic生成的最大令牌数
    "Model"Automatic要使用的模型名称
    "StopTokens"AutomaticAPI 将停止生成更多令牌的字符串
    "Stream"False以服务器发送事件的形式返回结果
    "Temperature"Automatic采样温度
    "Tools"Automatic一个或多个可供模型使用的 LLMTool 对象
    "TopProbabilities"Automatic仅在 k 个概率最高的类别中进行采样
    "TotalProbabilityCutoff"Automatic作为温度采样的替代方案，称为核采样，模型考虑具有所请求概率质量的令牌结果
    • 请求：

    "Embedding" — 创建一个代表输入文本的嵌入向量

    可选参数：
  • "Input"(required)一个文本或一个文本列表以获取嵌入
    "Model"Automatic要使用的模型的名称

    • 模型列表

    请求：

    "ChatModelList" — 列出可用于 "Chat" 请求的模型

    请求：

    "EmbeddingModelList" — 列出可用于 "Embedding" 请求的模型

    范例

    打开所有单元关闭所有单元

    基本范例  (1)

    创建新的连接：

    补全一段文本：

    生成聊天的回复：

    计算句子的嵌入：

    范围  (5)

    连接  (1)

    测试连接：

    文本  (4)

    补全  (1)

    返回多个补全结果，逐个减少字符数并指定停止令牌：

    聊天  (1)

    回复包含多条消息的聊天：

    允许模型使用 LLMTool：

    ChatModelList  (1)

    查找可用的聊天模型列表：

    EmbeddingModelList  (1)

    查找可用的嵌入模型列表：