跳至主要內容

模型参数

根据你选择的模型和提供商，你可以调整许多参数，这些参数将决定：

  • 模型的输出：生成内容（文本、图片）的创造性或确定性水平、生成内容的数量等。
  • 连接性：基础 URL、授权密钥、超时、重试、日志记录等。

通常，你可以在模型提供商的网站上找到所有参数及其含义。
例如，OpenAI API 的参数可以在 官方文档（最新版本）中找到，包括以下选项：

参数描述类型
modelName要使用的模型名称（例如 gpt-4o、gpt-4o-mini 等）。String
temperature采样温度，取值范围 0 到 2。较高的值（如 0.8）会使输出更随机，较低的值（如 0.2）会使输出更专注、更确定性。Double
maxTokens在聊天补全中可以生成的最大 token 数。Integer
frequencyPenalty范围 -2.0 到 2.0。正值会根据 token 在文本中已出现的频率来惩罚新 token，从而降低模型逐字重复相同行的可能性。Double
.........

关于 OpenAI LLM 的完整参数列表，请参见 OpenAI 语言模型页面。
不同模型的完整参数及默认值，可以在对应的模型页面（集成 → 语言模型 / 图像模型）下找到。

你可以通过两种方式创建 *Model：

  • 静态工厂：只接受必要的参数（例如 API key），其他必需参数会设置为合理的默认值。
  • 构建器模式：可以为每个参数指定值。

模型构建器

我们可以通过构建器模式来设置模型的所有可用参数，例如：

OpenAiChatModel model = OpenAiChatModel.builder()
        .apiKey(System.getenv("OPENAI_API_KEY"))
        .modelName("gpt-4o-mini")
        .temperature(0.3)
        .timeout(ofSeconds(60))
        .logRequests(true)
        .logResponses(true)
        .build();

在 Quarkus 中设置参数

在 Quarkus 应用中，可以在 application.properties 文件中设置 LangChain4j 参数，例如：

quarkus.langchain4j.openai.api-key=${OPENAI_API_KEY}
quarkus.langchain4j.openai.chat-model.temperature=0.5
quarkus.langchain4j.openai.timeout=60s

有趣的是，为了调试、微调或仅仅了解所有可用参数，你可以在 Quarkus 的 DEV UI 中查看。
在该仪表盘中，你可以进行更改，这些更改会立即反映在正在运行的实例中，
并且你的更改会自动同步到代码中。

访问 DEV UI 的方式：使用 quarkus dev 命令运行 Quarkus 应用，
然后在浏览器中打开 localhost:8080/q/dev-ui（或你部署应用的地址）。

关于 Quarkus 集成的更多信息，请参见 这里。

在 Spring Boot 中设置参数

如果你使用我们的 Spring Boot starters，
可以在 application.properties 文件中配置模型参数，例如：

langchain4j.open-ai.chat-model.api-key=${OPENAI_API_KEY}
langchain4j.open-ai.chat-model.model-name=gpt-4-1106-preview
...

完整的支持属性列表可以在 这里 找到。

关于 Spring Boot 集成的更多信息，请参见 这里。

最近更新