跳到主要内容

Quarkus

Quarkus LangChain4j 扩展 与 Quarkus 编程模型和现有的 Quarkus 运行时组件无缝集成。

该扩展相比在 Quarkus 中使用原生 LangChain4j 库提供了以下优势:

  • 与 Quarkus 编程模型集成
    • 新的 @RegisterAiService 注解用于声明式 AI 服务
    • LangChain4j 模型的可注入 CDI Bean
  • 能够编译为 GraalVM 原生二进制文件
  • 用于配置模型的标准配置属性
  • 内置可观测性(指标、追踪和审计)
  • 构建时连接。在构建时完成更多工作可以减少 LangChain4j 库的占用空间,并启用构建时可用性提示。

开发 UI

在开发模式下,quarkus-langchain4j 项目在开发 UI 中提供了几个页面,以便于 LangChain4j 开发:

  • AI 服务页面:提供应用程序中检测到的所有 AI 服务的表格,以及它们声明使用的工具列表。
  • 嵌入存储访问:允许将嵌入添加到嵌入存储中并进行搜索。
  • 工具页面:提供应用程序中检测到的工具列表。
  • 聊天页面:允许您手动与聊天模型进行对话。此页面仅在应用程序包含聊天模型时可用。
  • 图像页面:允许您测试图像模型的输出并调整其参数(对于支持的模型)。
  • 审核页面:允许您测试审核模型的输出 - 您提交一个提示并收到每个适当性类别的分数列表(对于支持的模型)。

有关扩展功能的更详细解释,请参阅 langchain4j 扩展的 Quarkus 文档