📄️ 所有支持的语言模型比较表
| 提供商 | 流式处理 | 工具 (同步/流式) | JSON Schema | JSON 模式 | 支持的模态 (输入) | 可观测性 | 可自定义 HTTP 客户端 | 本地部署 | 支持原生镜像 | 备注 |
📄️ Amazon Bedrock
Maven 依赖
📄️ Anthropic
- Anthropic 文档
📄️ Azure OpenAI
这是 Azure OpenAI 集成的文档,它使用来自微软的 Azure SDK,如果您使用的是微软 Java 技术栈(包括高级 Azure 身份验证机制),它会工作得最好。
📄️ ChatGLM
https://github.com/THUDM/ChatGLM-6B
📄️ DashScope (通义千问)
DashScope 是由阿里云开发的平台。
📄️ GitHub Models
这是 GitHub Models 集成的文档,它使用 Azure AI 推理 API 访问 GitHub Models。
📄️ Google AI Gemini
https://ai.google.dev/gemini-api/docs
📄️ Google Vertex AI Gemini
Vertex AI 是 Google Cloud 的全 托管 AI 开发平台,提供访问 Google 的大型生成模型的能力,包括旧一代(PaLM2)和新一代(Gemini)模型。
📄️ Google Vertex AI PaLM 2
入门
📄️ Hugging Face
HuggingFace 推理 API
📄️ Jlama
Jlama 项目
📄️ LocalAI
https://localai.io/
📄️ MistralAI
MistralAI 文档
📄️ Ollama
什么是 Ollama?
📄️ OpenAI
这是 OpenAI 集成的文档,它使用 OpenAI REST API 的自定义 Java 实现,最适合与 Quarkus(因为它使用 Quarkus REST 客户端)和 Spring(因为它使用 Spring 的 RestClient)一起使用。
📄️ OpenAI 官方 SDK
这是 OpenAI 官方 SDK 集成的文档,它使用 官方 OpenAI Java SDK。
📄️ 千帆
百度智能云千帆大模型
📄️ Cloudflare Workers AI
https://developers.cloudflare.com/workers-ai/
📄️ 智谱 AI
智谱 AI 是一个提供模型服务的平台,包括文本生成、文本嵌入、图像生成等。您可以参考 智谱 AI 开放平台 了解更多详情。
📄️ Xinference
- https://inference.readthedocs.io/