深入探索Anthropic Claude与Spring AI的融合应用

深入探索Anthropic Claude与Spring AI的融合应用

前言

在人工智能的蓬勃发展进程中，自然语言处理领域不断涌现出强大的模型和工具。Anthropic Claude系列基础AI模型凭借其出色的性能，在各种应用场景中展现出巨大潜力，为开发者和企业提供了丰富的可能性。而Spring AI作为一个致力于简化人工智能应用开发的框架，与Anthropic Claude的结合更是相得益彰。通过整合，开发者能够更便捷地利用Anthropic Claude模型的能力，构建出功能强大、智能高效的应用程序。本文将详细探讨如何在Spring AI环境中使用Anthropic Claude，涵盖从基础配置到高级功能实现的各个方面，帮助读者深入理解并掌握这一技术组合，为实际项目开发提供有力支持。

Anthropic Claude与Spring AI的集成要点

前提条件搭建

使用Anthropic Claude模型的首要步骤是获取API密钥。需要在Anthropic门户上创建账户，然后在API控制面板的“Get API Keys”页面生成密钥。对于Spring AI项目，可通过定义“spring.ai.anthropic.api - key”属性来设置该密钥，例如通过导出环境变量“export SPRING_AI_ANTHROPIC_API_KEY = ”的方式进行配置。

项目依赖配置

Spring AI工件发布于Maven Central和Spring Snapshot存储库。在构建系统中添加这些存储库后，为了实现有效的依赖管理，还需引入Spring AI提供的BOM（物料清单）。这确保了整个项目中Spring AI版本的一致性。此外，若要启用Spring AI为Anthropic Chat Client提供的自动配置功能，需在项目的Maven pom.xml或Gradle build.gradle文件中添加“spring - ai - starter - model - anthropic”依赖项。

配置属性详解

1. 重试属性：以“spring.ai.retry”为前缀的属性用于配置Anthropic聊天模型的重试机制。比如“spring.ai.retry.max - attempts”定义了最大重试尝试次数，默认值为10；“spring.ai.retry.backoff.initial - interval”设置指数回退策略的初始休眠持续时间，默认为2秒等。目前，重试策略不适用于流式处理API。
2. 连接属性：“spring.ai.anthropic”前缀的属性负责连接到Anthropic。其中，“spring.ai.anthropic.base - url”指定连接的URL，默认为“api.anthropic.com”；“spring.ai.anthropic.version”设置Anthropic API版本，默认为“2023 - 06 - 01”；“spring.ai.anthropic.api - key”需填入获取的API密钥。另外，“spring.ai.anthropic.beta - version”可用于启用新功能或实验性功能。
3. 配置属性：通过“spring.ai.model.chat”前缀属性来控制聊天自动配置的启用和禁用。若要启用Anthropic聊天模型，设置“spring.ai.model.chat = anthropic”（默认即为启用状态）。而“spring.ai.anthropic.chat”前缀属性可对Anthropic聊天模型实施进行更细致的配置，如选择使用的模型（“spring.ai.anthropic.chat.options.model”）、设置采样温度（“spring.ai.anthropic.chat.options.temperature”）、控制生成的最大令牌数（“spring.ai.anthropic.chat.options.max - tokens”）等。

运行时选项设置

AnthropicChatOptions.java提供了模型配置的多种选项，如指定使用的模型、温度、最大令牌计数等。在启动时，既可以使用AnthropicChatModel(api, options)构造函数，也能通过“spring.ai.anthropic.chat.options.*”属性进行设置。在运行时，还可通过向Prompt调用添加特定配置来灵活调整模型行为。例如，为特定请求覆盖默认模型和温度：

ChatResponse response = chatModel.call(new Prompt("Generate the names of 5 famous pirates.",AnthropicChatOptions.builder().model("claude - 3 - 7 - sonnet - latest").temperature(0.4).build()));

同时，除了特定于模型的AnthropicChatOptions，也能使用通过ChatOptionsBuilder#builder（）创建的可移植ChatOptions实例。

工具/函数调用实现

借助AnthropicChatModel，Anthropic Claude模型能够智能地选择输出包含参数的JSON对象，以调用一个或多个已注册的函数。这一功能为连接LLM（大语言模型）功能与外部工具和API提供了强大手段。通过这种方式，开发者可以极大地拓展模型的应用场景，使其能够更好地满足实际业务需求。

多模态功能应用

1. 图像支持：Anthropic Claude 3目前支持base64编码的images，以及image/jpeg、image/png、image/gif和image/webp等media类型。Spring AI的Message界面通过引入Media类型来支持多模态AI模型。例如，以下代码展示了如何组合用户文本与图像：

byte[] imageData = new ClassPathResource("/multimodal.test.png").getContentAsByteArray();
var userMessage = new UserMessage("Explain what do you see on this picture?",List.of(new Media(MimeTypeUtils.IMAGE_PNG, this.imageData)));
ChatResponse response = chatModel.call(new Prompt(List.of(this.userMessage)));
logger.info(response.getResult().getOutput().getContent());

模型能够对图像进行分析，并结合文本问题生成合理的回答。

它将multimodal.test.png图像：

以及文本消息“Explain what do you see on this picture？”，并生成如下响应：

The image shows a close-up view of a wire fruit basket containing several pieces of fruit.
...

2. PDF支持：从Sonnet 3.5版本开始，Anthropic Claude提供了PDF支持（测试版）。可以使用application/pdf media type将PDF文件附加到消息中，实现基于PDF内容的问答和总结等功能。例如：

var pdfData = new ClassPathResource("/spring - ai - reference - overview.pdf");
var userMessage = new UserMessage("You are a very professional document summarization specialist. Please summarize the given document.",List.of(new Media(new MimeType("application", "pdf"), pdfData)));
var response = this.chatModel.call(new Prompt(List.of(userMessage)));

Samples控制器示例

在创建新的Spring Boot项目并添加“spring - ai - starter - model - anthropic”依赖后，可在src/main/resources目录下的application.properties文件中进行配置，以启用和定制Anthropic聊天模型。例如：

spring.ai.anthropic.api - key = YOUR_API_KEY
spring.ai.anthropic.chat.options.model = claude - 3 - 5 - sonnet - latest
spring.ai.anthropic.chat.options.temperature = 0.7
spring.ai.anthropic.chat.options.max - tokens = 450

随后，可以创建一个简单的@Controller类来使用该聊天模型生成文本。如以下ChatController示例，它提供了“/ai/generate”和“/ai/generateStream”两个接口，分别用于非流式和流式的文本生成：

@RestController
public class ChatController {private final AnthropicChatModel chatModel;@Autowiredpublic ChatController(AnthropicChatModel chatModel) {this.chatModel = chatModel;}@GetMapping("/ai/generate")public Map generate(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {return Map.of("generation", this.chatModel.call(message));}@GetMapping("/ai/generateStream")public Flux<ChatResponse> generateStream(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {Prompt prompt = new Prompt(new UserMessage(message));return this.chatModel.stream(prompt);}
}

手动配置方式

若不使用自动配置，也可手动配置AnthropicChatModel。首先在项目的Maven pom.xml或Gradle build.gradle文件中添加“spring - ai - anthropic”依赖项。然后，通过以下代码创建AnthropicChatModel并用于文本生成：

var anthropicApi = new AnthropicApi(System.getenv("ANTHROPIC_API_KEY"));
var chatModel = new AnthropicChatModel(this.anthropicApi,AnthropicChatOptions.builder().model("claude - 3 - opus - 20240229").temperature(0.4).maxTokens(200).build());
ChatResponse response = this.chatModel.call(new Prompt("Generate the names of 5 famous pirates."));
// Or with streaming responses
Flux<ChatResponse> response = this.chatModel.stream(new Prompt("Generate the names of 5 famous pirates."));

这里的AnthropicChatOptions提供了聊天请求的详细配置信息，AnthropicChatOptions.Builder则采用了Fluent Options Builder模式，方便进行配置构建。

低级AnthropicApi客户端

AnthropicApi为Anthropic Message API提供了轻量级的Java客户端。通过以下简单代码段可展示其基本使用方式：

AnthropicApi anthropicApi = new AnthropicApi(System.getenv("ANTHROPIC_API_KEY"));
AnthropicMessage chatCompletionMessage = new AnthropicMessage(List.of(new ContentBlock("Tell me a Joke?")), Role.USER);
// Sync request
ResponseEntity<ChatCompletionResponse> response = this.anthropicApi.chatCompletionEntity(new ChatCompletionRequest(AnthropicApi.ChatModel.CLAUDE_3_OPUS.getValue(),List.of(this.chatCompletionMessage), null, 100, 0.8, false));
// Streaming request
Flux<StreamResponse> response = this.anthropicApi.chatCompletionStream(new ChatCompletionRequest(AnthropicApi.ChatModel.CLAUDE_3_OPUS.getValue(),List.of(this.chatCompletionMessage), null, 100, 0.8, true));

更多详细信息可参考AnthropicApi.java的JavaDoc，AnthropicApiIT.java测试类也提供了一些使用该轻量级库的示例。

以下类图说明了AnthropicApi聊天界面和构建块：

总结

通过本文的介绍，我们全面了解了在Spring AI框架下使用Anthropic Claude模型的各个方面。从前期的前提条件准备、项目依赖和配置属性的设置，到运行时选项的灵活调整，再到强大的工具/函数调用以及多模态功能的实现，Spring AI与Anthropic Claude的集成展现出了强大的开发能力和丰富的应用场景。无论是构建智能客服、文档处理工具还是其他自然语言处理相关的应用，这一技术组合都能提供高效、便捷的解决方案。然而，在实际应用过程中，开发者可能会面临一些挑战，例如模型配置的优化以平衡性能和成本、多模态数据处理的复杂性等。但随着技术的不断发展和完善，相信这些问题都将逐步得到解决。希望本文能为读者在利用Anthropic Claude和Spring AI进行项目开发时提供全面且深入的指导，助力开发者打造出更具创新性和实用性的人工智能应用，在不断发展的AI领域中取得更好的成果。