AI-Agent@spring ai概览
本文是ai-agent@spring ai开篇,介绍spring ai的组件,以及相互关系,下图是spring ai全景图:
第一层,AI+ ai应用场景 可分为技术维度和行业维度
第二层, ai-agent的核心,左边是核心组件,右边是推理框架,核心组件相当于ai-agent的抽象模型,流行的ai-agent开发框架有着差不多的实现,spring ai也是其中之一
> client/model 两者共同完成大模型的访问,除了实现大模型api调用,还提供拦截器(advisor),提示词(prompt),记忆等组件
> 向量数据库
> RAG
> mcp/toolcalling 大模型负责思考,mcp/toolcalling负责执行,关系如同人的大脑和4肢
> mas 多agent系统,包括a2a,处于初期发展阶段,目前mas资料不多,本人认为将来发展类似分布式+微服务,对,就是java非常成熟的那套,想象一下,zookeeper作为分布式协调器,nacos/zookeeper注册和发现中心,agent注册到注册中心,可被其他agent发现和调用,注册的agent(s)通过选主服务,选出主节点,主节点协调不同角色的agent工作,最新nacos 3 支持MCP
> 推理框架 好比武功招式和套路,推理框架的"套路"让大模型更有效思考和集成周边资源,推理框架也在快速发展,几乎每段时间有新框架涌现,框架拥有各自的复杂度和能力,适合不同的应用 ,目前spring ai没有推理框架实现,推理框架可以认为是算法,可自行实现,后续的篇章将实现ReAct,P/S,CoT和ToT示例
第三层 功能组件,这些组件不是ai agent的核心,但是agent作为一个软件系统spring ai为其提供增强的便利的功能,如,可观测,提示词工程,ETL
最底层 大模型,也是agent的大脑,spring ai接入几十个大模型,每个大模型自身也分多个系列,垂直分,可以分为chat模型,图像模型,语音模型,Embedding模型等
!本文基于1.0.0-M8,spring-ai仍在高速发展,相信后续版本变动会很大
后续文章分析各组件,开发示例