首页 大语言模型(一):智能体介绍
文章
取消

大语言模型(一):智能体介绍

背景

  最近一直在研究AI大模型。主要是应用方向,不是对AI大模型本身的研究。主要是因为大模型本身涉及到训练等,需要大量的算力。而一穷二白的我,只能从应用方向入手。

  最近各大平台相继推出了自己的AI大模型和智能体,比如百度、腾讯、阿里等。其中Ragged Auto-Encoder(RAG)技术,是AI大模型中比较有代表性的技术,也是各家智能体中都涉及到的一个技术。

智能体

  什么是智能体?看了很多百科,也问了很多大模型,感觉还是太抽象了。不过看了腾讯元器的智能体,感觉还是有点意思。这里就来说一下我的理解。

  • 知识库:知识库就是一个RAG,他将知识库中的内容,通过嵌入模型转化为向量,然后存储到向量数据库,使用的时候把问题通过向量模型转化为向量,然后通过向量数据库进行检索,最后返回结果。

  • 插件:定义一系列功能,当提问的时候,将问题和功能一起提交给大模型,通过大模型的功能调用(function-calling)功能,来决定调用哪个功能。注意这里的大模型不负责调用,他只决定调哪个功能,具体调用不是他要负责的,而是有用户代码来负责的。

  • 工作流:一直觉得腾讯元器这个东西比较有意思,他将大模型、知识库、插件、分支、代码做成功能模块,用户可以自己定义模块的输入输出和流程,形成一个完整的工作流。

  • 智能体:其实智能体就是一个带有预置提示词、知识库、插件、工作流的大模型,他可以根据用户输入的提示词,调用知识库、插件、工作流等模块,最终完成用户需求。

结束语

  大模型的应用方向还是很多的。技术方面主要是几个方面:

  • 提示词优化:提示词优化,主要是为了提高智能体对问题的理解能力。

  • function-calling:function-calling,主要是为了提高智能体对问题的处理能力。

  • RAG技术:Ragged Auto-Encoder(RAG)技术,是AI大模型中比较有代表性的技术。成本低,见效快,效果好。

  • 训练调优:AI大模型需要大量的算力,所以需要训练调优。成本较高。

  • 私有化训练:私有化训练,需要自己搭建算力。成本较高。

本文由作者按照 CC BY 4.0 进行授权

Django开始

大语言模型(二):RAG技术