Lucent's Blog

当时明月在 曾照彩云归

人生不相见,动如参与商。

6LCi5Y2O5qKFLOaIkeaDs+S9oOS6hg==


AI 应用程序

AI 应用程序并没有官方概念,简单来说就是一个程序中应用到了AI,这个程序就可以算是AI 应用程序

为什么开发AI应用程序?

大模型的能力很强大,但是如果我们只是把它应用在对话方面,那就太大材小用了。

我们之前讲过了RAG和Agent智能体,那么我们如何在生活中或者生产中使用它们呢?

为了更方便的使用,比如知识库,我们就可以通过代码,编写一套系统,将RAG的相关内容开发进这套系统中,为用户提供一个可视化页面,用户能够方便的使用RAG知识库,这套系统就是AI应用程序。

同样的,如果我们厌倦了手动编写PPT,那么是不是可以利用大模型来生成PPT?答案是可以的,我们通过代码开发一套系统,代码中提前设置好相关的提示词,比如根据用户给的资料生成PPT大纲(具体提示词怎么写,可以参考02_提示词工程),然后在通过代码告诉模型对它自己生成的大纲进行内容补充,最后把模型生成的标题、内容全部替换进提前准备好的PPT模板,就自动生成了一个PPT,这个过程中,用户只是负责提供了一个标题或者说是PPT的主旨,剩下的全部由模型和程序完成,这个系统也是AI应用程序。

AI应用程序需要对模型进行训练吗?

大部分场景下,大模型的通用能力就已经可以满足需求了,少数特定场景下可能需要对模型进行SFT微调,使其能够更专业。

比如,我们想要开发一个能够自动检查投标文件格式是否正确的程序,虽然大模型的通用能力已经能够生成一些专业格式的文档,但是在投标书这种非常专业的场景下,通用能力并不足以检查到所有的错误格式,所以需要利用专业的投标文件对大模型进行SFT训练。训练后可以明显提升模型对于投标文件格式的处理能力。

上一篇

LLMs.txt:AI 时代的新型网络标准解析 在当今快速发展的 AI 时代,一个新的网络标准正在悄然兴起 —— LLMs.txt。这个标准虽然简单,却可能对未来的 AI 搜索和内容理解产生深远影响。今天,让我们一起深入了解这个创新性的提案。…

阅读
下一篇

智能体是什么 智能体的英文是 Agent,AI 业界对智能体提出了各种定义。个人理解,智能体是一种通用问题解决器。从软件工程的角度看来,智能体是一种基于大语言模型的,具备规划思考能力、记忆能力、使用工具函数的能力,能自主完成给定任务的计算机程序。 大语言模型很强大,就像人类的大脑一样拥有思考的能力。…

阅读