【开源】我亲手开发的一个AI框架,谈下背后的思考


有不少读者朋友发来私信询问,如果要开发AI Agent应该如何对AI框架进行选型。这确实不是一两句话能够说清楚的,因为我觉得也不好选🤦

一方面,虽然市面上选择很多,但各自的差异也比较大,没有能“包治百病”的。另一方面,在我看来各种方案都不够好:要么代码臃肿,概念堆砌;要么就是各种黑盒方案,在生产环境很不可控…

阅读全文 »


人类在环智能体源码展示:企业报销工作流举例(附源码下载)


上篇文章中,我们讨论了AI智能体开发中「人类在环 (human-in-the-loop)」机制的一些重要方面。今天,我给出一些示例代码来展示其中核心部分的实现过程及注意事项。文末附上源码下载链接。

阅读全文 »


一文讲透AI Agent开发中的human-in-the-loop


前段时间确实有点忙,好久没有发文了。不过最近有好多AI技术方面的想法要跟大家分享:-)

今天我们主要聊一聊在AI Agent开发中非常重要的一个特性:human-in-the-loop。

阅读全文 »


AI Agent时代的软件开发范式


大概一个多月之前,我们曾经深入讨论了AI Agent自主性的本质是什么。今天,我们沿着这个话题更进一步,去探究一下AI Agent的自主性这一本质特性,可能会对新时代的软件开发工作带来什么样的影响。

本文集中精力展开讨论三件事:

  • AI Agent的自主性给传统软件开发带来了哪些新的期待和可能性?
  • 范式的转变:从面向step到面向goal。
  • 如何穿越「中间地带」?

阅读全文 »


从Prompt Engineering到Context Engineering


最近,国外一些很有见地的工程师,正在热议一个新的概念:Context Engineering。也许,这一概念的提出,代表了业界对于当前AI技术以及落地阶段的某种认知的转变。今天,我们就来简明扼要地讨论一下Context Engineering这一概念产生的背景、它的定义,以及它与Prompt Engineering的区别。

阅读全文 »


开发AI Agent到底用什么框架——LangGraph VS. LlamaIndex


如何开发AI Agent,存在不同的工程体系。当前正处于群雄混战的「战国」时代。在这种「乱局」下,AI从业者如何选择,就需要更审慎的思考。

今天我们来讨论一下两个具体的开发框架,LangGraph和LlamaIndex,结合上篇我们对Agent概念本质的剖析,来做一个提纲挈领(而非细节)的对比。

市面上的AI开发框架远不止这两个,而且在Agent开发之外,LangGraph和LlamaIndex也都包含了众多其他的能力。之所以本篇我选择这两个框架进行对比,一个是因为它们都算是AI时代「老牌」的框架了,使用者广泛;另一个则是因为篇幅有限,我们需要一个一个地来聊。

阅读全文 »


AI Agent的概念、自主程度和抽象层次


从事AI的人都知道,如果你现在没有在搞Agent,出门都不好意思跟人打招呼。

但是,到底什么是Agent呢?恐怕专家们也未必说得清楚。这实在怪不到谁的头上,谁让这个概念的含义竟如此宽泛呢?

本文集中精力讨论清楚三件事:

  • 当前业界对Agent最新的定义是什么?有没有共识?
  • 不同类型的Agent在自主程度上的不同,本质是什么?
  • 为了把Agent设计好,需要做哪些抽象?

阅读全文 »


LangChain的OpenAI和ChatOpenAI,到底应该调用哪个?


浮言易逝,唯有文字长存。

今天来聊一个非常具体的技术问题。

对于工程师来说,当我们使用LangChain来连接一个LLM推理服务时,多多少少会碰到一个疑问:到底应该调用OpenAI还是ChatOpenAI?我发现,每次解释这个问题时,都会费很多唇舌,所以干脆写下来供更多人参考。这背后其实涉及到两个关键问题:

  • completions 和 chat completions 两个接口的区别。
  • LLM推理时用到的chat template。

阅读全文 »