LangChain技术入门:软件框架

10 个月前 语言模型 80

Large Language Models(LLMs)于 2020 年 OpenAI 的 GPT-3 发布时登上世界舞台。

从那时起,它们在人气方面一直保持稳定的增长。

直到 2022 年末,LLM 和生成 AI 等广泛领域的兴趣才激增。这很可能是 LLM 方面的重大进展不断向上推进导致的。

看到了有关 Google 的“有感知能力 (sentient)”的 LaMDA 聊天机器人的重大新闻。首个高性能且开源的 LLM——BLOOM 发布了。OpenAI 发布了他们的下一代文本嵌入 (Embeddings) 模型和下一代“ GPT-3.5 ”模型。

在 LLM 领域取得如此巨大的飞跃之后,OpenAI 发布了 ChatGPT,将 LLM 推向聚光灯下。

LangChain 也应运而生。它的创造者 Harrison Chase 于 2022 年 10 月底进行了首次提交。在被卷入 LLM 浪潮之前,只有短短几个月的开发时间。

尽管这个库还处于早期阶段,但它已经涵盖了围绕 LLM 核心构建惊人工具所需的令人难以置信的功能。在本文中,我们将介绍这个库,并从 LangChain 提供的最简单的组件开始 —— LLMs。

LangChain 介绍

LangChain 是一个基于大型语言模型(LLM)开发应用程序的框架。

LangChain 简化了LLM应用程序生命周期的每个阶段:

  • 开发:使用 LangChain 的开源构建模块和组件构建应用程序。使用第三方集成(opens in a new tab)和模板(opens in a new tab)快速上手。

  • 生产化:使用LangSmith检查、监控和评估你的链条,以便你可以持续优化和自信地部署。

  • 部署:使用LangServe(opens in a new tab)将任何链条转变为 API。

    具体而言,该框架由以下开源库组成:

  • langchain-core:基本抽象和 LangChain 表达式语言。

  • langchain-community:第三方集成。

  • 合作伙伴包(例如 langchain-openai,langchain-anthropic 等):某些集成已进一步拆分为仅依赖于 langchain-core 的轻量级包。

  • langchain:构成应用程序认知架构的链条、代理和检索策略。

  • langgraph(opens in a new tab):通过将步骤建模为图中的边缘和节点,使用LLMs构建强大且有状态的多角色应用程序。

  • langserve(opens in a new tab):将 LangChain 链条部署为 REST API。
    更广泛的生态系统包括:

  • LangSmith:开发人员平台,可让你对LLM应用程序进行调试、测试、评估和监控,并与LangChain无缝集成。

至于用途,简单来说,LangChain提供了灵活的抽象和AI优先的工具,可帮助开发人员将LLM应用程序从原型转化为生产环境。 它还提供了一套工具,可帮助开发人员构建上下文感知、推理应用程序, LangChain的工具包括聊天机器人、文档分析、摘要、代码分析、工作流自动化、自定义搜索等。

更多信息请阅读:http://www.langchain.asia

相关资讯