RAG（Retrieval-Augmented Generation）属于深度学习的范畴。其原理是利用检索技术从大型语料库中检索相关信息，这些信息可以是文档、文章、网页或其他文本片段，然后将检索到的内容作为参考或灵感来源，通过一个预训练的语言模型（如GPT）进行细化和扩展，最终生成更准确、更丰富的文本输出。
在这个过程中，涉及到对大量文本数据的学习和理解，以及对复杂语言模式的建模，这符合深度学习的特点。例如，在处理自然语言处理任务时，RAG模型可以通过深度学习算法自动学习语言的语法、语义和上下文信息，从而提高生成文本的质量和准确性。
现在很多先知先觉的企业都在落地自己RAG项目，一般要经历以下6个关键步骤：
第1步都是数据工程: 怎么样把企业级异构的数据转换知识，这一步是非常关键，会影响到检索的质量和效果。
第2步是Embedding嵌入模型: 针对异构的知识呢，选型也比较关键。
第3步就是向量数据库或者叫向量知识库的选型: 它会影响到整个的检索质量和检索速度。
第4步是Rerank重排序: 怎么样把检索的相关知识重新排序给到大模型。
第5步就是推理：提升大模型本身的性能推理速度和安全性。
第6步是提升效率：整个链路中的效率的提升，怎么样能够达到秒级，甚至毫秒级的返回就变得非常重要了。
RAG 技术在不同行业的广泛应用和巨大潜力，企业利用RAG技术激活企业内如数据，让企业再次焕发生命力！
4 天前
Chief AI Officer（Chief Artificial Intelligence Officer），首席人工智能官。
3 个月前
西门子Xcelerator开放式数字商业平台作为正式发布生态合作伙伴"繁星计划"，旨在发挥平台网络效应，与生态伙伴共享知识与技术资源，共创面向客户的解决方案，共赢数字化与低碳化新机遇。
8 个月前
在2026年开发AI产品时，搭建一个生产级（production-grade）RAG系统已经不再是“简单接个向量数据库就行”，而是需要系统性工程化思维。以下是从0到1再到生产可用的完整路径，按实际优先级和踩坑顺序组织。 一、生产级RAG ≠ Demo级RAG 的本质区别（2025-2026共识） 维度 Demo级（常见教程） 生产级（真正能上线赚钱） 为什么重要 文档量 几MB ~ 几百页 几万 ~ 几百万文档 / 多模态 / 每天增量更新 决定了分块、索引、召回策略完全不同 召回准确率 60-75% 目标88-95%+（视场景） 差10%召回率，用户体验天差地别 延迟 2-8秒随便 <1.5秒（p95），理想<800ms 用户流失率与延迟呈指数关系 幻觉控制 看运气 需要多重机制把幻觉率压到<5% 企业客户最怕胡说八道 可维护性 脚本跑一遍就行 需要数据质量pipeline、版本控制、监控告警 半年后没人敢碰代码 成本 不care embedding + LLM + vectorDB 每月几千到几十万刀 直接影响商业模式能否跑通 二、2026年主流生产级RAG搭建完整路径（推荐路线） Phase 0：先别写代码，先做这两件事（很多人跳过直接失败） 明确业务成功标准（最重要一步） 准确率目标：≥88%（RAGAS faithfulness & answer relevancy） 幻觉率：<5% 响应时间：p95 < 2秒（或按产品定位） 支持的文档类型：PDF/Word/Excel/网页/Markdown/扫描件/表格/图片？ 更新频率：实时 / 每天 / 每周？ 用户问题类型：单轮 / 多轮 / 带表格 / 需要推理？ 准备评估集（金标准） 至少200-500条 真实用户问题 + 人工标注的完美答案 后续所有优化都拿这个集子打分 Phase 1：数据摄入与预处理（决定天花板，占60%工作量） 现代顺序（2025-2026主流做法）： 文档清洗与质量分级（最被低估的一步） 运行一个轻量文档质量打分模型（或规则+小型LLM） 分三类：Clean / Decent / Garbage Garbage类直接人工干预或低权重处理 结构化解析（别直接喂Unstructured） PDF：用Marker / PyMuPDF + table detection（Marker 2025年后很强） Word/Excel：python-docx / pandas 保留层级：标题 → 段落 → 表格 → 图片说明 → 元数据 高级Chunk策略（2026年最核心差异化点） 策略 Chunk大小 适用场景 召回提升 Fixed-size 512 token 快速验证 baseline Semantic 200-800 主流生产 +15-25% Hierarchical 父子chunk 长文档、合同、手册 +20-35% Proposition-based 小粒度命题 法律/医疗/技术文档 +30%+ 推荐起步组合：Semantic + 父子索引 + 100-200 token重叠 Phase 2：Embedding 与 向量存储（2026主流选型） Embedding模型推荐（2026.2月时点性价比排序）： bge-m3 / Snowflake Arctic Embed（开源王者） voyage-3-large / Cohere embed-v4（闭源但效果顶尖） text-embedding-3-large（稳定但已被超越） 向量数据库主流选择： 场景 首选数据库 次选 备注 < 100万向量 Chroma / Qdrant本地 PGVector 开发快 100万-1亿 Qdrant / Milvus Weaviate Qdrant 2025-2026口碑最佳 亿级 + 高并发 Pinecone serverless Zilliz Cloud 省心但贵 极致私有化 pgvector + pgvectorscale Milvus standalone 强烈建议：hybrid search（dense + sparse / BM25）几乎成为2026标配。 Phase 3：检索与后处理（拉开差距的关键层） 现代检索流水线（2026主流）： 用户问题 ↓ Query分类与改写（是否需要检索？多意图拆分？） ↓ 多路召回（vector + BM25 + 知识图谱等） ↓ 初筛 top-30~100 ↓ 重排序（Cohere Rerank3 / bge-reranker-v2 / flashrank） ↓ 上下文压缩 / 抽取（LLM summarize top-8） ↓ 最终给LLM的上下文（带清晰source引用） Phase 4：生成与防幻觉 Prompt工程模板（必须有）： 强制要求：只用提供的内容回答 / 不知道就说不知道 / 标注来源 结构化输出（JSON）便于下游解析 防幻觉组合拳： Self-Check / Self-RAG Corrective RAG Groundedness check（RAGAS / TruLens） 后置事实核查（小模型或规则） Phase 5：评估、监控、迭代闭环（生产级灵魂） 必须上的指标： Retrieval：Recall@K, MRR, NDCG Generation：Faithfulness, Answer Relevancy, Context Precision/Recall End-to-End：用户打分 / A/B测试 / 业务指标（解决率、CSAT） 推荐工具组合（2026主流）： 评估：RAGAS / DeepEval / TruLens / Phoenix 监控：LangSmith / Helicone / Phoenix / PromptLayer Orchestration：LangGraph / LlamaIndex Workflows / Haystack / Flowise（低代码） 三、2026年推荐最小可用生产技术栈（性价比最高） 极简但能上线（适合小团队） 解析 → Marker / LlamaParse 向量化 → bge-m3 或 voyage-3 向量库 → Qdrant (docker) 召回+重排 → Qdrant + bge-reranker-v2 框架 → LlamaIndex 或 LangGraph LLM → DeepSeek-R1 / Qwen2.5-72B-Instruct / Claude-3.5-Sonnet (根据预算) 评估 → RAGAS + 人工golden set 进阶企业级（已验证可支撑十万+文档） 加：混合检索 + 父子索引 + query分解 + 多路召回 + 上下文压缩 + corrective RAG + 在线监控 一句话总结2026年RAG哲学： “70%的效果提升来自于数据质量、切块策略和检索后处理；20%来自embedding和重排序模型；只有10%靠换个更强的LLM。” 先把前70%做好，后面自然水到渠成。 （ Grok ）
8 个月前
AI Agent 的真正智能，来自于知识获取（RAG） + 协作协议（MCP） + 执行能力（SKILLS）的统一协同，而不是单一大模型孤立输出。
10 个月前
MongoDB 和 PostgreSQL 都是当今最顶尖的数据库，但它们的设计哲学截然不同。没有绝对的“赢家”，只有更适合我们场景的工具。 为了帮助我们做出决定，本文将从核心差异、适用场景和决策建议三个维度为你详细拆解。 ⚔️ 核心差异速览 首先，我们需要理解它们最本质的区别： PostgreSQL (Postgres)：是关系型数据库 (SQL) 的典范。它像一个严谨的图书管理员，要求你先定义好书架（表结构），再把内容规整地放入格子中。它强调数据的强一致性、完整性和复杂的关联查询。 MongoDB：是文档型数据库 (NoSQL) 的代表。它像一个灵活的储物箱，你直接把整个“包裹”（JSON-like 文档）扔进去就行，不需要预先定义里面有什么。它强调灵活性、高吞吐量和水平扩展能力。 为了一目了然，我整理了这份对比表： 维度 PostgreSQL (SQL) MongoDB (NoSQL) 数据模型 表格结构（行和列），严格 Schema 文档结构（BSON/JSON），灵活 Schema 查询语言 标准 SQL，支持复杂的多表 JOIN MongoDB 查询语言 (MQL)，擅长单集合查询 扩展方式 主要靠垂直扩展（升级服务器配置） 天生支持水平扩展（分片，加机器） 事务支持 完整的 ACID 事务，强一致性 支持多文档 ACID 事务，但更偏向高性能 适用数据 结构化数据，数据关系复杂 半结构化/非结构化数据，数据结构多变 ? 场景决策：什么时候选哪个？ ?️ 选择 PostgreSQL 的情况 如果业务场景符合以下特征，PostgreSQL 是不二之选： 需要复杂的关联查询 (JOIN) 比如电商系统，你需要把“订单表”、“用户表”、“商品表”关联起来，计算某个用户在某段时间的消费总额。PostgreSQL 的 SQL 优化器在处理这种复杂查询时比 MongoDB 强大得多。 对数据一致性要求极高 (ACID) 比如银行转账、金融交易系统。你必须确保数据的绝对准确，不能容忍“最终一致性”带来的延迟。PostgreSQL 的强一致性模型（Serializable 隔离级别）能给你最强的安全感。 数据结构相对稳定 如果业务逻辑已经很成熟，表结构很少变动，PostgreSQL 严谨的 Schema 能帮你避免很多数据错误。 地理空间数据处理 (PostGIS) 如果需要做地图相关的复杂计算（如“查找附近5公里的医院”），PostgreSQL 的 PostGIS 扩展是行业标准，功能比 MongoDB 的地理空间查询更强大。 ?️ 选择 MongoDB 的情况 如果你的业务场景符合以下特征，MongoDB 会让你开发得更爽： 数据结构灵活多变 (Schema-less) 比如内容管理系统（CMS）或用户画像系统。不同用户可能有不同的属性，或者需求迭代非常快，今天要加个“爱好”字段，明天要加个“等级”字段。MongoDB 不需要改表结构，直接插入新字段即可，不会阻塞线上业务。 海量数据写入与高并发 比如物联网（IoT）数据、日志收集、实时分析。这些场景下数据像洪水一样涌来，且主要是插入操作。MongoDB 的分片（Sharding）机制可以让你轻松地通过增加服务器来横向扩容，扛住巨大的流量。 数据本身就是“文档”形式 比如博客文章、评论、JSON 配置文件。这些数据天然就是嵌套的结构，用 MongoDB 存储，直接就是一对一的映射，不需要像在 SQL 里那样为了存一个对象而拆分成多张表。 快速原型开发 如果是初创公司，或者在做一个新项目，业务逻辑还不确定。MongoDB 的灵活性能让你快速迭代，不用在项目初期就花大量时间设计复杂的数据库表结构。 ? 一个有趣的趋势：界限正在模糊 值得注意的是，这两个数据库都在互相学习对方的优点： PostgreSQL 现在拥有极好的 JSONB 支持。你可以把表的一列定义为 JSONB 类型，像存文档一样存数据，甚至可以对 JSON 里面的字段建索引。这使得 Postgres 也能胜任很多 NoSQL 的场景。 MongoDB 在 4.0 版本之后引入了多文档 ACID 事务，并增强了聚合管道的能力，让它也能处理更复杂的业务逻辑。 ? 总结建议 如果是做金融、ERP、CRM 或者需要复杂报表分析，请毫不犹豫地选择 PostgreSQL。它成熟、稳健、功能强大。 如果是做社交 App、游戏、物联网、内容平台 或者需要快速迭代的初创项目，MongoDB 会让你的开发效率倍增，运维压力更小。 在实际的大型项目中，混合使用也是一种非常聪明的策略。例如：用 MongoDB 存储原始的用户行为日志（写入快、灵活），然后通过 ETL 工具清洗后存入 PostgreSQL 供运营人员做复杂的财务或业务分析（查询强、一致性强）。
1 年前
KI-Marktplatz.com：德国AI平台公司业务介绍 AI-Marktplace（也称为KI-Marktplatz）是一家德国AI平台公司，总部位于德国（与帕德博恩大学和弗劳恩霍夫研究所等机构紧密合作），专注于为工程领域的产品开发者和团队提供定制化的AI解决方案。该平台于2020年代初推出（由联邦经济和能源部BMWk资助的“AI作为生态系统驱动者”竞赛项目），旨在通过生成式AI（GenAI）加速工业创新，帮助企业从产品构想到市场推出的全过程实现效率提升、开发时间缩短和成本降低。公司将前沿研究与实用工程经验相结合，强调无缝集成AI到现有IT系统中，避免业务中断。 业务模式 AI-Marktplatz.com 采用数字市场平台模式，连接AI解决方案提供商、专家和用户。核心是通过咨询、实施和合作伙伴生态变现： 收入来源：定制咨询服务、PoC（概念验证）开发、部署支持，以及市场交易（如AI模型和技术授权）。 价值主张：端到端支持，从用例识别到规模化部署，通常在4周内从idea到PoC，帮助企业自动化例行任务、标准化设计并提升创新潜力。 主要服务 平台的服务分为三个阶段，覆盖工程全生命周期： 用例识别（Use Case Identification）：系统分析过程痛点，提供AI专家访问和个性化推荐，帮助企业识别KI应用机会（如需求工程中提升50%生产力）。 用例实施（Use Case Implementation）：快速开发和测试PoC，验证AI益处并降低风险，聚焦于机械、电子、软件和系统建模。 用例 rollout（Use Case Rollout）：无缝扩展和集成AI解决方案到现有系统中，支持产品生命周期管理（PLM），如变体管理和追溯性搜索。 其他扩展服务包括： AI在需求工程中的应用（生成规格文档）。 聊天助手辅助系统工程。 生成式AI在机械设计（标准化零件）、电子（SPS代码生成）和软件开发中的集成。 目标受众 主要针对工业工程团队和产品开发者，包括制造业、汽车、机械和电子行业企业（如Claas、Hella Gutmann、Diebold Nixdorf）。适合希望通过AI自动化设计、减少制造成本并加速市场引入的中型企业。 关键平台功能 AI市场：汇集AI模型、技术、基础设施和用例库，支持云端（如领先云提供商）或本地部署。 技术栈：基于客户需求选择基础模型、GenAI框架（如最新生成技术），并集成IDS（International Data Spaces）参考架构，确保数据安全和主权。 创新支持：访问研究网络，保持趋势前沿；覆盖领域包括系统建模、学科特定开发和PLM优化。 独特卖点：工业级AI集成（非通用工具），强调安全、效率和可扩展性；通过网络连接研究（如帕德博恩大学HNI）和行业实践。 合作伙伴与独特优势 合作伙伴：与研究机构（如帕德博恩大学HNI、弗劳恩霍夫IEM、ITS-OWL）和行业协会（如prostep ivip、KI Bundesverband、International Data Spaces Association）紧密合作。实际案例包括Westaflex、Übermetrics Technologies等企业的AI集成。 背书：获得acatech成员Prof. Dr.-Ing. Jürgen Gausemeier、KI Bundesverband的Vanessa Cann等专家认可，突出平台的可靠性和创新性。 独特优势：结合学术研究与企业实践，提供“即插即用”AI解决方案；强调数据主权（通过IDS），适合对隐私敏感的德国工业。 整体使命 KI-Marktplatz.com 的使命是为产品开发者提供工业适用的AI工具，解锁生成式AI在工程中的潜力。通过加速开发、提升产能和降低风险，帮助企业更快地将创新推向市场，最终推动德国工业的数字化转型。
1 年前
2025年10月14日，沃尔玛宣布与OpenAI达成一项新的合作伙伴关系： 合作内容：消费者将能够通过AI聊天机器人ChatGPT直接购买沃尔玛的商品，包括杂货（不含生鲜食品）、家庭日用品等，并实现即时结账。山姆会员店会员还可在与AI对话过程中规划膳食、补充日常必需品，并发现新的商品。顾客需先将沃尔玛账户与ChatGPT应用进行绑定，之后在购物时点击ChatGPT应用内的“购买”按钮即可完成下单。该功能计划在今年秋季晚些时候正式上线，届时也将支持第三方卖家的商品。 合作意义：此次合作将帮助零售商更深入地了解并预测客户需求，从而让线上购物体验变得更加个性化和主动化，不再仅仅是被动响应用户搜索。 双方合作基础：沃尔玛与OpenAI在其他业务领域已有合作基础，其内部团队已采用OpenAI认证课程及ChatGPT Enterprise企业版工具。 沃尔玛的AI布局：除了与OpenAI的合作，沃尔玛还推出了自研的生成式AI购物助手“Sparky”，旨在帮助顾客发现、比较商品并完成购买。未来，该功能将进一步扩展，支持自动复购、服务预约，并能理解来自文本、图像、音频和视频等多模态输入信息。
1 年前
德国Comarch ERP Enterprise 是一款全面的企业资源规划 (ERP) 系统，专为寻求在流程方面提高 ERP 系统用户技术进步水平的企业而设计。它是一款现代化的 ERP 系统，具有高度的灵活性和可扩展性，能够满足各种规模和行业的企业的需求。 Comarch企业软件公司最近撰文：“ChatERP: Quantensprung im Enterprise-Resource-Planning”，即ChatERP在企业资源规划中的巨大进步。这份白皮书提到ERP系统是企业的核心，整合了关键业务流程和数据。过去，AI在ERP中的应用成本高且复杂，主要适用于大企业。但生成式AI和大型语言模型（如ChatGPT）的出现改变了这一状况，使得中小企业也能利用AI提升竞争力。这里的关键点是生成式AI降低了使用门槛，使得ERP中的AI助手变得可行。 1. 引言与背景 ERP系统的重要性：作为企业核心，整合关键业务流程（生产、采购、销售等）及数据（客户、订单、库存等）。AI在ERP中的演变：传统AI（如机器学习）成本高、数据需求大，仅适用于大企业；生成式AI（如ChatGPT）通过大型语言模型（LLM）降低门槛，使中小企业也能利用AI提升竞争力。ChatERP的定位：Comarch ERP Enterprise（6.4+版本）内置的多语言AI助手，通过自然语言交互革新ERP使用方式。 2. 改善可用性与降低使用障碍 自然语言交互：用户可通过对话形式与ERP系统互动，支持多语言，会话上下文感知。 动态帮助系统：基于RAG（检索增强生成）技术，AI助手深度理解ERP系统细节，无需额外训练。替代静态文档，提供实时、步骤化指导（如创建新文章、导航功能）。 降低学习成本：新用户快速上手，缩短培训时间；有经验用户更快掌握新功能。减少对IT支持的依赖，释放IT团队资源用于创新任务。 3. 通过语音/文本命令高效控制应用 多模态交互：支持传统UI操作与语音/文本指令结合，提升效率。应用场景： 快速导航：直接跳转深层功能（如“打开分类为家居用品的文章”）。数据操作：创建/打开记录（如“为Mustermann公司新建订单”并预填数据）。自动化任务：处理重复性工作（数据清理），但关键操作需人工审核。 类似消费级助手（如Siri）：但针对企业复杂场景优化，通过API集成ERP功能。 4. 通过聊天探索ERP数据价值 数据查询与分析： 自然语言生成报告（如“显示上季度各地区销售额”），自动生成图表或摘要。预测与洞察：销售趋势预测、库存优化建议。 降低数据分析门槛：非技术用户无需复杂技能即可获取业务洞察，支持数据驱动决策。 5. 安全与合规 权限管理：通过架构设计确保数据访问合规性（如Berechtigungen权限控制）。数据隐私：企业数据仅用于内部处理，符合GDPR等法规。 6. 实施建议与结论 采用策略： 选择兼容现有系统的AI助手（如ChatERP），分阶段部署，从小任务开始。培训员工适应新交互方式，结合传统与AI操作以最大化效率。 未来潜力： 持续优化AI模型，扩展应用场景（如供应链优化、客户行为分析）。推动ERP从“记录系统”向“智能决策支持系统”转型。 核心价值总结： ChatERP通过自然语言交互、动态帮助、语音控制及智能数据分析，显著提升ERP系统的易用性、效率和决策支持能力，尤其助力中小企业以更低成本实现数字化转型。
