RAG（Retrieval-Augmented Generation）属于深度学习的范畴。其原理是利用检索技术从大型语料库中检索相关信息，这些信息可以是文档、文章、网页或其他文本片段，然后将检索到的内容作为参考或灵感来源，通过一个预训练的语言模型（如GPT）进行细化和扩展，最终生成更准确、更丰富的文本输出。
在这个过程中，涉及到对大量文本数据的学习和理解，以及对复杂语言模式的建模，这符合深度学习的特点。例如，在处理自然语言处理任务时，RAG模型可以通过深度学习算法自动学习语言的语法、语义和上下文信息，从而提高生成文本的质量和准确性。
现在很多先知先觉的企业都在落地自己RAG项目，一般要经历以下6个关键步骤：
第1步都是数据工程: 怎么样把企业级异构的数据转换知识，这一步是非常关键，会影响到检索的质量和效果。
第2步是Embedding嵌入模型: 针对异构的知识呢，选型也比较关键。
第3步就是向量数据库或者叫向量知识库的选型: 它会影响到整个的检索质量和检索速度。
第4步是Rerank重排序: 怎么样把检索的相关知识重新排序给到大模型。
第5步就是推理：提升大模型本身的性能推理速度和安全性。
第6步是提升效率：整个链路中的效率的提升，怎么样能够达到秒级，甚至毫秒级的返回就变得非常重要了。
RAG 技术在不同行业的广泛应用和巨大潜力，企业利用RAG技术激活企业内如数据，让企业再次焕发生命力！
1 个月前
德国Comarch ERP Enterprise 是一款全面的企业资源规划 (ERP) 系统，专为寻求在流程方面提高 ERP 系统用户技术进步水平的企业而设计。它是一款现代化的 ERP 系统，具有高度的灵活性和可扩展性，能够满足各种规模和行业的企业的需求。 Comarch企业软件公司最近撰文：“ChatERP: Quantensprung im Enterprise-Resource-Planning”，即ChatERP在企业资源规划中的巨大进步。这份白皮书提到ERP系统是企业的核心，整合了关键业务流程和数据。过去，AI在ERP中的应用成本高且复杂，主要适用于大企业。但生成式AI和大型语言模型（如ChatGPT）的出现改变了这一状况，使得中小企业也能利用AI提升竞争力。这里的关键点是生成式AI降低了使用门槛，使得ERP中的AI助手变得可行。 1. 引言与背景 ERP系统的重要性：作为企业核心，整合关键业务流程（生产、采购、销售等）及数据（客户、订单、库存等）。AI在ERP中的演变：传统AI（如机器学习）成本高、数据需求大，仅适用于大企业；生成式AI（如ChatGPT）通过大型语言模型（LLM）降低门槛，使中小企业也能利用AI提升竞争力。ChatERP的定位：Comarch ERP Enterprise（6.4+版本）内置的多语言AI助手，通过自然语言交互革新ERP使用方式。 2. 改善可用性与降低使用障碍 自然语言交互：用户可通过对话形式与ERP系统互动，支持多语言，会话上下文感知。 动态帮助系统：基于RAG（检索增强生成）技术，AI助手深度理解ERP系统细节，无需额外训练。替代静态文档，提供实时、步骤化指导（如创建新文章、导航功能）。 降低学习成本：新用户快速上手，缩短培训时间；有经验用户更快掌握新功能。减少对IT支持的依赖，释放IT团队资源用于创新任务。 3. 通过语音/文本命令高效控制应用 多模态交互：支持传统UI操作与语音/文本指令结合，提升效率。应用场景： 快速导航：直接跳转深层功能（如“打开分类为家居用品的文章”）。数据操作：创建/打开记录（如“为Mustermann公司新建订单”并预填数据）。自动化任务：处理重复性工作（数据清理），但关键操作需人工审核。 类似消费级助手（如Siri）：但针对企业复杂场景优化，通过API集成ERP功能。 4. 通过聊天探索ERP数据价值 数据查询与分析： 自然语言生成报告（如“显示上季度各地区销售额”），自动生成图表或摘要。预测与洞察：销售趋势预测、库存优化建议。 降低数据分析门槛：非技术用户无需复杂技能即可获取业务洞察，支持数据驱动决策。 5. 安全与合规 权限管理：通过架构设计确保数据访问合规性（如Berechtigungen权限控制）。数据隐私：企业数据仅用于内部处理，符合GDPR等法规。 6. 实施建议与结论 采用策略： 选择兼容现有系统的AI助手（如ChatERP），分阶段部署，从小任务开始。培训员工适应新交互方式，结合传统与AI操作以最大化效率。 未来潜力： 持续优化AI模型，扩展应用场景（如供应链优化、客户行为分析）。推动ERP从“记录系统”向“智能决策支持系统”转型。 核心价值总结： ChatERP通过自然语言交互、动态帮助、语音控制及智能数据分析，显著提升ERP系统的易用性、效率和决策支持能力，尤其助力中小企业以更低成本实现数字化转型。
2 个月前
借助SAP Business AI，您可以在面对挑战时获得支持，并实现潜在的数百万欧元成本节省。 SAP提供具备直观、灵活且强大AI功能的应用程序，帮助客户优化业务流程。 通过AI代理和全面的流程上下文提升企业整体效率 Joule中的AI代理能够理解您的业务流程，并安全、受控地访问您的数据。凭借超过1,300种技能，它们可使导航和交易任务的执行速度提高多达90%，并跨所有企业流程协同工作，以解决最复杂的任务。 将企业生产力提高30% SAP目前拥有130多个活跃的AI场景，并计划到2025年底增加至400个，为各个业务领域提供广泛的AI解决方案，助您更快、更高效地达成目标。 领先AI供应商为您的个性化业务需求提供定制支持 借助创新的AI技术以及我们顶级合作伙伴的大型语言模型，SAP Business AI可为您提供无缝集成的智能解决方案。 大幅提高企业团队的工作效率：在供应链、财务、采购、HR、销售等业务领域，创造切实的价值。 1，借助AI构建更敏捷、更具韧性且以客户为中心的供应链 通过优化运营、构建高效供应链并促进可持续增长的AI，供应链团队可以实现更优表现。 高效、敏捷且具备韧性的供应链比以往任何时候都更为重要。AI可帮助您获取深刻洞察力，提高供应链的韧性，确保全球物流畅通无阻。您可以充分利用日益复杂的供应链，预测风险并采取即时纠正措施。快速评估风险和潜在延误，关注最关键的货运任务，并确保按时交付。 更快发现错误 及早识别制造过程中的偏差，提高员工生产力，确保质量一致性，并将检验成本降低25%²。 降低50%²的交付成本 自动化入库处理以降低物流成本，检测异常情况，并自动录入数据以加速处理。 2，利用AI优化财务管理，提高收入，增强风险控制 财务团队可借助AI优化运营现金流、提高收入增长，并优化净利润率，为企业创造真正的价值。 应收账款核对工作量减少71% 消除人工付款核对，实现AI驱动的对账和付款通知提取，优化应收账款管理。 降低因欺诈造成的收入损失 利用AI与SAP S/4HANA Cloud Private Edition中的SAP Business Integrity Screening，提前识别并防范欺诈行为。 3，借助AI优化采购支出、降低风险并提升供应链效率 利用Business AI提高供应商绩效和运营效率，同时节省成本。 市场竞争分析速度提升90% 借助AI优化市场调研和供应商选择，加快品类策略制定。 采购流程信息搜索速度提高95% 通过Joule的自然语言界面快速查找采购数据，加速决策制定。 外部职位描述创建速度加快85% 将要点转化为详细的职位描述，并翻译成20多种语言。借助智能筛选，精准匹配顶尖人才。 4，利用AI赋能人力资源，使员工成功并提升企业敏捷性 人力资源团队可利用AI提升员工参与度和留存率，更快招聘合适人才，并节省成本。 日常HR任务完成速度提高90% Joule集成自然语言处理，可轻松导航SAP SuccessFactors模块，快速完成招聘、入职、薪资发放等任务。 申请审核速度提升80% 加快招聘决策，通过AI筛选候选人，使其资质与职位要求精准匹配。 5，利用AI提高销售和服务效率，提供卓越客户体验 通过降低获客成本、优化销售周期并提升客户忠诚度，提高企业收入。 SAP Business AI for Customer Experience助力销售、服务和营销全流程的智能化，借助Joule释放洞察力，增强业务影响力，提供个性化体验，助力企业提升客户互动质量。 显著缩短案件转办和查询时间 利用Joule代理自动分类客户案例，主动提供答案，优化销售和服务质量。 销售例行任务完成速度提高80% 在SAP Sales Cloud中与Joule Copilot“对话”，利用智能分析将潜在客户转化为实际客户。 6，利用AI优化营销和电商，提升客户互动 利用AI扩展全渠道互动，提供个性化体验，优化电商产品搜索，提高企业收入和利润率。 目标客户群体细分速度提高90%² 借助Joule快速创建客户群体细分，利用AI轻松制定和衡量营销旅程及关键成功指标。 实现更精准的个性化推荐 基于客户行为、购买历史和搜索模式提供个性化推荐。分析库存、销售趋势和订单历史，预测需求并优化库存水平。 7，利用AI提升IT和开发能力，加速产品创新 通过AI提高企业业务连续性，提升生产力和系统可用性，减少安全事故，并提高IT项目成功率。 SAP BTP凭借生成式AI，优化数据管理、自动化流程、推动创新，并提升开发人员效率，让您的团队实现更大成就。 应用程序开发成本降低30% 借助SAP Build Code的AI驱动编码工具，加速应用开发。 SAP应用管理效率提升75% 通过SAP Automation Pilot的智能提示，自动化工作流，减少手动DevOps任务。 (信息来源：SAP官网)
2 个月前
比GraphRAG更懂“思考”，微软又开源PIKE-RAG：主打复杂私域知识理解和推理 继GraphRAG之后，微软又发布PIKE-RAG，主打在复杂企业场景中私域知识提取、推理和应用能力，PIKE-RAG 已在工业制造、采矿、制药等领域进行了测试，显著提升了问答准确率。报告、代码、demo均已开源。
2 个月前
作为工业人工智能产品平台，可以有几种不同的商业模式和产品方向： 1. AI SaaS 平台（软件即服务） 核心功能： 预测性维护（Predictive Maintenance）：利用AI分析设备数据，提前预警故障，减少停机时间。 质量检测（AI-powered Quality Inspection）：基于计算机视觉的自动缺陷检测，提高生产效率。 智能调度（Smart Scheduling）：优化生产计划，提高资源利用率。 工业数据分析（Industrial Data Analytics）：提供数据可视化、智能BI、异常检测等功能。 盈利模式： 按订阅收费（SaaS）、按API调用次数收费，或者定制化解决方案。 2. 工业AI解决方案（定制化产品） 面向行业： 制造业（智能生产、智能检测） 物流与供应链（智能仓储、自动调度） 能源与电力（设备运维、能效优化） 产品类型： 软硬件结合的工业AI系统，如 AI+IoT 设备。 AI算法模型，提供API或本地部署。 定制AI解决方案，针对企业需求开发。 盈利模式： 项目制收费、软件授权、数据订阅服务等。 3. 工业AI开发平台（PaaS） 提供开发工具、API、预训练模型，帮助企业快速搭建工业AI应用。 目标用户：工业AI开发者、企业研发团队。 盈利模式： 按API调用、计算资源或企业级授权收费。
3 个月前
搭建工业AI咨询平台在生产调度、预测性维护、缺陷检测等场景中，AI技术能够显著提升工业企业的效率和竞争力。
3 个月前
图形数据库（Graph DB）是一种专门用于存储和处理图形结构数据的数据库。
4 个月前
DeepSeek（深度求索）是一家专注于大语言模型（LLM）和相关技术研发的创新型科技公司，成立于2023年7月，由知名量化私募巨头幻方量化创立。DeepSeek的AI产品主要包括以下几类： 语言模型 DeepSeek-LLM：如包含67亿参数的DeepSeek-67b-base模型，基于海量的中英文token数据集训练，可用于多种自然语言处理任务. DeepSeek-Coder：是代码语言模型，如DeepSeek-Coder-v2-instruct在代码特定任务中性能可比肩GPT-4 Turbo，可辅助编程及代码相关的自然语言处理任务. DeepSeek-Math：旨在提升数学推理能力，例如DeepSeek-Math-7b-instruct等模型，可解决数学问题、进行数学相关的文本生成和问答等. DeepSeek-Prover： 主要用于定理证明，通过优化训练和推理过程，为相关领域的研究和应用提供支持. 多模态模型 DeepSeek-VL：是开源的视觉-语言模型，可用于真实世界的视觉和语言理解应用，如视觉问答、图像字幕生成等. 应用平台 乾坤圈（AI Agent智能体平台）：基于深擎自研的流程引擎研发，能够基于海量的大模型组件进行极速灵活编排，满足大模型场景快速搭建能力需求，内置了20多个工作流最佳实践、50多项金融领域的特色处理组件以及30多款应用场景，主要应用于金融行业. Janus：是统一的多模态理解和生成模型，可应用于多种需要多模态交互的场景. 内容产品与服务 个性化推荐引擎：如穿云箭，依托智能算法模型，基于用户的浏览行为，实现精准的内容推荐，帮助金融机构了解客户需求. 内容服务平台：如风火轮，整合各大财经资讯和自媒体内容，通过SaaS模式分发给客户，让信息获取及时可靠；白羽扇智能内容处理中心则进一步提高了内容分发的个性化和实时性，对投资标的、财经事件进行动态打标，优化客户体验.
4 个月前
微软研究院表示，现在的AI具备更强的推理能力，AI模型很快将能够处理更复杂的任务。未来将比ChatGPT等传统的聊天机器人更强大，微软正在利用AI代理来连接整个组织的员工，而且透过硬体升级AI将变得更加节能。 周四OpenAI也表示，将推出高价版的聊天机器人ChatGPT Pro新订阅服务，专门为工程和研究板块设计，月费达到200美元。 AI应用持续往前推动，华尔街方面也正密切关注硅谷，在AI上的巨额投资能否带来营收增长。
8 个月前
以下是一些关于 RAG（Retrieval-Augmented Generation，检索增强生成）企业落地的成功案例： Salesforce Einstein Salesforce 利用 RAG 技术打造了 Einstein 智能助手。 功能与应用：Einstein 可以从大量的客户数据、销售记录、市场趋势等信息中进行检索，并结合生成式回答来为销售团队提供个性化的建议和洞察。例如，当销售代表与客户沟通时，Einstein 能够快速检索相关客户信息和历史交易记录，同时生成针对当前情况的最佳销售策略建议，如推荐合适的产品、提供优惠方案等。 成果与效益：通过使用 Einstein，Salesforce 的客户企业显著提高了销售效率和客户满意度。销售团队能够更快速地响应客户需求，准确把握销售机会，从而增加了销售额和市场份额。同时，客户也受益于更加个性化和高效的服务体验。 Cisco with RAG for Customer Support Cisco 在客户支持领域应用了 RAG 技术。 功能与应用：当客户遇到技术问题时，Cisco 的支持系统可以从庞大的知识库中检索相关的解决方案和技术文档，并利用生成式模型为客户提供清晰、易懂的解答。例如，如果客户报告网络故障，系统会检索类似问题的历史解决方案，并根据当前情况生成具体的故障排除步骤和建议。此外，支持团队也可以利用该系统快速获取相关知识，提高解决问题的速度和准确性。 成果与效益：这大大缩短了客户等待解决问题的时间，提高了客户满意度。同时，Cisco 也降低了支持成本，因为系统可以自动处理许多常见问题，减少了人工干预的需求。 金融行业中的应用案例 某大型金融机构利用 RAG 技术提升风险管理和投资决策。 功能与应用：该机构将大量的金融市场数据、经济指标、行业研究报告等信息整合到 RAG 系统中。在进行风险管理时，系统可以检索历史市场波动数据和风险事件，并结合生成式分析提供当前市场风险的评估和预警。在投资决策方面，系统能够根据用户的投资目标和风险偏好，从海量数据中检索合适的投资组合建议，并生成详细的投资分析报告。 成果与效益：帮助金融机构更准确地评估风险，做出更明智的投资决策。提高了决策的效率和准确性，降低了投资风险，为机构带来了显著的经济效益。 这些成功案例展示了 RAG 技术在不同行业的广泛应用和巨大潜力，为其他企业考虑落地 RAG 提供了宝贵的参考经验。
8 个月前
当将 RAG 企业落地时，以下是一些需要注意的事项： 数据质量与管理： 确保数据的准确性、完整性和一致性。对用于检索的知识库进行严格筛选和清理，去除错误、过时或不相关的信息，以免影响生成结果的质量。 建立有效的数据更新机制，以保证知识库中的信息能够及时反映最新的知识和业务动态。例如，定期更新文档、数据库记录等。 对数据进行分类和标记，便于在检索时能够准确地定位到相关内容。这可能涉及到制定合适的分类体系和标签规则。 查询处理与优化： 针对不规范的查询和短查询，采用合适的处理方法。例如，通过意图分析确定用户意图，缩小召回范围；进行关键词提取，以便根据关键词进行检索；或者主动向用户提问以获取更多信息，从而使查询更加明确。 优化查询的性能和效率，避免出现响应时间过长等问题。可以通过选择合适的索引技术、优化检索算法等方式来提高查询速度。 集成结构化数据：如果企业中存在结构化数据（如关系数据库、Excel 文件等），需要考虑如何将其有效地整合到 RAG 流程中。这可能需要开发相应的数据接口或转换工具，以确保结构化数据能够与非结构化数据一起被检索和利用，为生成更全面和准确的回答提供支持。 模型选择与调优： 根据企业的具体需求和应用场景，选择合适的 RAG 模型架构和相关技术。不同的开源框架或商业解决方案在功能、性能、可扩展性等方面可能存在差异，需要进行充分的评估和比较。 对所选的模型进行调优，包括调整参数、优化训练过程等，以提高模型在企业数据上的表现。例如，可以使用特定领域的数据集进行进一步的微调，使模型更好地适应企业的业务知识和语言特点。 结果评估与反馈： 建立评估指标体系，对 RAG 生成的结果进行客观的评估。这可以包括准确性、相关性、可读性等方面的指标，通过与人工标注的结果进行对比或进行用户满意度调查等方式来衡量生成结果的质量。 根据评估结果，及时收集反馈信息，以便对模型和系统进行进一步的改进和优化。例如，如果发现某些类型的问题经常出现错误回答，可以针对性地调整数据或模型。 安全与隐私保护： 确保企业数据的安全，采取措施防止数据泄露、未经授权的访问等问题。这可能涉及到数据加密、访问控制、安全审计等方面的技术和管理措施。 如果处理的是包含个人隐私信息的数据，必须严格遵守相关的隐私法规和政策，对用户隐私进行保护。例如，在数据收集、存储和使用过程中，明确告知用户并获得其同意，对敏感信息进行脱敏处理等。 可扩展性与兼容性： 考虑企业未来的发展和业务扩展需求，选择具有良好可扩展性的 RAG 解决方案。这包括能够支持更大规模的数据量、更多的用户访问以及更复杂的应用场景等。 确保 RAG 系统与企业现有的技术架构和软件系统具有良好的兼容性，能够方便地进行集成和对接。例如，与企业的业务系统、数据库、应用程序等进行无缝连接，以实现数据的共享和交互。 用户体验与界面设计： 设计友好、直观的用户界面，使用户能够方便地输入查询并理解生成的回答。提供清晰的操作指引和反馈信息，降低用户的使用门槛和学习成本。 优化生成结果的呈现方式，使其易于阅读和理解。例如，对长篇幅的回答进行分段、突出关键信息、提供相关的参考资料或链接等。 成本控制与效益分析： 评估 RAG 项目的成本，包括技术采购、数据处理、模型训练、系统维护等方面的费用，确保在企业的预算范围内。 分析 RAG 系统为企业带来的效益，如提高工作效率、改善客户服务、创造新的业务机会等，以证明项目的投资价值。通过持续的效益分析，不断优化 RAG 系统的应用策略，以实现最大的收益。 法律合规性：了解并遵守相关的法律法规，特别是在涉及知识产权、内容创作、数据使用等方面。确保 RAG 生成的内容不侵犯他人的版权、商标权等合法权益，避免可能的法律风险。 总之，RAG 企业落地需要综合考虑技术、数据、业务、用户等多个方面的因素，通过精心的规划、实施和不断的优化，才能实现其在企业中的有效应用和价值最大化。在实施过程中，建议与专业的技术团队、法律顾问等进行合作，以确保各项工作的顺利进行。
