基础架构与技术
DeepSeek语言模型以Transformer架构为基础，采用了如多头潜在注意力（MLA）机制、混合专家（MoE）架构等先进技术 。例如DeepSeek-VL2系列中，视觉组件采用动态切片视觉编码策略，语言组件采用DeepSeek-MoE模型结合MLA机制，提升了模型的性能和效率。
预训练与优化
模型基于海量的语料数据进行预训练，如DeepSeek-LLM经过2万亿个中英文token的数据集训练，DeepSeek-V3更是在14.8万亿tokens上预训练。预训练后还会经过监督微调、人类反馈的强化学习等方式进行对齐优化，以更好地满足各种应用场景的需求。
模型参数与版本
包含多种参数规模和版本，如DeepSeek-LLM有7b和67b的base及chat版本，DeepSeek-V3则具有671亿参数，不同版本适用于不同的应用场景和用户需求。
性能特点
开源与应用
DeepSeek选择开源模型及相关代码和数据，推动了AI研究和商业应用的发展，开发者可通过Hugging Face、GitHub等平台获取模型，并可将其集成到各种应用中，应用场景包括智能客服、科研文献摘要生成、搜索引擎优化等。
20 天前
📢 OpenAI即将发布GPT-4.1，多模态能力再升级！ 据多家科技媒体报道，OpenAI计划于下周（2025年4月中旬）推出GPT-4.1，作为GPT-4o的升级版本，进一步强化多模态推理能力，并推出轻量级mini和nano版本。 🔍 关键升级点 更强的多模态处理 GPT-4.1将优化对文本、音频、图像的实时处理能力，提升跨模态交互的流畅度。 相比GPT-4o，新模型在复杂推理任务（如视频理解、语音合成等）上表现更优。 轻量化版本（mini & nano） GPT-4.1 mini 和 nano 将面向不同应用场景，降低计算资源需求，适合移动端或嵌入式设备。 配套新模型（o3 & o4 mini） OpenAI还将推出o3推理模型（满血版）和o4 mini，优化特定任务性能。 部分代码已在ChatGPT网页端被发现，表明发布临近。 ⏳ 发布时间与不确定性 原定下周发布，但OpenAI CEO Sam Altman 曾预警可能因算力限制调整计划。 同期，ChatGPT已升级长期记忆功能，可回顾用户历史对话，提供个性化服务（Plus/Pro用户已开放）。 🌍 行业影响 谷歌（Gemini AI）和微软（Copilot）近期也强化了AI记忆功能，竞争加剧。 GPT-4.1可能进一步巩固OpenAI在多模态AI领域的领先地位，推动商业应用（如智能客服、内容创作等）。 📌 总结：GPT-4.1的发布标志着OpenAI在多模态AI上的又一次突破，但具体性能提升和落地效果仍需观察。我们将持续关注官方更新！ （综合自腾讯新闻、The Verge、搜狐等）
1 个月前
谷歌大模型与人脑语言处理机制研究由谷歌研究院与普林斯顿大学、纽约大学等合作开展。3 月上旬，谷歌的研究成果表明大模型竟意外对应人脑语言处理机制。他们将真实对话中的人脑活动与语音到文本 LLM 的内部嵌入进行比较，发现两者在线性相关关系上表现显著，如语言理解顺序（语音到词义）、生成顺序（计划、发音、听到自己声音）以及上下文预测单词等方面都有惊人的一致性 研究方法：将真实对话中的人脑活动与语音到文本LLM的内部嵌入进行比较。使用皮层电图记录参与者在开放式真实对话时语音生成和理解过程中的神经信号，同时从Whisper中提取低级声学、中级语音和上下文单词嵌入，开发编码模型将这些嵌入词线性映射到大脑活动上。 具体发现 语言理解与生成顺序：在语言理解过程中，首先是语音嵌入预测沿颞上回（STG）的语音区域的皮层活动，几百毫秒后，语言嵌入预测布罗卡区（位于额下回；IFG）的皮层活动。在语言生成过程中，顺序则相反，先由语言嵌入预测布罗卡区的皮层活动，几百毫秒后，语音嵌入预测运动皮层（MC）的神经活动，最后，在说话者发音后，语音嵌入预测STG听觉区域的神经活动。这反映了神经处理的顺序，即先在语言区计划说什么，然后在运动区决定如何发音，最后在感知语音区监测说了什么。 神经活动与嵌入的关系：对于听到或说出的每个单词，从语音到文本模型中提取语音嵌入和基于单词的语言嵌入，通过估计线性变换，可以根据这些嵌入预测每次对话中每个单词的大脑神经信号。全脑分析的定量结果显示，在语音生成和语音理解过程中，不同脑区的神经活动与语音嵌入和语言嵌入的峰值存在特定的先后顺序和对应关系。 “软层次”概念：尽管大模型在并行层中处理单词，人类大脑以串行方式处理它们，但反映了类似的统计规律。大脑中较低级别的声学处理和较高级别的语义处理部分重叠，即存在“软层次”概念。例如，像IFG这样的语言区域不仅处理单词级别的语义和句法信息，也捕捉较低级别的听觉特征；而像STG这样的低阶语音区域在优先处理声学和音素的同时，也能捕捉单词级别的信息。 以往相关研究成果 2022年发表在《自然神经科学》上的论文显示，听者大脑的语言区域会尝试在下一个单词说出之前对其进行预测，且在单词发音前对预测的信心会改变在单词发音后的惊讶程度（预测误差），证明了自回归语言模型与人脑共有的起始前预测、起始后惊讶和基于嵌入的上下文表征等基本计算原理。 发表在《自然通讯》的论文发现，大模型的嵌入空间几何图形所捕捉到的自然语言中单词之间的关系，与大脑在语言区诱导的表征（即大脑嵌入）的几何图形一致。 后续研究还发现，虽然跨层非线性变换在LLMs和人脑语言区中相似，但实现方式不同。Transformer架构可同时处理成百上千个单词，而人脑语言区似乎是按顺序、逐字、循环和时间来分析语言。 总之，该研究表明，语音到文本模型嵌入为理解自然对话过程中语言处理的神经基础提供了一个连贯的框架，尽管大模型与人脑在底层神经回路架构上存在明显不同，但在处理自然语言时有着一些相似的计算原则。
1 个月前
自 1 月份 DeepSeek 推出 R1 推理模型后，欧洲包括汇丰银行等主要金融机构一直在将其与其他 AI 模型一起测试，而美国银行拒绝使用。
1 个月前
2025 年 3 月 12 日，清华大学 NLP 实验室联手中南大学等提出 APB 序列并行推理框架，可解决长上下文远距离语义依赖问题，在 128K 文本上比 Flash Attention 快约 10 倍。
1 个月前
在自然语言处理和人工智能领域，token通常是指文本中的基本单元，比如一个单词、一个标点符号或者一个子词等。100万token的输入输出量是一个较大的数据规模，以下从不同角度来理解这一概念： 从文本长度角度 一般来说，英文中一个单词可以看作一个token，中文可能一个字或一个词作为一个token。如果平均每个token对应5个字符（这只是一个粗略的估计，实际会因语言、文本类型等因素而不同），那么100万token大约对应500万个字符。以一本普通的中文书籍每页约1000字来算，500万个字符相当于5000页的书籍内容，这是非常庞大的文本量。 从处理难度角度 对于语言模型等人工智能系统来说，处理100万token的输入输出意味着要处理大量的信息。模型需要在这么多的token中理解语义、语法关系，捕捉上下文信息等，这对模型的容量、计算能力和算法设计都提出了很高的要求。模型需要有足够多的参数和足够深的网络结构，才能有效地处理如此大规模的文本数据，以生成准确、合理的输出。 处理如此大量的token还需要消耗大量的计算资源和时间。在训练过程中，可能需要使用高性能的GPU或TPU集群，花费数天甚至数周的时间才能完成训练。在推理阶段，也需要较多的计算资源来快速处理输入并生成输出，以满足实时性或高效性的要求。 从应用场景角度 机器翻译：如果用于机器翻译任务，100万token可能包含了各种领域的大量句子和段落。这意味着模型可以学习到丰富的语言表达方式和翻译模式，能够处理更复杂、更专业的翻译任务，提高翻译的准确性和质量。 文本生成：在文本生成任务中，如创作小说、新闻报道等，100万token的输入可以让模型学习到大量的文本风格、主题和结构信息，从而生成更丰富多样、更具创意和逻辑性的文本内容。 智能客服：对于智能客服系统，100万token的输入输出量可以使系统处理大量的用户咨询和问题，学习到各种常见问题的回答模式和解决方案，从而更准确、更快速地为用户提供服务，提高用户满意度。
1 个月前
德国Comarch ERP Enterprise 是一款全面的企业资源规划 (ERP) 系统，专为寻求在流程方面提高 ERP 系统用户技术进步水平的企业而设计。它是一款现代化的 ERP 系统，具有高度的灵活性和可扩展性，能够满足各种规模和行业的企业的需求。 Comarch企业软件公司最近撰文：“ChatERP: Quantensprung im Enterprise-Resource-Planning”，即ChatERP在企业资源规划中的巨大进步。这份白皮书提到ERP系统是企业的核心，整合了关键业务流程和数据。过去，AI在ERP中的应用成本高且复杂，主要适用于大企业。但生成式AI和大型语言模型（如ChatGPT）的出现改变了这一状况，使得中小企业也能利用AI提升竞争力。这里的关键点是生成式AI降低了使用门槛，使得ERP中的AI助手变得可行。 1. 引言与背景 ERP系统的重要性：作为企业核心，整合关键业务流程（生产、采购、销售等）及数据（客户、订单、库存等）。AI在ERP中的演变：传统AI（如机器学习）成本高、数据需求大，仅适用于大企业；生成式AI（如ChatGPT）通过大型语言模型（LLM）降低门槛，使中小企业也能利用AI提升竞争力。ChatERP的定位：Comarch ERP Enterprise（6.4+版本）内置的多语言AI助手，通过自然语言交互革新ERP使用方式。 2. 改善可用性与降低使用障碍 自然语言交互：用户可通过对话形式与ERP系统互动，支持多语言，会话上下文感知。 动态帮助系统：基于RAG（检索增强生成）技术，AI助手深度理解ERP系统细节，无需额外训练。替代静态文档，提供实时、步骤化指导（如创建新文章、导航功能）。 降低学习成本：新用户快速上手，缩短培训时间；有经验用户更快掌握新功能。减少对IT支持的依赖，释放IT团队资源用于创新任务。 3. 通过语音/文本命令高效控制应用 多模态交互：支持传统UI操作与语音/文本指令结合，提升效率。应用场景： 快速导航：直接跳转深层功能（如“打开分类为家居用品的文章”）。数据操作：创建/打开记录（如“为Mustermann公司新建订单”并预填数据）。自动化任务：处理重复性工作（数据清理），但关键操作需人工审核。 类似消费级助手（如Siri）：但针对企业复杂场景优化，通过API集成ERP功能。 4. 通过聊天探索ERP数据价值 数据查询与分析： 自然语言生成报告（如“显示上季度各地区销售额”），自动生成图表或摘要。预测与洞察：销售趋势预测、库存优化建议。 降低数据分析门槛：非技术用户无需复杂技能即可获取业务洞察，支持数据驱动决策。 5. 安全与合规 权限管理：通过架构设计确保数据访问合规性（如Berechtigungen权限控制）。数据隐私：企业数据仅用于内部处理，符合GDPR等法规。 6. 实施建议与结论 采用策略： 选择兼容现有系统的AI助手（如ChatERP），分阶段部署，从小任务开始。培训员工适应新交互方式，结合传统与AI操作以最大化效率。 未来潜力： 持续优化AI模型，扩展应用场景（如供应链优化、客户行为分析）。推动ERP从“记录系统”向“智能决策支持系统”转型。 核心价值总结： ChatERP通过自然语言交互、动态帮助、语音控制及智能数据分析，显著提升ERP系统的易用性、效率和决策支持能力，尤其助力中小企业以更低成本实现数字化转型。
1 个月前
埃隆·马斯克领导的美国政府效率部（DOGE）正在开发一款名为 AutoRIF（Automated Reduction in Force）的自动裁员软件，旨在帮助美国政府大规模“精简”工作人员。 AutoRIF 最初由美国国防部在二十多年前开发，已多次更新，并被多个机构用于加速裁员进程。目前，DOGE 的工程师，包括前特斯拉工程师 Riccardo Biasini，正在对 AutoRIF 的代码进行编辑。传统上，裁员由人力资源官员手动处理，首先针对试用期员工。然而，随着新软件和人工智能的使用，政府员工担心未来可能会更大规模、更快速地进行裁员。 最近，美国人事管理办公室（OPM）向政府工作人员发送电子邮件，要求他们列出每周的工作成果，这些信息据称将被输入大型语言模型（LLM）以评估员工的必要性。一些机构，如联邦调查局（FBI），建议员工不要回复这些电子邮件。目前尚不清楚 DOGE 对 AutoRIF 的具体改动内容。 此外，DOGE 的一系列举措显示，第二轮大规模裁员可能更加迅猛。 然而，值得注意的是，政府效率部的举措可能触及根深蒂固的既得利益政治势力，在美国政治极化和两党矛盾激化的背景下，马斯克作为部门领导人可能面临挑战。 总而言之，DOGE 正在推进 AutoRIF 软件的开发，以实现政府裁员的自动化和高效化，但这一过程也引发了对法律、隐私和道德方面的担忧。 （资讯来源：wired.com）
2 个月前
由斯坦福大学教授 Stefano Ermon 创立的初创公司 Inception Labs 推出了 Mercury Coder，这是第一个大规模基于扩散的语言模型 （dLLM）。与按顺序生成文本的传统大型语言模型 （LLM） 不同，Mercury Coder 使用扩散方法同时处理整个序列，类似于 AI 图像和视频生成。结果：该模型声称比现有模型快十倍，运行成本也明显降低。 产品要点： Mercury Coder 是第一个基于扩散的大型语言模型 （dLLM），它使用粗到细的方法生成文本，而不是按顺序预测标记。 它的速度比传统 LLM 快 10 倍，在 NVIDIA H100 GPU 上每秒生成超过 1000 个Token。 早期的基准测试表明，Mercury Coder 可与 GPT-4o Mini 和 Claude 3.5 Haiku 等模型相媲美，同时更具成本效益。 该模型基于斯坦福大学教授 Stefano Ermon 的研究，使用了一种不同的方法——从文本的粗略估计开始，然后并行进行提炼，类似于 Midjourney 和 OpenAI 的 Sora 等 AI 图像和视频生成器的运行方式。 据 Inception Labs 称，Mercury Coder 不仅与众不同，而且速度要快得多。该公司声称该模型可以在 NVIDIA H100 上每秒生成超过 1000 个Token，这种速度通常需要 Groq 或 Cerebras 等专用硬件加速器。该方法还降低了计算成本，使其成为希望优化 AI 基础设施的企业的一个引人注目的选择。 早期基准测试表明，Mercury Coder 的性能可与领先的 LLM 相媲美。在头对头编码评估中，该模型与速度优化模型（如 OpenAI 的 GPT-4o Mini 和 Anthropic的 Claude 3.5 Haiku）相当或优于速度优化模型，同时运行延迟仅为其一小部分。如果这些结果在实际应用中是一致的，那么 dLLM 可以提供传统 LLM 的可行替代方案，尤其是在需要高速响应的场景中，例如客户支持、代码生成和企业自动化。 行业领导者正在注意到这一点。AI 研究员 Andrej Karpathy 指出，Mercury Coder 的扩散方法与常态不同，他指出：“为什么文本生成抵制扩散，而图像和视频生成却接受了它，这一直是个谜。这个模型可以揭示 AI 文本生成的新优势和劣势。 目前，Inception Labs 将 Mercury Coder 定位为现有模型的直接替代方案，提供 API 访问和本地部署。该公司已经与希望减少 AI 延迟和成本的财富 100 强企业合作。Inception 还提及了未来的 dLLM 版本，包括针对对话式 AI 优化的模型。 基于扩散的 LLM 是否会成为传统模型的严重竞争对手还有待观察。但借助 Mercury Coder，Inception Labs 提出了一个令人信服的案例，即 AI 文本生成不必受到当今主流模型中顺序架构的限制。 （资讯来源：Maginative）
2 个月前
开源版和商业不开源版的大语言模型（LLM）在多个方面存在显著区别，包括访问方式、性能、定制化能力、数据安全性、技术支持、成本等。以下是详细对比： 1. 访问方式 开源版：通常提供模型权重、训练代码，可以本地部署或在云端运行，无需依赖第三方API。 商业版（不开源）：只能通过 API 访问，模型权重和训练数据不会公开，由官方托管并提供计算资源。 ✅ 适用场景：如果企业需要完全控制权，可以选择开源模型；如果希望快速接入、低维护成本，商业 API 可能更合适。 2. 性能和优化 开源版： 性能受限于开源社区的优化进展，部分版本可能比商业版稍弱。 用户可以自行调整超参数、微调（Fine-tuning），但需要较强的 AI 开发能力。 商业版（不开源）： 由官方持续优化，通常具有更强的推理能力、上下文理解能力，以及更长的上下文窗口（如 GPT-4 Turbo、Claude 3）。 可能包含专有的训练数据和优化技术，准确率、鲁棒性更高。 ✅ 适用场景：如果需要顶级性能，建议选择商业版；如果可以接受一定的性能下降，开源版可减少成本。 3. 定制化能力 开源版： 可以本地部署，支持微调（Fine-tuning）、LoRA 适配、知识库增强（RAG）等深度优化。 企业可以将行业专属数据融入模型，打造更精准的 AI。 商业版（不开源）： 一般只提供 API，用户无法修改底层模型。 部分商业版支持API 微调或定制化训练，但通常需要额外费用。 ✅ 适用场景：如果希望训练行业专属模型，开源版更适合；如果只需要通用问答，商业版 API 更便捷。 4. 数据安全性 开源版： 本地部署时数据完全自控，适用于高安全性需求（如医疗、政府、军工）。 但如果使用开源云服务，数据可能受服务器提供商限制。 商业版（不开源）： 需要将数据传输到供应商的服务器，可能涉及数据合规问题（如 GDPR、企业隐私）。 供应商通常提供数据加密和隐私保护，但企业需评估安全性。 ✅ 适用场景：如果数据隐私至关重要，应选开源版并本地部署；如果数据安全可控，商业 API 更省事。 5. 技术支持 开源版： 依赖社区支持，如 GitHub、论坛、开源文档，问题解决效率不稳定。 需要内部 AI 工程团队维护，维护成本较高。 商业版（不开源）： 由供应商提供专业技术支持，如 SLA（服务等级协议）、企业客服。 适用于对稳定性要求高的企业用户。 ✅ 适用场景：如果企业没有强AI团队，建议使用商业 API；如果有内部 AI 研发团队，可考虑开源版。 6. 成本 开源版： 模型本身免费，但需要自行部署计算资源，如 GPU 服务器、云计算等，成本取决于模型大小和推理需求。 适合长期、大规模使用，但初始投入较高。 商业版（不开源）： 需要按 API 调用量或 订阅模式 付费，如 OpenAI 的 GPT-4 API、阿里云的 Qwen-Max。 适用于短期、小规模应用，初始成本低，但长期使用可能更贵。 ✅ 适用场景：如果使用量大，开源版（本地部署）更划算；如果只是轻量应用，商业 API 更方便。 7. 典型代表 类别 代表模型 访问方式 适用场景 开源版 LLaMA 3（Meta）、Mistral、Qwen 2.5（阿里）、Baichuan 2（百川） 本地部署/云端托管 定制化应用，数据隐私要求高 商业版（不开源） GPT-4（OpenAI）、Claude 3（Anthropic）、Gemini（Google）、文心一言（百度）、Qwen-Max（阿里） API 调用 低维护、高性能、快速集成 总结：如何选择？ 🔹 选择开源版 ✅： 需要本地部署，保证数据安全（如企业内部 AI、政府、医疗等） 需要微调（Fine-tuning）和深度定制（如工业 AI 专用问答系统） 具备 AI 开发团队，可承担部署和维护成本 🔹 选择商业 API（不开源） ✅： 需要高性能、稳定性（如企业客服、B2B AI 平台） 不想自己维护模型，希望快速集成（如 SaaS AI 服务） 数据隐私要求不高，可以接受数据传输到第三方
2 个月前
随着人工智能技术的飞速发展，越来越多的企业和开发者开始将目光投向这一领域。作为阿里巴巴集团旗下的通义实验室自主研发的超大规模语言模型，通义千问（Qwen）始终致力于为用户提供更加智能、便捷的服务体验。通义千问近日正式启用了全新的AI Chat域名及界面——chat.qwen.ai！这不仅是一次简单的域名更新，更是我们在用户体验优化和服务升级方面迈出的重要一步。 全新域名：简洁易记，专业高效 从现在起，用户只需访问 chat.qwen.ai，即可快速进入通义千问的AI对话平台。相比之前的入口，新域名更加简洁直观，便于记忆与传播。无论是个人用户还是企业开发者，都能通过这个统一的入口，轻松获取到所需的服务和支持。 简洁性：新域名去掉了冗余的部分，让用户一目了然。 专业性：明确指向“Chat”功能，突出我们的核心竞争力——强大的自然语言处理能力。 全球化：采用国际通用的“.ai”后缀，彰显我们在人工智能领域的领先地位。 界面焕新：更友好、更智能 除了域名的变化，通义千问的界面也进行了全面升级。新的设计风格更加现代化，操作流程更加流畅，旨在为每一位用户提供极致的交互体验。 1. 清晰的布局 新界面采用了更加清晰的功能分区，首页即展示了主要功能模块，如文本生成、代码编写、多语言支持等。无论你是初次使用还是资深用户，都能迅速找到自己需要的内容。 2. 个性化设置 用户可以根据自己的偏好调整聊天窗口的主题颜色、字体大小等细节，打造专属的使用环境。此外，我们还新增了夜间模式，让深夜工作的你也能舒适地与AI交流。 3. 增强的多轮对话能力 在新版界面中，通义千问的多轮对话功能得到了进一步加强。系统能够更好地理解上下文信息，提供连贯且精准的回答。即使面对复杂的问题或场景切换，也能保持高度的准确性。 4. 丰富的插件支持 为了满足不同用户的需求，我们引入了多种实用插件，例如文档解析、图像生成、视频编辑等。这些插件可以无缝集成到主界面中，极大提升了工作效率和创作灵感。 核心亮点：技术创新驱动优质服务 1. 超大规模参数量 基于阿里云强大的计算资源，通义千问拥有超过万亿级别的参数规模，确保了模型的强大表达能力和泛化性能。这种规模的优势使得通义千问能够在各种任务上表现出色，无论是生成高质量的文章、撰写复杂的代码，还是进行多语言翻译，都能游刃有余。 2. 多模态融合 除了传统的文本处理外，通义千问在图像、音频等领域也取得了突破性进展，真正实现了跨模态的理解与生成。例如，通义万相是通义实验室推出的一站式AI艺术创作平台，它结合了文生图、图像风格迁移、手绘草图生成精美图片等能力，为用户提供丰富的创意工具。 3. 安全与隐私保护 我们深知数据安全的重要性，因此在新版本中进一步加强了加密措施，保障用户信息安全无忧。阿里云一直致力于构建一个安全可靠的技术平台，确保用户的隐私和数据得到妥善保护。 4. 高效推理与训练 通义千问依托阿里云的高效推理和训练框架，能够在短时间内完成大量数据的处理和学习。这种高效的处理能力使得通义千问能够快速适应新的应用场景和需求，为用户提供更加及时和准确的服务。 5. 广泛的行业应用 通义千问已经在多个行业中得到了广泛应用，包括电商、金融、医疗、教育等。例如，在电商领域，通义千问可以帮助商家自动生成商品描述、回答客户咨询；在金融领域，它可以协助分析师进行市场预测和风险评估；在医疗领域，它可以辅助医生进行疾病诊断和治疗方案推荐。 结语 随着 chat.qwen.ai 的上线，通义千问将以全新的姿态迎接每一位用户的到来。未来，我们将继续秉承“让机器更好地服务于人”的理念，不断探索前沿技术，努力为全球用户带来更多惊喜。如果你还没有尝试过通义千问，请立即访问 chat.qwen.ai，开启属于你的智能之旅吧！
