蚂蚁集团的DB-GPT，是一个AI原生数据应用开发框架。是DB-GPT一个开源的AI原生数据应用开发框架，旨在通过大语言模型（LLM）与数据库技术的深度融合，简化数据应用的开发流程，提升数据管理和分析的效率。以下是关于DB-GPT的核心信息：
1 个月前
📢 OpenAI即将发布GPT-4.1，多模态能力再升级！ 据多家科技媒体报道，OpenAI计划于下周（2025年4月中旬）推出GPT-4.1，作为GPT-4o的升级版本，进一步强化多模态推理能力，并推出轻量级mini和nano版本。 🔍 关键升级点 更强的多模态处理 GPT-4.1将优化对文本、音频、图像的实时处理能力，提升跨模态交互的流畅度。 相比GPT-4o，新模型在复杂推理任务（如视频理解、语音合成等）上表现更优。 轻量化版本（mini & nano） GPT-4.1 mini 和 nano 将面向不同应用场景，降低计算资源需求，适合移动端或嵌入式设备。 配套新模型（o3 & o4 mini） OpenAI还将推出o3推理模型（满血版）和o4 mini，优化特定任务性能。 部分代码已在ChatGPT网页端被发现，表明发布临近。 ⏳ 发布时间与不确定性 原定下周发布，但OpenAI CEO Sam Altman 曾预警可能因算力限制调整计划。 同期，ChatGPT已升级长期记忆功能，可回顾用户历史对话，提供个性化服务（Plus/Pro用户已开放）。 🌍 行业影响 谷歌（Gemini AI）和微软（Copilot）近期也强化了AI记忆功能，竞争加剧。 GPT-4.1可能进一步巩固OpenAI在多模态AI领域的领先地位，推动商业应用（如智能客服、内容创作等）。 📌 总结：GPT-4.1的发布标志着OpenAI在多模态AI上的又一次突破，但具体性能提升和落地效果仍需观察。我们将持续关注官方更新！ （综合自腾讯新闻、The Verge、搜狐等）
1 个月前
谷歌大模型与人脑语言处理机制研究由谷歌研究院与普林斯顿大学、纽约大学等合作开展。3 月上旬，谷歌的研究成果表明大模型竟意外对应人脑语言处理机制。他们将真实对话中的人脑活动与语音到文本 LLM 的内部嵌入进行比较，发现两者在线性相关关系上表现显著，如语言理解顺序（语音到词义）、生成顺序（计划、发音、听到自己声音）以及上下文预测单词等方面都有惊人的一致性 研究方法：将真实对话中的人脑活动与语音到文本LLM的内部嵌入进行比较。使用皮层电图记录参与者在开放式真实对话时语音生成和理解过程中的神经信号，同时从Whisper中提取低级声学、中级语音和上下文单词嵌入，开发编码模型将这些嵌入词线性映射到大脑活动上。 具体发现 语言理解与生成顺序：在语言理解过程中，首先是语音嵌入预测沿颞上回（STG）的语音区域的皮层活动，几百毫秒后，语言嵌入预测布罗卡区（位于额下回；IFG）的皮层活动。在语言生成过程中，顺序则相反，先由语言嵌入预测布罗卡区的皮层活动，几百毫秒后，语音嵌入预测运动皮层（MC）的神经活动，最后，在说话者发音后，语音嵌入预测STG听觉区域的神经活动。这反映了神经处理的顺序，即先在语言区计划说什么，然后在运动区决定如何发音，最后在感知语音区监测说了什么。 神经活动与嵌入的关系：对于听到或说出的每个单词，从语音到文本模型中提取语音嵌入和基于单词的语言嵌入，通过估计线性变换，可以根据这些嵌入预测每次对话中每个单词的大脑神经信号。全脑分析的定量结果显示，在语音生成和语音理解过程中，不同脑区的神经活动与语音嵌入和语言嵌入的峰值存在特定的先后顺序和对应关系。 “软层次”概念：尽管大模型在并行层中处理单词，人类大脑以串行方式处理它们，但反映了类似的统计规律。大脑中较低级别的声学处理和较高级别的语义处理部分重叠，即存在“软层次”概念。例如，像IFG这样的语言区域不仅处理单词级别的语义和句法信息，也捕捉较低级别的听觉特征；而像STG这样的低阶语音区域在优先处理声学和音素的同时，也能捕捉单词级别的信息。 以往相关研究成果 2022年发表在《自然神经科学》上的论文显示，听者大脑的语言区域会尝试在下一个单词说出之前对其进行预测，且在单词发音前对预测的信心会改变在单词发音后的惊讶程度（预测误差），证明了自回归语言模型与人脑共有的起始前预测、起始后惊讶和基于嵌入的上下文表征等基本计算原理。 发表在《自然通讯》的论文发现，大模型的嵌入空间几何图形所捕捉到的自然语言中单词之间的关系，与大脑在语言区诱导的表征（即大脑嵌入）的几何图形一致。 后续研究还发现，虽然跨层非线性变换在LLMs和人脑语言区中相似，但实现方式不同。Transformer架构可同时处理成百上千个单词，而人脑语言区似乎是按顺序、逐字、循环和时间来分析语言。 总之，该研究表明，语音到文本模型嵌入为理解自然对话过程中语言处理的神经基础提供了一个连贯的框架，尽管大模型与人脑在底层神经回路架构上存在明显不同，但在处理自然语言时有着一些相似的计算原则。
1 个月前
根据《Nature》最新发表的研究，非营利研究机构METR发现了一项被称为“智能体摩尔定律”的规律，即AI智能体（Agent）在完成长期任务方面的能力每7个月翻一番。这一发现揭示了AI在任务完成时间跨度上的指数级增长趋势，并提出了“50%-任务完成时间跨度”这一新指标来衡量AI的能力变化。 核心发现 能力翻倍周期：自2019年以来，AI智能体完成任务的时间跨度每7个月翻一番。这意味着，如果2019年AI完成某项任务所需时间对应人类需要10分钟，那么7个月后，这一时间将缩短至20分钟。 加速趋势：2024年，AI能力的增长速度进一步加快，部分最新模型的能力每3个月翻一番。 未来预测：按照这一趋势，预计5年后（即2030年左右），AI将能够完成许多当前需要人类花费一个月时间才能完成的任务。 研究方法 METR团队通过以下步骤验证了这一规律： 任务设计：设计了170个多样化任务，涵盖软件工程、机器学习、网络安全等领域，并测量人类专家完成这些任务所需的时间，建立“人类基准线”。 指标引入：提出了“50%-任务完成时间跨度”指标，即AI在50%成功率下完成任务的时间长度。这一指标对数据分布的微小变化具有鲁棒性。 模型评估：评估了2019年至2025年间发布的13个前沿AI模型（如GPT系列、Sonnet 3.7等），通过逻辑回归分析计算每个模型的时间跨度。 验证与外部实验 为了验证结果的可靠性，研究团队进行了多项外部实验，包括： 回溯预测：使用2023-2025年数据验证趋势一致性。 任务混乱度分析：评估任务复杂性对AI性能的影响，发现AI在复杂任务上的提升速度与简单任务相似。 基准测试：在SWE-bench等数据集上验证了类似的指数增长趋势。 意义与影响 技术进步：这一发现标志着AI在执行长期任务能力上的显著进步，可能推动AI在软件开发、研究等领域的广泛应用。 劳动力市场影响：AI能力的快速提升可能对劳动力市场产生深远影响，未来或替代部分人类工作，尤其是重复性和耗时任务。 社会挑战：研究提醒社会各界需关注AI技术进步带来的就业和经济挑战，并提前制定应对策略。 未来展望 METR团队预测，按照当前趋势，AI可能在2028年11月达到一个月的任务时间跨度，保守估计则在2031年2月实现。尽管研究存在任务局限性和未来不确定性，但团队确信AI能力每年有1~4倍的增长趋势。 这项研究为AI技术的发展提供了新的量化标准，同时也引发了对AI未来应用和影响的深入思考。
1 个月前
阿里推出新夸克，集成AI对话、深度搜索、深度执行等功能，标志着其从搜索引擎向AI Agent的转型。 新夸克接入通义系列模型，用户规模超2亿，DAU达3430万，位居AI应用榜首。
2 个月前
2025 年 3 月 12 日，清华大学 NLP 实验室联手中南大学等提出 APB 序列并行推理框架，可解决长上下文远距离语义依赖问题，在 128K 文本上比 Flash Attention 快约 10 倍。
2 个月前
在自然语言处理和人工智能领域，token通常是指文本中的基本单元，比如一个单词、一个标点符号或者一个子词等。100万token的输入输出量是一个较大的数据规模，以下从不同角度来理解这一概念： 从文本长度角度 一般来说，英文中一个单词可以看作一个token，中文可能一个字或一个词作为一个token。如果平均每个token对应5个字符（这只是一个粗略的估计，实际会因语言、文本类型等因素而不同），那么100万token大约对应500万个字符。以一本普通的中文书籍每页约1000字来算，500万个字符相当于5000页的书籍内容，这是非常庞大的文本量。 从处理难度角度 对于语言模型等人工智能系统来说，处理100万token的输入输出意味着要处理大量的信息。模型需要在这么多的token中理解语义、语法关系，捕捉上下文信息等，这对模型的容量、计算能力和算法设计都提出了很高的要求。模型需要有足够多的参数和足够深的网络结构，才能有效地处理如此大规模的文本数据，以生成准确、合理的输出。 处理如此大量的token还需要消耗大量的计算资源和时间。在训练过程中，可能需要使用高性能的GPU或TPU集群，花费数天甚至数周的时间才能完成训练。在推理阶段，也需要较多的计算资源来快速处理输入并生成输出，以满足实时性或高效性的要求。 从应用场景角度 机器翻译：如果用于机器翻译任务，100万token可能包含了各种领域的大量句子和段落。这意味着模型可以学习到丰富的语言表达方式和翻译模式，能够处理更复杂、更专业的翻译任务，提高翻译的准确性和质量。 文本生成：在文本生成任务中，如创作小说、新闻报道等，100万token的输入可以让模型学习到大量的文本风格、主题和结构信息，从而生成更丰富多样、更具创意和逻辑性的文本内容。 智能客服：对于智能客服系统，100万token的输入输出量可以使系统处理大量的用户咨询和问题，学习到各种常见问题的回答模式和解决方案，从而更准确、更快速地为用户提供服务，提高用户满意度。
2 个月前
3月6日凌晨，阿里巴巴发布并开源全新的推理模型通义千问QwQ-32B： 模型性能 媲美大参数模型：拥有320亿参数，性能可与具备6710亿参数（其中370亿被激活）的DeepSeek - R1媲美，很大程度上证明了参数规模不再是模型性能的决定性因素。 超越同类模型：在一系列权威基准测试中表现出色，几乎完全超越了OpenAI去年9月发布的尺寸相近的o1 - mini模型。在测试数学能力的AIME24评测集、评估代码能力的LiveCodeBench中，表现与DeepSeek - R1相当，远胜于o1 - mini及相同尺寸的R1蒸馏模型；在LiveBench、谷歌提出的IFEval评测集、加州大学伯克利分校等提出的BFCL测试中，得分均超越了DeepSeek - R1。 技术特点 本地部署优势：突破性地让高性能推理模型在消费级显卡上实现本地部署，英伟达4090的增强版就能部署，大幅降低了模型应用成本，成本是R1的1/10以内，更利于推理模型的应用和普及。 集成Agent能力：集成了与智能体（Agent）相关的能力，使其能够在使用工具的同时进行批判性思考，并根据环境反馈调整推理过程。 大规模强化学习：在冷启动的基础上，针对数学和编程任务、通用能力分别进行了两轮大规模强化学习，在32B的模型尺寸上获得了令人惊喜的推理能力提升，印证了大规模强化学习可显著提高模型性能。与依赖传统的奖励模型不同，通过校验生成答案的正确性来为数学问题提供反馈，并通过代码执行服务器评估生成的代码是否成功通过测试用例来提供代码的反馈。 开源情况：采用Apache 2.0开源协议，已在魔搭社区、HuggingFace及GitHub等平台开源，所有人都可免费下载及商用QwQ - 32B模型，可通过网页版Qwen Chat进行体验，也将免费上架通义APP。
2 个月前
埃隆·马斯克领导的美国政府效率部（DOGE）正在开发一款名为 AutoRIF（Automated Reduction in Force）的自动裁员软件，旨在帮助美国政府大规模“精简”工作人员。 AutoRIF 最初由美国国防部在二十多年前开发，已多次更新，并被多个机构用于加速裁员进程。目前，DOGE 的工程师，包括前特斯拉工程师 Riccardo Biasini，正在对 AutoRIF 的代码进行编辑。传统上，裁员由人力资源官员手动处理，首先针对试用期员工。然而，随着新软件和人工智能的使用，政府员工担心未来可能会更大规模、更快速地进行裁员。 最近，美国人事管理办公室（OPM）向政府工作人员发送电子邮件，要求他们列出每周的工作成果，这些信息据称将被输入大型语言模型（LLM）以评估员工的必要性。一些机构，如联邦调查局（FBI），建议员工不要回复这些电子邮件。目前尚不清楚 DOGE 对 AutoRIF 的具体改动内容。 此外，DOGE 的一系列举措显示，第二轮大规模裁员可能更加迅猛。 然而，值得注意的是，政府效率部的举措可能触及根深蒂固的既得利益政治势力，在美国政治极化和两党矛盾激化的背景下，马斯克作为部门领导人可能面临挑战。 总而言之，DOGE 正在推进 AutoRIF 软件的开发，以实现政府裁员的自动化和高效化，但这一过程也引发了对法律、隐私和道德方面的担忧。 （资讯来源：wired.com）
