Gemini CLI 是 Google DeepMind 推出的 命令行工具，用于通过终端与 Gemini 系列大模型（如 Gemini Pro、Gemini Ultra）交互。它允许用户直接在终端中输入提示词（prompt）或通过文件传递输入，并获取模型的文本响应，适合开发者快速测试模型或集成到脚本中。
1 个月前
Gemini 3 标志着AI模型从“增量优化”向“范式转变”的重大跃进。
5 个月前
T5：Text-to-Text Transfer Transformer
10 个月前
谷歌大模型与人脑语言处理机制研究由谷歌研究院与普林斯顿大学、纽约大学等合作开展。3 月上旬，谷歌的研究成果表明大模型竟意外对应人脑语言处理机制。他们将真实对话中的人脑活动与语音到文本 LLM 的内部嵌入进行比较，发现两者在线性相关关系上表现显著，如语言理解顺序（语音到词义）、生成顺序（计划、发音、听到自己声音）以及上下文预测单词等方面都有惊人的一致性 研究方法：将真实对话中的人脑活动与语音到文本LLM的内部嵌入进行比较。使用皮层电图记录参与者在开放式真实对话时语音生成和理解过程中的神经信号，同时从Whisper中提取低级声学、中级语音和上下文单词嵌入，开发编码模型将这些嵌入词线性映射到大脑活动上。 具体发现 语言理解与生成顺序：在语言理解过程中，首先是语音嵌入预测沿颞上回（STG）的语音区域的皮层活动，几百毫秒后，语言嵌入预测布罗卡区（位于额下回；IFG）的皮层活动。在语言生成过程中，顺序则相反，先由语言嵌入预测布罗卡区的皮层活动，几百毫秒后，语音嵌入预测运动皮层（MC）的神经活动，最后，在说话者发音后，语音嵌入预测STG听觉区域的神经活动。这反映了神经处理的顺序，即先在语言区计划说什么，然后在运动区决定如何发音，最后在感知语音区监测说了什么。 神经活动与嵌入的关系：对于听到或说出的每个单词，从语音到文本模型中提取语音嵌入和基于单词的语言嵌入，通过估计线性变换，可以根据这些嵌入预测每次对话中每个单词的大脑神经信号。全脑分析的定量结果显示，在语音生成和语音理解过程中，不同脑区的神经活动与语音嵌入和语言嵌入的峰值存在特定的先后顺序和对应关系。 “软层次”概念：尽管大模型在并行层中处理单词，人类大脑以串行方式处理它们，但反映了类似的统计规律。大脑中较低级别的声学处理和较高级别的语义处理部分重叠，即存在“软层次”概念。例如，像IFG这样的语言区域不仅处理单词级别的语义和句法信息，也捕捉较低级别的听觉特征；而像STG这样的低阶语音区域在优先处理声学和音素的同时，也能捕捉单词级别的信息。 以往相关研究成果 2022年发表在《自然神经科学》上的论文显示，听者大脑的语言区域会尝试在下一个单词说出之前对其进行预测，且在单词发音前对预测的信心会改变在单词发音后的惊讶程度（预测误差），证明了自回归语言模型与人脑共有的起始前预测、起始后惊讶和基于嵌入的上下文表征等基本计算原理。 发表在《自然通讯》的论文发现，大模型的嵌入空间几何图形所捕捉到的自然语言中单词之间的关系，与大脑在语言区诱导的表征（即大脑嵌入）的几何图形一致。 后续研究还发现，虽然跨层非线性变换在LLMs和人脑语言区中相似，但实现方式不同。Transformer架构可同时处理成百上千个单词，而人脑语言区似乎是按顺序、逐字、循环和时间来分析语言。 总之，该研究表明，语音到文本模型嵌入为理解自然对话过程中语言处理的神经基础提供了一个连贯的框架，尽管大模型与人脑在底层神经回路架构上存在明显不同，但在处理自然语言时有着一些相似的计算原则。
10 个月前
根据《Nature》最新发表的研究，非营利研究机构METR发现了一项被称为“智能体摩尔定律”的规律，即AI智能体（Agent）在完成长期任务方面的能力每7个月翻一番。这一发现揭示了AI在任务完成时间跨度上的指数级增长趋势，并提出了“50%-任务完成时间跨度”这一新指标来衡量AI的能力变化。 核心发现 能力翻倍周期：自2019年以来，AI智能体完成任务的时间跨度每7个月翻一番。这意味着，如果2019年AI完成某项任务所需时间对应人类需要10分钟，那么7个月后，这一时间将缩短至20分钟。 加速趋势：2024年，AI能力的增长速度进一步加快，部分最新模型的能力每3个月翻一番。 未来预测：按照这一趋势，预计5年后（即2030年左右），AI将能够完成许多当前需要人类花费一个月时间才能完成的任务。 研究方法 METR团队通过以下步骤验证了这一规律： 任务设计：设计了170个多样化任务，涵盖软件工程、机器学习、网络安全等领域，并测量人类专家完成这些任务所需的时间，建立“人类基准线”。 指标引入：提出了“50%-任务完成时间跨度”指标，即AI在50%成功率下完成任务的时间长度。这一指标对数据分布的微小变化具有鲁棒性。 模型评估：评估了2019年至2025年间发布的13个前沿AI模型（如GPT系列、Sonnet 3.7等），通过逻辑回归分析计算每个模型的时间跨度。 验证与外部实验 为了验证结果的可靠性，研究团队进行了多项外部实验，包括： 回溯预测：使用2023-2025年数据验证趋势一致性。 任务混乱度分析：评估任务复杂性对AI性能的影响，发现AI在复杂任务上的提升速度与简单任务相似。 基准测试：在SWE-bench等数据集上验证了类似的指数增长趋势。 意义与影响 技术进步：这一发现标志着AI在执行长期任务能力上的显著进步，可能推动AI在软件开发、研究等领域的广泛应用。 劳动力市场影响：AI能力的快速提升可能对劳动力市场产生深远影响，未来或替代部分人类工作，尤其是重复性和耗时任务。 社会挑战：研究提醒社会各界需关注AI技术进步带来的就业和经济挑战，并提前制定应对策略。 未来展望 METR团队预测，按照当前趋势，AI可能在2028年11月达到一个月的任务时间跨度，保守估计则在2031年2月实现。尽管研究存在任务局限性和未来不确定性，但团队确信AI能力每年有1~4倍的增长趋势。 这项研究为AI技术的发展提供了新的量化标准，同时也引发了对AI未来应用和影响的深入思考。
10 个月前
阿里推出新夸克，集成AI对话、深度搜索、深度执行等功能，标志着其从搜索引擎向AI Agent的转型。 新夸克接入通义系列模型，用户规模超2亿，DAU达3430万，位居AI应用榜首。
10 个月前
2025 年 3 月 12 日消息，OpenAI 发布 Agent 工具包，推出一组新的 API 和工具以简化 Agent 应用程序开发，包括新的 Responses API、网络搜索、文件搜索、计算机使用工具和 Agents SDK 等，还计划在接下来的几周和几个月内发布其他工具和功能。
10 个月前
BERT（Bidirectional Encoder Representations from Transformers）是由Google于2018年发布的一种预训练语言模型，基于Transformer架构，用于自然语言处理（NLP）任务。它的双向（Bidirectional）上下文理解能力使其在文本理解、问答系统、文本分类等任务中表现卓越。 BERT的核心特点 1. 双向上下文理解 传统语言模型（如GPT）通常是单向的（从左到右或从右到左）。 BERT采用Masked Language Model（MLM，掩码语言模型），即在训练过程中随机遮挡部分词语，并让模型根据上下文预测这些被遮挡的词，从而实现双向理解。 2. 预训练+微调（Pre-training & Fine-tuning） 预训练（Pre-training）：在海量无标注文本数据（如维基百科、BooksCorpus）上进行训练，使BERT学会通用的语言知识。 微调（Fine-tuning）：针对具体任务（如情感分析、问答系统、命名实体识别）进行轻量级训练，只需少量数据，即可获得良好效果。 3. 基于Transformer架构 BERT使用多层Transformer编码器，通过自注意力（Self-Attention）机制高效建模文本中的远程依赖关系。 Transformer结构相比RNN和LSTM，更适合并行计算，处理长文本能力更强。 BERT的两大核心任务 Masked Language Model（MLM，掩码语言模型） 在训练时，随机遮挡输入文本中的15%单词，让模型根据上下文预测这些词。 这种方法使BERT学习到更深层次的语言表示能力。 Next Sentence Prediction（NSP，下一句预测） 让模型判断两个句子是否是相邻句： IsNext（相关）：句子A和B是原始文本中相连的句子。 NotNext（无关）：句子B是随机选择的，与A无关。 这一任务有助于提高BERT在问答、阅读理解等任务中的能力。 BERT的不同版本 BERT-Base：12层Transformer（L=12）、隐藏层768维（H=768）、12个自注意力头（A=12），总参数110M。 BERT-Large：24层Transformer（L=24）、隐藏层1024维（H=1024）、16个自注意力头（A=16），总参数340M。 DistilBERT：更小更快的BERT变体，参数量约为BERT的一半，但性能接近。 RoBERTa：改进版BERT，去除了NSP任务，并采用更大数据量进行训练，提高了性能。 BERT的应用 BERT可以应用于多种NLP任务，包括： 文本分类（如垃圾邮件检测、情感分析） 命名实体识别（NER）（如人名、地名、组织识别） 阅读理解（QA）（如SQuAD问答） 文本摘要 机器翻译 搜索引擎优化（SEO）（Google已将BERT用于搜索算法） BERT的影响 推动NLP进入预训练时代：BERT的成功引发了NLP领域的“预训练+微调”范式（如GPT、T5、XLNet等）。 提升搜索引擎性能：Google 在搜索引擎中使用BERT，提高查询理解能力。 加速AI技术发展：BERT的开源推动了自然语言处理技术在学术界和工业界的广泛应用。 总结 BERT是Transformer架构的双向预训练模型，通过MLM和NSP任务学习通用语言知识，在NLP领域取得巨大突破。它的成功奠定了现代大模型预训练+微调的范式，被广泛用于搜索、问答、文本分类等任务。
11 个月前
Replit Agent 是由 Replit 2024年9月推出的一款基于人工智能的编程工具，旨在通过自然语言提示帮助用户自动构建应用程序。它覆盖了从代码编写、开发环境配置到调试和部署的整个软件开发流程，极大地简化了开发过程，尤其适合从零开始构建 Web 应用程序原型。以下是关于 Replit Agent 的详细介绍： 1. 核心功能 Replit Agent 的主要功能包括： 自然语言生成代码：用户可以通过输入详细的自然语言提示（如“创建一个待办事项应用”），Replit Agent 会自动选择适当的编程语言、框架和技术栈，并生成代码原型。这一功能大大降低了编程门槛，即使是没有编程经验的用户也能快速上手。 开发环境配置：Replit Agent 能够自动设置开发环境，安装所需的依赖项，避免了繁琐的手动配置过程。 项目协作助手：在项目构建过程中，用户可以与 Replit Agent 互动，提供 API 密钥、反馈或方向指导，Agent 会根据这些信息调整和优化项目。 快速原型开发：Replit Agent 特别擅长从零到一构建 Web 应用程序原型，能够在几分钟内生成可交互的应用原型，例如创建一个类似 Wordle 的小游戏或一个优惠券生成器。 迭代与测试：用户可以对生成的开发计划进行修改、删除或重新生成，并实时跟踪开发进度，进行应用的测试和调试。 跨平台支持：除了 Web 端，Replit Agent 还支持通过 Replit 移动应用使用，方便用户随时随地进行开发。 部署支持：项目完成后，用户可以直接通过 Replit 的部署功能将应用程序上线，实现开发与部署的无缝对接。 2. 适用场景 Replit Agent 适用于多种开发场景： 快速原型制作：初创企业或个人开发者可以利用 Replit Agent 快速生成产品原型，验证创意可行性。 个性化应用开发：从简单的优惠券生成器到复杂的 3D 游戏，Replit Agent 都能在短时间内完成开发并部署上线。 教育领域：Replit Agent 为编程教育提供了直观的工具，学生可以通过自然语言输入快速看到代码生成效果，降低学习门槛。 自动化工作流：用户可以用 Replit Agent 替代昂贵的自动化工具（如 Zapier），构建自定义的工作流解决方案。 3. 技术特点 自然语言接口：Replit Agent 支持自然语言输入，用户无需掌握复杂的编程语法即可启动项目。 多语言支持：支持多种主流编程语言，如 JavaScript、Python、Node.js 等，能够满足不同类型的开发需求。 自动化程度高：从环境配置到代码生成再到部署，Replit Agent 能够自动化处理整个开发流程，显著提升开发效率。 沙盒环境：提供安全的代码评估环境，支持新功能的测试和验证。 4. 使用方式 Replit Agent 目前仅对 Replit Core 和 Teams 订阅用户开放早期访问。使用步骤如下： 登录 Replit 账号：确保已订阅 Replit Core 或 Teams 计划。 创建项目：在 Replit 主页或移动应用中输入自然语言提示，描述想要构建的应用。 生成原型：Replit Agent 会根据提示自动生成代码和开发计划。 迭代与测试：用户可以修改开发计划，跟踪进度，并进行测试。 部署应用：完成开发后，通过 Replit 的部署功能将应用上线。 5. 优势与不足 优势： 降低开发门槛：即使是初学者也能通过自然语言提示快速构建应用。 快速开发：从想法到部署只需几分钟，适合快速验证创意。 全流程自动化：覆盖从环境配置到部署的整个开发流程，节省时间和精力。 不足： 访问受限：目前仅对 Replit Core 和 Teams 用户开放，普通用户无法使用。 功能局限性：对于复杂项目或高度定制化的需求，Replit Agent 可能表现不足。
Minimax（海螺AI）已由大模型名Minimax替换原海螺AI。现海螺AI为Minimax视频生成产品名。
海螺AI