谷歌在其搜索引擎中添加的“AI 概览”功能上线后，出现了一些奇怪、不准确或无益的搜索结果，引发了网友吐槽。例如，该功能曾建议人们在披萨上涂胶水、每天吃一块小石头等，还出现了一些危险或有害的错误信息，如关于健康类的错误建议等。
谷歌对此进行了回应和解释，表示虽然该功能在推出前经过了测试，但当数百万用户进行各种新奇搜索时，还是出现了一些问题。AI 概览的工作方式与聊天机器人和其他大语言模型产品不同，它不是简单地基于训练数据生成输出，而是执行传统的“搜索”任务，并提供来自“顶级网页结果”的信息。
然而，它会受到一些因素的影响而产生错误，比如会呈现讨论论坛中讽刺或恶搞的内容，在某些主题的数据空缺时，也可能会意外地从讽刺来源而非合法来源获取信息。
为了解决这些问题，谷歌称已经对 AI 概览做出了多项技术改进和更新，包括建立更好的机制来检测无意义的查询、限制讽刺和幽默内容的呈现、更新系统以减少可能提供误导性建议的用户生成内容的使用，以及对不太有帮助的查询增加触发限制等。特别是对于新闻和健康等话题，谷歌已经设置了强有力的保障措施，旨在不显示 AI 概览的硬新闻主题，以确保信息的新鲜度和准确性。
尽管谷歌采取了改进措施，但要重新获得用户的认可还需要时间，而且竞争对手可能会从中吸取教训以提升自身竞争力。谷歌需要持续改进并推出独特功能，才有可能在 AI 搜索领域占据优势地位。
来源：豆包AI生成
1 个月前
谷歌大模型与人脑语言处理机制研究由谷歌研究院与普林斯顿大学、纽约大学等合作开展。3 月上旬，谷歌的研究成果表明大模型竟意外对应人脑语言处理机制。他们将真实对话中的人脑活动与语音到文本 LLM 的内部嵌入进行比较，发现两者在线性相关关系上表现显著，如语言理解顺序（语音到词义）、生成顺序（计划、发音、听到自己声音）以及上下文预测单词等方面都有惊人的一致性 研究方法：将真实对话中的人脑活动与语音到文本LLM的内部嵌入进行比较。使用皮层电图记录参与者在开放式真实对话时语音生成和理解过程中的神经信号，同时从Whisper中提取低级声学、中级语音和上下文单词嵌入，开发编码模型将这些嵌入词线性映射到大脑活动上。 具体发现 语言理解与生成顺序：在语言理解过程中，首先是语音嵌入预测沿颞上回（STG）的语音区域的皮层活动，几百毫秒后，语言嵌入预测布罗卡区（位于额下回；IFG）的皮层活动。在语言生成过程中，顺序则相反，先由语言嵌入预测布罗卡区的皮层活动，几百毫秒后，语音嵌入预测运动皮层（MC）的神经活动，最后，在说话者发音后，语音嵌入预测STG听觉区域的神经活动。这反映了神经处理的顺序，即先在语言区计划说什么，然后在运动区决定如何发音，最后在感知语音区监测说了什么。 神经活动与嵌入的关系：对于听到或说出的每个单词，从语音到文本模型中提取语音嵌入和基于单词的语言嵌入，通过估计线性变换，可以根据这些嵌入预测每次对话中每个单词的大脑神经信号。全脑分析的定量结果显示，在语音生成和语音理解过程中，不同脑区的神经活动与语音嵌入和语言嵌入的峰值存在特定的先后顺序和对应关系。 “软层次”概念：尽管大模型在并行层中处理单词，人类大脑以串行方式处理它们，但反映了类似的统计规律。大脑中较低级别的声学处理和较高级别的语义处理部分重叠，即存在“软层次”概念。例如，像IFG这样的语言区域不仅处理单词级别的语义和句法信息，也捕捉较低级别的听觉特征；而像STG这样的低阶语音区域在优先处理声学和音素的同时，也能捕捉单词级别的信息。 以往相关研究成果 2022年发表在《自然神经科学》上的论文显示，听者大脑的语言区域会尝试在下一个单词说出之前对其进行预测，且在单词发音前对预测的信心会改变在单词发音后的惊讶程度（预测误差），证明了自回归语言模型与人脑共有的起始前预测、起始后惊讶和基于嵌入的上下文表征等基本计算原理。 发表在《自然通讯》的论文发现，大模型的嵌入空间几何图形所捕捉到的自然语言中单词之间的关系，与大脑在语言区诱导的表征（即大脑嵌入）的几何图形一致。 后续研究还发现，虽然跨层非线性变换在LLMs和人脑语言区中相似，但实现方式不同。Transformer架构可同时处理成百上千个单词，而人脑语言区似乎是按顺序、逐字、循环和时间来分析语言。 总之，该研究表明，语音到文本模型嵌入为理解自然对话过程中语言处理的神经基础提供了一个连贯的框架，尽管大模型与人脑在底层神经回路架构上存在明显不同，但在处理自然语言时有着一些相似的计算原则。
2 个月前
BERT（Bidirectional Encoder Representations from Transformers）是由Google于2018年发布的一种预训练语言模型，基于Transformer架构，用于自然语言处理（NLP）任务。它的双向（Bidirectional）上下文理解能力使其在文本理解、问答系统、文本分类等任务中表现卓越。 BERT的核心特点 1. 双向上下文理解 传统语言模型（如GPT）通常是单向的（从左到右或从右到左）。 BERT采用Masked Language Model（MLM，掩码语言模型），即在训练过程中随机遮挡部分词语，并让模型根据上下文预测这些被遮挡的词，从而实现双向理解。 2. 预训练+微调（Pre-training & Fine-tuning） 预训练（Pre-training）：在海量无标注文本数据（如维基百科、BooksCorpus）上进行训练，使BERT学会通用的语言知识。 微调（Fine-tuning）：针对具体任务（如情感分析、问答系统、命名实体识别）进行轻量级训练，只需少量数据，即可获得良好效果。 3. 基于Transformer架构 BERT使用多层Transformer编码器，通过自注意力（Self-Attention）机制高效建模文本中的远程依赖关系。 Transformer结构相比RNN和LSTM，更适合并行计算，处理长文本能力更强。 BERT的两大核心任务 Masked Language Model（MLM，掩码语言模型） 在训练时，随机遮挡输入文本中的15%单词，让模型根据上下文预测这些词。 这种方法使BERT学习到更深层次的语言表示能力。 Next Sentence Prediction（NSP，下一句预测） 让模型判断两个句子是否是相邻句： IsNext（相关）：句子A和B是原始文本中相连的句子。 NotNext（无关）：句子B是随机选择的，与A无关。 这一任务有助于提高BERT在问答、阅读理解等任务中的能力。 BERT的不同版本 BERT-Base：12层Transformer（L=12）、隐藏层768维（H=768）、12个自注意力头（A=12），总参数110M。 BERT-Large：24层Transformer（L=24）、隐藏层1024维（H=1024）、16个自注意力头（A=16），总参数340M。 DistilBERT：更小更快的BERT变体，参数量约为BERT的一半，但性能接近。 RoBERTa：改进版BERT，去除了NSP任务，并采用更大数据量进行训练，提高了性能。 BERT的应用 BERT可以应用于多种NLP任务，包括： 文本分类（如垃圾邮件检测、情感分析） 命名实体识别（NER）（如人名、地名、组织识别） 阅读理解（QA）（如SQuAD问答） 文本摘要 机器翻译 搜索引擎优化（SEO）（Google已将BERT用于搜索算法） BERT的影响 推动NLP进入预训练时代：BERT的成功引发了NLP领域的“预训练+微调”范式（如GPT、T5、XLNet等）。 提升搜索引擎性能：Google 在搜索引擎中使用BERT，提高查询理解能力。 加速AI技术发展：BERT的开源推动了自然语言处理技术在学术界和工业界的广泛应用。 总结 BERT是Transformer架构的双向预训练模型，通过MLM和NSP任务学习通用语言知识，在NLP领域取得巨大突破。它的成功奠定了现代大模型预训练+微调的范式，被广泛用于搜索、问答、文本分类等任务。
4 个月前
Gemini 1.0是为了组织和理解信息，Gemini 2.0则是为了让信息变得更有用。
4 个月前
Google宣布了其新型量子计算芯片Willow，这是在量子计算领域长达十年的征程中迈出的重要一步！
8 个月前
谷歌举办了 made by google 2024 大会，pixel 9 手机采用了 g4 ai 芯片和支持 12/16g 的内存，可更顺滑地运行 gemini/gemma 语言模型，从而更好地支持 AI 使用场景，这是谷歌的第一款语言模型原生手机。 同时，谷歌推出了类似数月前 OpenAI 演示过的 AI 语音助手 gemini live，其可以直接用语音和用户流畅交流，但在一些功能上不如 OpenAI 被演示过的产品。 美国当地时间8月13日，谷歌正式拉开2024年度“Made by Google”大会序幕，旨在全面展示谷歌在硬件与软件领域的最新成果与创新。
9 个月前
Perplexity.AI 是一家位于美国硅谷的初创公司，专注于开发基于生成式人工智能的搜索引擎。
9 个月前
AI搜索明星初创公司Perplexity为应对版权侵权指控，发布与网络出版商收入分成计划，首批加入的出版商包括《时代》《明镜周刊》等。
9 个月前
从谷歌 Gemma 2 2B 的强大性能也可以看到一种趋势，即「小」模型逐渐拥有了与更大尺寸模型匹敌的底气和效能优势。
9 个月前
秘塔AI搜索的核心优势在于其无广告的搜索环境。
9 个月前
AI 概览的工作方式与聊天机器人和其他大语言模型产品不同，它不是简单地基于训练数据生成输出，而是执行传统的“搜索”任务，并提供来自“顶级网页结果”的信息。
