发布开源大模型：
5 月 4 日，面壁智能发布开源大模型 Eurux-8x22B，包括 Eurux-8x22B-NCA 与 Eurux-8x22B-KTO，主打推理能力。
20 天前
📢 OpenAI即将发布GPT-4.1，多模态能力再升级！ 据多家科技媒体报道，OpenAI计划于下周（2025年4月中旬）推出GPT-4.1，作为GPT-4o的升级版本，进一步强化多模态推理能力，并推出轻量级mini和nano版本。 🔍 关键升级点 更强的多模态处理 GPT-4.1将优化对文本、音频、图像的实时处理能力，提升跨模态交互的流畅度。 相比GPT-4o，新模型在复杂推理任务（如视频理解、语音合成等）上表现更优。 轻量化版本（mini & nano） GPT-4.1 mini 和 nano 将面向不同应用场景，降低计算资源需求，适合移动端或嵌入式设备。 配套新模型（o3 & o4 mini） OpenAI还将推出o3推理模型（满血版）和o4 mini，优化特定任务性能。 部分代码已在ChatGPT网页端被发现，表明发布临近。 ⏳ 发布时间与不确定性 原定下周发布，但OpenAI CEO Sam Altman 曾预警可能因算力限制调整计划。 同期，ChatGPT已升级长期记忆功能，可回顾用户历史对话，提供个性化服务（Plus/Pro用户已开放）。 🌍 行业影响 谷歌（Gemini AI）和微软（Copilot）近期也强化了AI记忆功能，竞争加剧。 GPT-4.1可能进一步巩固OpenAI在多模态AI领域的领先地位，推动商业应用（如智能客服、内容创作等）。 📌 总结：GPT-4.1的发布标志着OpenAI在多模态AI上的又一次突破，但具体性能提升和落地效果仍需观察。我们将持续关注官方更新！ （综合自腾讯新闻、The Verge、搜狐等）
2 个月前
BERT（Bidirectional Encoder Representations from Transformers）是由Google于2018年发布的一种预训练语言模型，基于Transformer架构，用于自然语言处理（NLP）任务。它的双向（Bidirectional）上下文理解能力使其在文本理解、问答系统、文本分类等任务中表现卓越。 BERT的核心特点 1. 双向上下文理解 传统语言模型（如GPT）通常是单向的（从左到右或从右到左）。 BERT采用Masked Language Model（MLM，掩码语言模型），即在训练过程中随机遮挡部分词语，并让模型根据上下文预测这些被遮挡的词，从而实现双向理解。 2. 预训练+微调（Pre-training & Fine-tuning） 预训练（Pre-training）：在海量无标注文本数据（如维基百科、BooksCorpus）上进行训练，使BERT学会通用的语言知识。 微调（Fine-tuning）：针对具体任务（如情感分析、问答系统、命名实体识别）进行轻量级训练，只需少量数据，即可获得良好效果。 3. 基于Transformer架构 BERT使用多层Transformer编码器，通过自注意力（Self-Attention）机制高效建模文本中的远程依赖关系。 Transformer结构相比RNN和LSTM，更适合并行计算，处理长文本能力更强。 BERT的两大核心任务 Masked Language Model（MLM，掩码语言模型） 在训练时，随机遮挡输入文本中的15%单词，让模型根据上下文预测这些词。 这种方法使BERT学习到更深层次的语言表示能力。 Next Sentence Prediction（NSP，下一句预测） 让模型判断两个句子是否是相邻句： IsNext（相关）：句子A和B是原始文本中相连的句子。 NotNext（无关）：句子B是随机选择的，与A无关。 这一任务有助于提高BERT在问答、阅读理解等任务中的能力。 BERT的不同版本 BERT-Base：12层Transformer（L=12）、隐藏层768维（H=768）、12个自注意力头（A=12），总参数110M。 BERT-Large：24层Transformer（L=24）、隐藏层1024维（H=1024）、16个自注意力头（A=16），总参数340M。 DistilBERT：更小更快的BERT变体，参数量约为BERT的一半，但性能接近。 RoBERTa：改进版BERT，去除了NSP任务，并采用更大数据量进行训练，提高了性能。 BERT的应用 BERT可以应用于多种NLP任务，包括： 文本分类（如垃圾邮件检测、情感分析） 命名实体识别（NER）（如人名、地名、组织识别） 阅读理解（QA）（如SQuAD问答） 文本摘要 机器翻译 搜索引擎优化（SEO）（Google已将BERT用于搜索算法） BERT的影响 推动NLP进入预训练时代：BERT的成功引发了NLP领域的“预训练+微调”范式（如GPT、T5、XLNet等）。 提升搜索引擎性能：Google 在搜索引擎中使用BERT，提高查询理解能力。 加速AI技术发展：BERT的开源推动了自然语言处理技术在学术界和工业界的广泛应用。 总结 BERT是Transformer架构的双向预训练模型，通过MLM和NSP任务学习通用语言知识，在NLP领域取得巨大突破。它的成功奠定了现代大模型预训练+微调的范式，被广泛用于搜索、问答、文本分类等任务。
2 个月前
如何整合大模型API并提供开发者服务 随着人工智能技术的快速发展，越来越多的开发者希望在自己的应用中集成AI能力，如自然语言处理、图像生成、语音识别等。如果你计划搭建一个AI平台，并向开发者（B2C）提供AI API服务，那么本文将详细介绍如何整合现有大模型的API，并成为官方分销商。 1. 选择合适的大模型API 当前市场上已有多个强大的AI大模型提供API服务，以下是几家主流供应商： OpenAI（ChatGPT/GPT-4）：适用于通用对话、文本生成、代码补全等。 Anthropic（Claude）：擅长安全对话和长文本理解。 Google Gemini（原Bard）：适合多模态（文本、图像）AI应用。 Mistral AI：提供高效、开源的AI模型，适合灵活集成。 Hugging Face：开放API，可用于多种NLP任务。 Stable Diffusion/DALL·E：用于图像生成。 Whisper API：优秀的语音识别能力。 选择API时，需要考虑成本、调用限制、商业许可、模型能力等因素。 2. 如何获得大模型API的分销权限？ 如果你希望不仅是API的用户，还能将API分发给开发者，需要与AI公司建立更深层次的合作关系。不同公司有不同的合作方式： OpenAI（ChatGPT/GPT-4） 标准API使用：直接在OpenAI官网注册并获取API Key。 企业级API访问：通过 OpenAI Enterprise 申请更高额度的API。 成为OpenAI API Reseller（API分销商）：需要直接联系OpenAI商务团队（sales@openai.com）并提供业务计划，通常要求较大的流量或消费额度。 Anthropic（Claude） 访问 Anthropic API 并申请企业合作。 需要提供详细的业务应用场景，并确保数据安全合规。 直接联系 sales@anthropic.com 申请API分销权限。 Google Gemini（原Bard） 使用 Google AI Studio 获取API。 申请Google Cloud AI企业级API，并与Google商务团队合作。 通过 Google Cloud AI Solutions 申请大规模API使用权限。 Mistral AI 访问 Mistral API 并申请企业级合作。 直接联系 Mistral 商务团队申请API分销许可。 Hugging Face 访问 Hugging Face Inference API。 联系 Hugging Face 申请企业API许可，并可能合作进行API优化。 3. 技术架构：如何整合多个API？ 如果你希望提供一个集成多个AI API的服务平台，你需要构建一个API管理系统，包括： （1）API网关与管理 API网关（API Gateway）：使用 Kong、AWS API Gateway、Apigee 统一管理所有API。 身份认证（Authentication）：使用 JWT Token 或 OAuth2 进行用户管理。 负载均衡与缓存：结合 Redis 或 Cloudflare 优化API请求速度。 （2）用户管理与计费系统 API密钥管理：允许用户注册并申请API Key。 调用监控与限流：防止滥用，确保稳定性。 计费系统：使用 Stripe、PayPal 提供按量计费或订阅计划。 （3）前端支持与开发者体验 API文档：使用 Swagger UI 或 Redoc 提供清晰的API说明。 SDK支持：开发 Python/Node.js SDK 方便开发者集成。 在线测试环境：允许开发者在Web端试用API调用。 4. 商业模式：如何盈利？ 如果你计划向开发者提供API服务，可以采用以下盈利模式： （1）免费+付费模式 提供 免费调用额度（如每月100次），超出后按量付费。 按不同模型提供不同的价格（GPT-4 高级版 vs GPT-3.5 免费版）。 （2）订阅模式 个人套餐：低价格，适合独立开发者。 企业套餐：支持高并发调用，并提供专属API密钥。 定制服务：为大型企业或团队提供专属AI API。 （3）增值服务 提供高优先级的API访问，减少延迟。 允许用户定制API模型参数，提高个性化。 结合其他工具，如AI自动化工作流、数据分析等。 5. 未来展望 随着AI技术的普及，越来越多的开发者希望将大模型能力集成到他们的产品中。如果你能整合多个AI API，并提供易用的开发者服务，将能在这一市场获得先机。通过与OpenAI、Anthropic、Google等公司建立合作，并搭建高效的API管理系统，你可以打造一个强大的AI API分发平台，为全球开发者提供优质的AI服务。 如果你有意向进入这一领域，不妨立即申请各大AI公司的企业级API，并开始搭建你的API分发平台！
2 个月前
Scaling Law 在人工智能领域的解释 Scaling Law（缩放定律）是人工智能（AI）领域中的一个核心概念，用于描述模型性能如何随着模型规模（如参数数量）、数据集大小和计算资源的增加而变化。这一规律通常遵循幂律关系，即模型性能随规模的增长呈指数或幂次提升，但提升速度会逐渐放缓并趋于上限。 核心概念 模型规模：包括模型的参数数量、层数等。例如，GPT系列模型通过不断增加参数数量实现了性能的显著提升。 数据集大小：训练数据的规模对模型性能有直接影响。更大的数据集通常能带来更好的泛化能力。 计算资源：包括训练所需的计算量（如GPU/TPU资源）和时间。计算资源的增加可以加速训练过程并提升模型性能。 幂律关系 Scaling Law 的核心是幂律关系，即模型性能 ( Y ) 与模型规模 ( X ) 的关系可以表示为 ( Y = kX^n )，其中 ( k ) 为常数，( n ) 为幂指数。例如，腾讯的 Hunyuan-Large 模型的 Scaling Law 公式为 ( C \approx 9.59ND + 2.3 \times 10^8D )，揭示了模型性能与参数数量和数据量的关系。 实践意义 资源优化：通过 Scaling Law，研究人员可以预测增加模型规模或计算资源是否能够带来显著的性能提升，从而优化资源配置。 模型设计：Scaling Law 为大规模模型的设计提供了理论支持，例如 OpenAI 的 GPT 系列和百度的 MoE 模型。 性能预测：帮助研究人员在资源有限的情况下，平衡模型规模、数据量和计算资源，以达到最佳性能。 应用实例 GPT 系列：OpenAI 通过系统性地增加模型规模，展示了 Scaling Law 在实践中的有效性。 Hunyuan-Large：腾讯的开源 MoE 模型，其 Scaling Law 公式为模型开发提供了重要指导。 迁移学习：斯坦福大学和谷歌的研究表明，预训练数据集大小与下游任务性能之间的关系也遵循 Scaling Law。 挑战与未来方向 数据资源枯竭：随着互联网数据的接近枯竭，Scaling Law 面临数据不足的挑战。 算法创新：当前 Transformer 架构的局限性促使研究人员探索更高效的算法，如 DeepSeek-R1-Zero 通过强化学习实现了突破。 新范式探索：Scaling Law 正在向后训练和推理阶段转移，研究重点从单纯追求规模转向优化数据质量和挖掘模型潜力。 结论 Scaling Law 是 AI 领域的重要理论工具，为大规模模型的设计和优化提供了科学依据。尽管面临数据资源和算法创新的挑战，但其在推动 AI 技术进步中的作用不可替代。未来，随着研究的深入，Scaling Law 的应用将更加精细化和多样化。
2 个月前
2月18日，阶跃星辰联合吉利汽车集团开源了两款阶跃Step系列多模态大模型——Step - Video - T2V视频生成模型和Step - Audio语音模型，采用MIT协议，支持免费商用、任意修改和衍生开发。 两款模型的具体信息如下： Step - Video - T2V 参数与生成能力：参数量达到300亿，可以直接生成204帧、540P分辨率的高质量视频，能确保生成的视频内容具有极高的信息密度和强大的一致性。 生成效果优势：在复杂运动、美感人物、视觉想象力、基础文字生成、原生中英双语输入和镜头语言等方面具备强大的生成能力，且语义理解和指令遵循能力突出。对复杂运动场景把控能力强，能展现各种高难度运动画面；是运镜大师，支持多种镜头运动方式和景别切换；像“十级画师”，生成的人物形象逼真、生动，细节丰富，表情自然。 评测情况：阶跃星辰发布并开源了针对文生视频质量评测的新基准数据集Step - Video - T2V - Eval。评测结果显示，Step - Video - T2V的模型性能在指令遵循、运动平滑性、物理合理性、美感度等方面的表现，均显著超过市面上既有的效果最佳的开源视频模型。 Step - Audio 功能特性：是行业内首个产品级的开源语音交互模型，能够根据不同的场景需求生成情绪、方言、语种、歌声和个性化风格的表达，能和用户自然地进行高质量对话。可支持不同角色的音色克隆，满足影视娱乐、社交、游戏等行业场景下应用需求。 模型性能：在LlaMA Question、Web Questions等5大主流公开测试集中，模型性能均超过了行业内同类型开源模型，位列第一。在HSK - 6（汉语水平考试六级）评测中的表现尤为突出，被称为最懂中国话的开源语音交互大模型。阶跃星辰自建并开源了多维度评估体系StepEval - Audio - 360基准测试，经人工横评后，Step - Audio的模型能力均衡，在各个维度上均超过了此前市面上效果最佳的开源语音模型。
2 个月前
随着DeepSeek-R1的出现，相较于以往的大模型，带来了更先进的语义理解和数据处理能力，AI技术迎来了新的里程碑。喆塔科技作为国产领先的数智化平台领跑者，其“喆学大模型”通过融合行业Know-How与AI、大数据和云计算技术，在良率提升、效率优化及成本控制方面已取得显著成效。 Zeta科技宣布喆学模型接入R1模型 DeepSeek-R1的接入，“喆学大模型”能够更精准地分析复杂工业数据，提前预测设备故障，并提供科学决策建议，优化资源利用。这一结合为半导体、光电显示、新能源等高端制造行业注入了新的变革力量，帮助企业在这个竞争激烈的时代中保持领先。 接入DeepSeek-R1以后，喆学大模型显著增强了其在智能问答、决策支持、自我进化、易用性和垂直应用开发等方面的能力。这一创新不仅大幅降低了企业的学习门槛和技术障碍，还显著提升了工作效率和准确性，为企业实现更高效的生产和管理提供了强有力的支持。通过将复杂的数据转化为可操作的见解，并为决策提供科学依据，喆学大模型帮助企业应对工业AI时代的挑战，推动其实现数字化、智能化转型的新飞跃。 这些应用场景大模型智能问答超便捷： 工程师在工作中遇到困难，只要输入问题，就能马上得到详细的答案，它能为你画图表、做分析、写报告就像身边随时有个百事通，工作效率想不高都难。 良率分析小助手：紧盯分析数据，多轮智能问答，智能问答出图，快速给出建议，节省繁琐、重复操作步骤，提升分析效率。 Text2SQL真方便：业务人员不用再费劲去学复杂的 SQL 语言了，轻松就能查询数据，工作变得更轻松。 智能 BI 很直观：它能把业务数据深度分析，还能以可视化的形式呈现出来，市场预测和策略建议都能精准给出，企业发展更有方向。 例如： 在半导体行业，面对复杂良率分析和新员工上手难的问题，喆塔科技提供了融合喆学大模型与自动良率分析的解决方案。通过智能问答模块，新手能快速掌握分析流程和数据获取；指令生成功能依据用户偏好一键创建图表，简化操作；智能根因分析则迅速定位良率问题并提供决策支持。 （信息来源：芯湃资本）
2 个月前
2月10日，清华大学KVCache.AI团队联合趋境科技发布的KTransformers开源项目公布更新：一块24G显存的4090D，就可以在本地运行DeepSeek-R1、V3的671B“满血版”。 预处理速度最高达到286 tokens/s，推理生成速度最高能达到14 tokens/s。 KTransformers通过优化本地机器上的LLM部署，帮助解决资源限制问题。该框架采用了异构计算、先进量化技术、稀疏注意力机制等多种创新手段，提升了模型的计算效率，并具备处理长上下文序列的能力。
3 个月前
腾讯混元大模型的数学原理主要基于深度学习和自然语言处理领域的相关技术，以下是其核心要点： 神经网络与Transformer架构 多层神经网络：混元大模型采用多层神经网络结构，通过模拟人脑神经元之间的连接来处理和学习数据。每个神经元接收来自上一层神经元的输入，并通过激活函数进行处理后输出到下一层神经元，从而实现对数据的特征提取和模型的训练。 Transformer核心机制：混元大模型基于Transformer架构，其核心是自注意力机制。自注意力机制能够计算文本中每个位置与其他位置之间的关联程度，从而捕捉长距离依赖关系，更好地理解句子中的上下文信息。在计算自注意力时，对于输入序列中的每个位置，会计算其与其他位置的注意力得分，然后根据这些得分对相应位置的特征进行加权求和，得到该位置的新特征表示。除了自注意力机制外，Transformer还包括前馈神经网络，用于对经过自注意力机制处理后的特征进行进一步的非线性变换。 预训练与微调 预训练：在大规模语料库上预先训练模型，使其学习语言的一般规律和知识，如语法、语义、常见的语言模式等。预训练过程通常采用无监督学习的方式，例如使用大量的文本数据进行自监督学习，让模型自动预测文本中的下一个单词或句子中的空缺部分等。通过预训练，模型能够获得丰富的语言知识和语义理解能力，为后续的微调任务奠定基础。 微调：在预训练完成后，根据具体的任务需求，对模型进行微调。微调是在特定的有标注数据集上进行的有监督学习过程，通过调整模型的参数，使其在特定任务上达到更好的性能。例如，在文本分类任务中，使用标注好的文本分类数据集对预训练模型进行微调，让模型学习到如何根据输入文本的特征进行分类。 优化算法与正则化技术 优化算法：在训练过程中，使用优化算法来调整模型的参数，以最小化预测误差。常见的优化算法如随机梯度下降（SGD）及其变种Adagrad、Adadelta、RMSProp、Adam等。这些算法通过计算损失函数对模型参数的梯度，并根据梯度的方向和大小来更新参数，使得模型在训练过程中逐渐收敛到最优解。 正则化技术：为了减少过拟合，提高模型的泛化能力，混元大模型采用了正则化技术，如Dropout和Batch Normalization。Dropout在训练过程中随机丢弃一部分神经元，使得模型在每次训练时都使用不同的子网络结构，从而增加模型的鲁棒性和泛化能力。Batch Normalization则是对每个批次的输入数据进行归一化处理，使得模型在训练过程中输入数据的分布更加稳定，加快训练速度并提高模型的性能。 混合专家模型结构 混元大模型采用混合专家模型结构，每一层包含多个并行的同构专家，一次token的前向计算只会激活部分专家，推理成本远低于同等参数的稠密模型。同时，在路由策略上进行创新，在传统Top-K路由的基础上进一步提出了随机补偿的路由方式，将因为专家满负载原本会扔掉的token，随机路由到其他仍有负载冗余的专家，保障训练稳定性。还设置一个共享专家来捕获所有token所需的共同知识，并通过多个需要路由的专家动态学习特定领域的知识。 处理长文与提升推理效率 长文处理：对于长文领域，通过引入多阶段预训练和退火机制，使得模型仅使用少量长文合成语料，即可获得较好的长文效果，显著提升模型长文外推能力。 推理效率提升：使用Grouped-Query Attention和Cross-Layer Attention两种KV Cache压缩策略，从head/layer两个维度联合压缩KV cache，并引入量化技术，进一步提升压缩比，最终将模型的KV Cache压缩为MHA的5%，大幅提升推理性能。
3 个月前
杭州在AI领域崛起有城市“基因密码”，使得杭州在人工智能技术，特别是语言大模型领域引领全球。
4 个月前
以下是基于API调用费用的10大语言大模型价格比较表格，整理自最新公开信息： 模型名称 提供商 输入价格（$/1M tokens） 输出价格（$/1M tokens） 上下文长度 备注 GPT-4 OpenAI 30.00 60.00 8K 高性能模型，适合复杂任务。 GPT-4 Turbo OpenAI 10.00 30.00 128K 性价比更高，支持更长上下文。 GPT-4o OpenAI 5.00 15.00 128K 多模态模型，价格较低。 GPT-3.5 Turbo OpenAI 0.50 1.50 16K 经济实惠，适合轻量任务。 Claude 3 Opus Anthropic 15.00 75.00 200K 高性能，适合复杂任务。 Claude 3 Sonnet Anthropic 3.00 15.00 200K 性价比高，适合中等复杂度任务。 Claude 3 Haiku Anthropic 0.25 1.25 200K 轻量级，适合简单任务。 Gemini 1.5 Pro Google 3.50 10.05 1M 支持超长上下文，适合复杂任务。 Gemini 1.5 Flash Google 0.13 0.38 1M 轻量级，适合快速响应任务。 通义千问 Qwen-Max 阿里云 40.00 120.00 8K 高性能，适合复杂任务。 文心一言 ERNIE-4.0 百度 30.00 90.00 8K 高性能，适合中文任务。 讯飞星火 Spark Max 科大讯飞 0.21~0.30 0.63~0.90 32K 轻量级，适合中文任务。 Kimi Moonshot-v1 月之暗面 12.00 24.00 8K 超长上下文支持，适合复杂任务。 DeepSeek Chat DeepSeek 0.14 0.28 128K 轻量级，适合快速响应任务。 Llama 3 70B Meta 0.67 2.75 8K 开源模型，性价比高。 说明： 价格单位：所有价格以美元计，单位为每百万tokens（1M tokens）。 上下文长度：表示模型支持的上下文长度，单位为tokens。 免费额度：部分厂商提供免费额度，适合测试或轻量使用。 价格变动：API调用费用可能随厂商政策调整，建议关注官方最新公告。 如需更详细的价格信息或免费额度详情，可参考相关来源。
