阿西洛马人工智能原则（Asilomar AI Principles）是一套旨在确保人工智能（AI）技术安全、伦理和有益发展的指导原则。该原则于2017年1月在美国加利福尼亚州阿西洛马举行的“Beneficial AI”会议上提出，由“生命未来研究所”（Future of Life Institute）牵头制定，得到了包括斯蒂芬·霍金、埃隆·马斯克等在内的众多AI领域专家和学者的支持。
阿西洛马人工智能原则共包含23条，分为三大类：科研问题、伦理和价值、更长期的问题。以下是各类别的核心内容：
研究目标：AI研究应致力于创造有益于人类的智能，而非不受控制的智能。
研究经费：AI投资应部分用于研究如何确保其有益使用，包括计算机科学、经济学、法律、伦理等领域的问题。
科学与政策的联系：AI研究者与政策制定者之间应保持建设性交流。
科研文化：应培养合作、信任与透明的科研文化，避免因竞争而降低安全标准。
安全性：AI系统应在整个生命周期内保持安全可靠，并在可行的情况下接受验证。
故障透明性：若AI系统造成损害，应能确定其原因。
责任：AI设计者和建造者应对其使用、误用及行为产生的道德影响负责。
价值归属：高度自主的AI系统应确保其目标与人类价值观一致。
个人隐私：人们应有权访问、管理和控制其生成的数据。
共同繁荣：AI创造的经济繁荣应惠及全人类。
能力警惕：应避免对未来AI能力上限的过高假设。
风险：AI系统可能带来的灾难性或存亡风险，需有针对性地减轻。
递归的自我提升：能够自我升级或复制的AI系统需受严格的安全控制。
公共利益：超级智能的开发应服务于广泛认可的伦理观念，而非单一国家或组织的利益。
阿西洛马人工智能原则旨在为AI技术的发展提供伦理框架，确保其符合人类利益并避免潜在风险。这些原则不仅得到了学术界的广泛支持，也在政策制定和行业实践中产生了深远影响。
尽管原则提出了明确的指导方向，但在实际应用中仍面临诸多挑战。例如，如何确保AI系统的价值归属与人类价值观一致，以及如何在全球范围内协调AI技术的监管等问题。
阿西洛马人工智能原则为AI技术的发展提供了重要的伦理和安全指导，但其成功实施仍需全球范围内的合作与努力。如需了解更多细节，可参考相关文献或访问生命未来研究所的官方网站。
1 年前
2025年4月10日，斯坦福大学人工智能研究所发布的《2025年人工智能指数报告》显示，中美顶级AI大模型性能差距出现显著变化。具体情况如下： 中美顶级AI大模型性能差距变化 美国在生产顶级人工智能模型方面仍然领先，但中国正在缩小性能差距。2024年，美国的机构产生了40个值得注意的人工智能模型，而中国只有15个，欧洲只有3个。虽然美国在数量上保持领先地位，但中国车型已经迅速缩小了质量差距。中美顶级AI大模型性能差距从2023年的17.5%急剧缩小至0.3%，几乎实现了性能上的“零差距”。这意味着中国在AI大模型领域的发展迅速，与美国的差距正在快速拉近。 重要大模型入选情况 在2024年重要大模型评估中，美国有40个模型入选，中国有15个。其中，谷歌与OpenAI均以7个模型入选并列榜首，阿里巴巴凭借6个入选模型，在模型贡献度上位列全球第三，是唯一杀入前三的中国企业。 中国模型的突出表现 在由业内顶级专家评选出的“2024年AI领域重要发布”榜单中，阿里巴巴的Qwen2、Qwen2.5以及DeepSeek - V3三款产品位列其中。此外，通义千问在全世界的衍生模型数突破10万，超越美国的Llama模型，成为全球范围内最受欢迎的开源大模型之一。自2023年以来，阿里巴巴通义实验室已累计开源超过200款AI模型，展现出强大的开源生态建设能力。 该报告由李飞飞等著名AI科学家组成的专家组进行调查研究，对人工智能技术进步、经济影响和社会影响提供了严谨客观的分析，是业界公认的AI领域最客观的权威报告之一。报告中对中美顶级AI大模型性能差距的分析以及对中国模型的认可，充分体现了中国在AI领域，尤其是大模型方面的卓越进步和强大实力。
1 年前
7月17日“牛津数学公开讲座”系列研讨会邀请陶哲轩演讲主题关于AI在科学和数学领域的潜力。 陶哲轩认为AI是“猜测机器”，本质是在解巨大方程组；AI虽不是魔法但类似飞机发明，从初始发展到真正发挥作用需要很多工作；科学领域可以利用AI这个“大消防水管”（强大输出能力）结合验证过滤掉杂质，如药物设计领域可减少试验候选对象，材料科学领域或可跳过昂贵合成过程缩小候选范围；气候模拟领域也能利用AI大大缩短模拟时间。 陶哲轩将 AI 描述为“猜测机器”，这一观点颇具启发性。 他的这一表述可能意味着，AI 基于大量的数据和算法进行运算和预测，从而给出各种可能的结果和解决方案，就如同在进行各种猜测。但这种“猜测”并非是毫无根据的盲目行为，而是建立在对海量数据的学习和分析基础之上。 例如，在图像识别中，AI 会根据已有的图像特征和模式，猜测输入的新图像属于何种类别；在自然语言处理中，AI 会根据语言的语法、语义和上下文，猜测下一个可能出现的单词或句子。 这一观点也提醒我们，虽然 AI 能够提供有价值的推测和建议，但这些结果并非绝对准确和可靠，仍需要人类的进一步验证和判断。您是对陶哲轩的这一观点感兴趣，还是希望了解更多关于他在 AI 领域的其他见解呢？
1 年前
粤港澳大湾区数字经济研究院
1 年前
粤港澳大湾区数字经济研究院（idea ）在人工智能和数字经济领域有多项前沿研究成果。
1 年前
北京智源人工智能研究院(BAAI)是在科技部和北京市委市政府的指导和支持下，由北京市科委和海淀区政府推动成立，依托北京大学、清华大学、中国科学院、百度、小米、字节跳动、美团点评、旷视科技等北京人工智能领域优势单位共建的新型研究机构。于 2018 年 11 月 14 日揭牌成立。 智源创新中心 智源研究院加快 AI 前沿技术落地，围绕类脑脉冲芯片、认知知识图谱...
1 年前
绿色AI指的是在不增加，甚至降低计算成本的前提下，研发性能更为强大的AI模型的技术手段。
21 天前
AiPPT: 一句话、一分钟、一键搞定
29 天前
Ralph 就是一个让 AI "自己干活直到做完"的循环机制，特别适合复杂的编程任务，解放人力。这里介绍具体怎么搭建和使用 Ralph 循环。 📋 前置准备 你需要准备以下内容： 工具 用途 Claude Code Anthropic 的 AI 编程助手 CLI Docker Desktop 提供隔离的沙盒环境 Anthropic API Key 调用 Claude API 🛠️ 搭建步骤 方法一：使用 Claude Code 插件（推荐） Step 1: 安装 Claude Code # 安装 Claude Code CLI npm install -g @anthropic-ai/claude-code Step 2: 初始化项目 mkdir my-ralph-project cd my-ralph-project claude init Step 3: 添加插件市场 claude plugins add-marketplace Step 4: 安装 Ralph Wiggum 插件 claude plugins install ralph-wiggum Step 5: 配置 Stop Hook 在 .claude/hooks/ 目录下创建 stop-hook.json： { "hook_type": "stop", "decision": "block", "conditions": { "check_tests": true, "check_type_errors": true, "check_git_changes": true }, "max_iterations": 20, "prompt": "任务未完成，请继续迭代修复问题" } 方法二：手动搭建（完全控制） Step 1: 创建项目结构 my-ralph-project/ ├── .claude/ │ ├── hooks/ │ │ └── stop-hook.sh │ ├── skills/ │ │ └── ralph-loop.json │ └── config.json ├── prd/ │ └── requirements.json └── workspace/ Step 2: 配置核心文件 config.json - 核心配置 { "max_iterations": 15, "auto_commit": true, "run_tests_after_each_iteration": true, "stop_conditions": { "all_tests_pass": true, "no_type_errors": true, "prd_completed": true } } skills/ralph-loop.json - 技能定义 { "name": "ralph-loop", "description": "自主迭代循环实现 PRD 任务", "trigger": "when_task_incomplete", "actions": [ "analyze_current_state", "identify_blockers", "fix_issues", "run_tests", "commit_if_passing" ] } hooks/stop-hook.sh - Stop Hook 脚本 #!/bin/bash # 检查测试是否通过 TESTS_PASS=$(npm test 2>&1 | grep -c "passed") # 检查是否有类型错误 TYPE_ERRORS=$(npx tsc --noEmit 2>&1 | grep -c "error") # 检查 PRD 是否完成 PRD_COMPLETE=$(node check-prd.js) if [ "$TESTS_PASS" -eq 0 ] || [ "$TYPE_ERRORS" -gt 0 ] || [ "$PRD_COMPLETE" = "false" ]; then echo "BLOCK: 任务未完成，继续迭代" exit 1 else echo "ALLOW: 任务已完成" exit 0 fi Step 3: 准备 PRD 文件 prd/requirements.json { "project_name": "My Feature", "tasks": [ { "id": 1, "description": "创建用户登录页面", "criteria": ["表单验证正常", "API 调用成功", "错误处理完善"], "status": "pending" }, { "id": 2, "description": "实现用户注册功能", "criteria": ["邮箱验证", "密码强度检查", "重复密码确认"], "status": "pending" } ] } 🚀 使用方法 启动 RALPH 循环 # 方法一：插件方式 claude run --skill ralph-loop --prd ./prd/requirements.json # 方法二：Docker 隔离环境 docker run -it \ -v $(pwd):/workspace \ -e ANTHROPIC_API_KEY=$ANTHROPIC_API_KEY \ claude-ralph:latest 监控循环状态 # 查看当前迭代次数 cat .ralph/iteration_count # 查看任务完成状态 cat .ralph/task_status.json # 查看日志 tail -f .ralph/loop.log 🔧 高级配置 1. 自定义 Stop Hook 规则 { "stop_conditions": { "all_tests_pass": { "enabled": true, "command": "npm test", "success_pattern": "all tests passed" }, "no_lint_errors": { "enabled": true, "command": "npm run lint", "success_pattern": "no problems" }, "coverage_threshold": { "enabled": true, "threshold": 80 } } } 2. 添加代码审查步骤 { "after_each_iteration": [ "run_tests", "run_linter", "code_review", "commit_if_passing" ], "code_review_prompt": "审查代码质量、安全性、性能问题" } 3. 设置成本控制 { "cost_limits": { "max_tokens_per_iteration": 50000, "max_total_cost": 50, "alert_at_cost": 30 } } 📊 典型工作流程 ┌─────────────────────────────────────────────┐ │ 1. Claude 读取 PRD 任务列表 │ └─────────────────┬───────────────────────────┘ ↓ ┌─────────────────────────────────────────────┐ │ 2. 选择下一个待完成任务 │ └─────────────────┬───────────────────────────┘ ↓ ┌─────────────────────────────────────────────┐ │ 3. 实现代码、编写测试 │ └─────────────────┬───────────────────────────┘ ↓ ┌─────────────────────────────────────────────┐ │ 4. 运行测试套件 │ └─────────────────┬───────────────────────────┘ ↓ ┌─────────────────────────────────────────────┐ │ 5. Stop Hook 检查是否完成 │ │ • 测试通过？ │ │ • 无类型错误？ │ │ • PRD 要求满足？ │ └─────────────────┬───────────────────────────┘ ↓ ┌───────┴───────┐ ↓ ↓ 未完成 完成 ↓ ↓ 返回步骤 2 结束循环 💡 最佳实践 建议 说明 PRD 要清晰 任务描述具体、可验证，避免模糊需求 设置最大迭代 防止无限循环消耗过多成本 使用 Docker 隔离环境，避免污染本地系统 定期检查 每 10 轮查看一次进度和日志 成本监控 设置预算警报，避免超支 ⚠️ 注意事项 成本控制：每次迭代消耗 tokens，长时间运行成本较高 质量检查：AI 可能"认为"完成但实际有 bug，需要严格测试 安全边界：在沙盒环境运行，避免 AI 误删重要文件 人工介入：复杂任务仍需人工审查结果
Minimax（海螺AI）已由大模型名Minimax替换原海螺AI。现海螺AI为Minimax视频生成产品名。
海螺AI