natolambert_OpenAI探讨AGI未来:从单一到多智能体协同
OpenAI高管Greg Brockman提出,未来通用人工智能(AGI)的发展趋势并非单一巨型模型,而是由众多专业化智能体组成的“动物园”模式。这些智能体将能够相互调用,共同协作。这一愿景旨在通过AI驱动,将经济活动和产出提升十倍,预示着一个由人工智能根本性赋能的经济新时代。Nathan Lambert对此观点评论为AGI定义的一种转变。
Independent AI signal, once a day
OpenAI高管Greg Brockman提出,未来通用人工智能(AGI)的发展趋势并非单一巨型模型,而是由众多专业化智能体组成的“动物园”模式。这些智能体将能够相互调用,共同协作。这一愿景旨在通过AI驱动,将经济活动和产出提升十倍,预示着一个由人工智能根本性赋能的经济新时代。Nathan Lambert对此观点评论为AGI定义的一种转变。
OpenAI联合创始人Greg Brockman转发推文,宣布公司正组建全新的“智能体鲁棒性与控制”团队。该团队旨在确保AI智能体在训练和部署过程中的安全性和稳定性,以应对当前AI领域最严峻的挑战。OpenAI正积极招聘相关人才,邀请有志之士加入,共同解决AI安全难题。
谷歌官方推文展示了其Gemini 2.5 Pro模型的新能力。该模型能够针对“过往技术”相关问题,提供更具结构化和创造性的回答。这一特性表明Gemini 2.5 Pro在处理历史信息和生成高质量、多维度回复方面取得了进展,进一步提升了其在复杂问答场景下的表现力,为用户提供更深入、更丰富的知识探索体验。
推文详细介绍了ARC-AGI-1和ARC-AGI-2两种AI推理能力评估工具的用途。ARC-AGI-1适用于比较商业AI系统和衡量效率,而ARC-AGI-2则更适合测量突破性AGI能力进展,并与人类流体智能进行对比。截至2025年6月,对所有主要AI推理系统进行测试后发现,目前尚无明确的领先者。
知名AI研究机构EleutherAI近日宣布,已成功发布一个大规模人工智能训练数据集。该数据集整合了来自授权来源和开放领域的文本数据,旨在为AI模型的训练提供更丰富、更多样化的语料支持。此举有望推动自然语言处理及其他AI领域的研究与发展,为业界提供重要的基础资源。
Tyler Austin Harper指出,关于AI“智能”的夸大宣传旨在掩盖其本质仍是硅谷的旧有模式:即通过“垃圾化”服务和海外劳工剥削,用贫乏的数字替代品取代人类连接与服务。他引用《大西洋月刊》的观点,强调大型语言模型并非真正意义上的情感智能或“聪明”,理解这一点对于避免AI的腐蚀性影响至关重要。此推文揭示了对当前AI发展模式的深刻批判与反思。
Cognee是一个为AI智能体提供动态记忆的开源框架,通过可扩展的ECL(提取、认知、加载)管道替代传统RAG系统。它能够高效互联并检索包括对话、文档、图像和音频转录在内的多种数据类型,支持数据加载至图数据库和向量数据库,并可从30多种数据源进行数据摄取与操作,旨在降低开发成本并提升AI应用的记忆能力。
Ragbits是一个用于快速开发生成式AI应用的构建模块集合。它提供灵活的LLM集成、类型安全的模型调用、多源向量数据库支持及高效RAG处理能力。该框架强调可靠性、可扩展性,并内置了实时可观测性、测试及聊天UI等部署监控工具,加速GenAI应用开发。
DSPy是一个用于编程而非提示语言模型的框架,旨在通过模块化Python代码构建AI系统,并优化其提示和权重。它支持快速迭代开发,适用于构建分类器、RAG管道和智能体循环,实现语言模型的高质量输出。
Dify是一个开源LLM应用开发平台,提供直观的界面,集成了智能体AI工作流、RAG管道、模型管理和可观测性等功能。它支持多种LLM模型,并提供后端即服务API,帮助用户快速从原型到生产部署AI应用。
该GitHub仓库提供了一个全面的LLM课程,涵盖LLM基础、LLM科学家(模型构建与优化)和LLM工程师(应用开发与部署)三大模块。内容涉及模型微调、量化、RAG、智能体、推理优化及安全等前沿技术,旨在帮助开发者掌握端到端LLM应用开发与部署能力。
LangChain4j是一个专为Java应用设计的LLM集成框架,旨在简化大型语言模型在Java开发中的应用。它提供统一的API,支持多种LLM提供商和向量存储,避免了学习和实现特定API的复杂性。框架内置了丰富的工具箱,涵盖提示模板、聊天记忆、函数调用、智能体和RAG等高级模式,助力开发者快速构建聊天机器人和RAG管道等LLM驱动的应用。
智源大会作为“AI春晚”盛大启幕,汇聚四位图灵奖得主及众多产业领袖。大会重磅发布“悟界”系列大模型,包括全球首个原生多模态世界模型Emu3、脑科学多模态通用基础模型见微Brainμ及全原子微观生命模型OpenComplex2,标志着智源从“悟道”向“悟界”的跨越,旨在推动AI从数字世界迈向物理世界,并探索微观生命科学。同时,大会发布RoboOS 2.0与RoboBrain 2.0,旨在解决具身智能发展瓶颈,实现跨本体大小脑协作。会议还探讨了AI安全、智能体、开源等前沿议题,并展示了人形机器人天工和宇树G1,彰显了多模态、具身智能、智能体等成为下一代AI发展的关键方向。
港科大、滑铁卢大学等机构的研究团队针对多模态推理中视觉语言模型(VLM)“慢思考”能力不足的问题,提出了首个多模态专用慢思考强化框架VL-Rethinker。该框架旨在解决现有VLM在多模态场景下存在的“优势消失”和“反思惰性”两大核心障碍。VL-Rethinker通过“优势样本回放”(SSR)和“强制反思”两大创新技术,有效激发了VLM的深层推理和自我校准能力。实验结果显示,VL-Rethinker在MathVista、MathVerse等多模态数学推理任务上显著超越了GPT-o1模型,并在多学科理解测试中刷新了开源模型性能,展现了“慢思考”模式在多模态领域的巨大潜力。研究团队还构建了高质量的ViRL39K强化训练数据集,为多模态慢思考研究提供了重要资源。
复旦大学、香港中文大学MMLab及上海人工智能实验室等机构联合推出MME-Reasoning,这是一个旨在全面评估多模态大模型(MLLMs)逻辑推理能力的新基准。该基准依据演绎、归纳、溯因三类推理进行设计,并涵盖多种问题类型和难度级别,旨在超越感知、弱化知识依赖。评测结果显示,当前最优模型得分仅约60%,揭示了MLLMs在逻辑推理方面面临的巨大挑战,尤其在溯因推理和开放式问题求解上表现不足。研究还发现,“思考模式”能显著提升推理能力,但过长的推理过程存在边际递减效应。MME-Reasoning的发布为MLLMs的推理能力研究提供了重要工具,并指明了未来发展方向。
一项最新研究揭示,人工智能在辩论中的说服力已超越人类,尤其OpenAI的GPT-4模型,在获取个人信息后,能以81.7%的更高概率改变对话者观点。即使在未获取个人信息时,大模型仍表现出优于人类的说服能力。研究指出,大模型倾向于运用逻辑和分析思维进行辩论,而人类则更多依赖情感和故事。这项发表于《自然》子刊的研究引发了对AI可能被用于大规模操纵、误导或加剧社会两极分化的深切担忧,呼吁社会应警惕并考虑对大模型在影响人类主观认知方面的应用进行监管,以防范潜在的“黑镜”式风险。
华为团队在昇腾平台上推出Pangu Pro MoE 72B模型,通过系统级软硬协同、高性能算子融合及模型原生投机算法等全链路优化,实现了大模型推理性能6-8倍的显著提升。该模型在SuperCLUE千亿内模型中并列国内第一,并在昇腾300I Duo和800I A2上展现出极致性价比和硬件潜力。H2P分层混合并行、TopoComm通信优化、DuoStream计算通信融合、MulAttention与SwiftGMM融合算子以及PreMoE、TrimR、SpecReason等算法加速,共同构建了高性能、低成本的推理能力底座,为通用大模型的规模部署提供了坚实支撑。
香港中文大学联合上海人工智能实验室发布多模态推理模型SophiaVL-R1,旨在解决传统R1训练范式仅关注结果对错导致模型“走捷径”的问题。该模型创新性地将“思考过程”纳入奖励体系,通过引入“思考奖励”机制和“思考评分模型”,并结合Trust-GRPO算法有效规避奖励欺骗。SophiaVL-R1在多个数学和通用多模态基准测试中展现出卓越的推理与泛化能力,其7B版本性能超越参数量10倍的LLaVA-OneVision-72B模型,且训练效率更高。这标志着推理能力可通过优化训练范式显著提升,为AI模型训练提供了新思路。
我们介绍了 ComfyUI-Copilot,这是一款由大型语言模型驱动的插件,旨在提升 ComfyUI(一个用于AI驱动艺术创作的开源平台)的可用性和效率。尽管 ComfyUI 具有灵活性和用户友好的界面,但它可能给新手带来挑战,包括有限的文档、模型配置错误以及工作流设计的复杂性。ComfyUI-Copilot 通过提供智能节点和模型推荐,以及自动化的一键式工作流构建来解决这些挑战。其核心是,该系统采用了一个分层的多智能体框架,包括一个用于任务委派的中央助手智能体和用于不同用途的专业工作智能体,并由我们精心策划的 ComfyUI 知识库支持,以简化调试和部署。我们通过离线定量评估和在线用户反馈验证了 ComfyUI-Copilot 的有效性,结果表明它能准确推荐节点并加速工作流开发。此外,用例表明 ComfyUI-Copilot 降低了初学者的入门门槛,并提高了经验用户的工效。ComfyUI-Copilot 的安装包和演示视频可在 https://github.com/AIDC-AI/ComfyUI-Copilot 获取。
我们推出了MedAgentGYM,这是首个公开可用的训练环境,旨在增强大型语言模型(LLM)智能体在基于代码的医疗推理方面的能力。MedAgentGYM包含来自真实世界生物医学场景的72,413个任务实例,涵盖129个类别。这些任务封装在可执行的编码环境中,每个环境都包含详细的任务描述、交互式反馈机制、可验证的真实标注以及可扩展的训练轨迹生成。对30多个LLM进行的广泛基准测试揭示了商业API模型与开源模型之间显著的性能差异。利用MedAgentGYM,Med-Copilot-7B通过监督微调(+36.44%)和持续强化学习(+42.47%)取得了显著的性能提升,成为一个经济实惠且保护隐私的替代方案,其竞争力可与gpt-4o媲美。通过在统一的执行环境中提供全面的基准测试和可访问、可扩展的训练资源,MedAgentGYM提供了一个集成平台,用于开发基于LLM的编码助手,以促进先进的生物医学研究和实践。
我们提出了 Surfer-H,这是一种经济高效的网络智能体,它集成了视觉-语言模型(VLM)以在网络上执行用户定义的任务。我们将其与 Holo1 配对,Holo1 是一个新颖的开放权重 VLM 集合,专门用于网络导航和信息提取。Holo1 在精心策划的数据源上进行训练,包括开放访问的网络内容、合成示例和自生成的智能体数据。Holo1 在通用用户界面(UI)基准测试以及我们新的网络 UI 定位基准 WebClick 上均表现出色。当由 Holo1 驱动时,Surfer-H 在 WebVoyager 上实现了 92.2% 的最先进性能,在准确性和成本效益之间取得了帕累托最优的平衡。为了加速智能体系统的研究进展,我们正在开源我们的 WebClick 评估数据集和 Holo1 模型权重。
随着自主智能体代表用户做出决策的时代到来,确保语境完整性(CI)——即在执行特定任务时共享何种信息是恰当的——成为该领域的核心问题。我们认为,语境完整性要求一种推理形式,即智能体需要对其所操作的语境进行推理。为了验证这一点,我们首先提示大型语言模型在决定披露何种信息时明确地对语境完整性进行推理。随后,我们通过开发一个强化学习(RL)框架来扩展此方法,该框架进一步向模型灌输实现语境完整性所需的推理能力。我们使用一个仅包含约700个示例的合成、自动创建的数据集,但其中包含多样化的语境和信息披露规范,结果表明,我们的方法在保持任务性能的同时,显著减少了不恰当的信息披露,并且适用于多种模型规模和系列。重要的是,这些改进可以从该合成数据集泛化到已建立的语境完整性基准,例如PrivacyLens,该基准具有人工标注,并评估AI助手在行动和工具调用中的隐私泄露情况。
我们从实际效率的角度重新思考了测试时缩放定律,揭示了小型模型的有效性被显著高估了。以往基于计算最优性的工作,忽视了推理时策略(例如,Best-of-N、长CoTs)引入的关键内存访问瓶颈。我们对0.6B到32B参数模型的全面分析,揭示了一种新的Kinetics缩放定律,该定律通过结合计算和内存访问成本,能更好地指导资源分配。Kinetics缩放定律表明,测试时计算资源在超过某个阈值的模型上使用时,比在小型模型上使用更有效。一个关键原因是,在测试时缩放(TTS)中,注意力机制而非参数数量,成为主导成本因素。受此启发,我们提出了一种以稀疏注意力为中心的新型缩放范式,它降低了每个token的成本,并在相同的资源预算内实现了更长的生成和更多的并行样本。经验上,我们表明稀疏注意力模型始终优于密集对应模型,在低成本方案中,AIME问题解决准确率提高了60多分,在高成本方案中提高了5分以上,其中包括对最先进MoE模型的评估。这些结果表明,稀疏注意力对于实现测试时缩放的全部潜力至关重要,因为与训练阶段参数缩放会饱和不同,测试时准确性通过增加生成量持续提高。代码可在https://github.com/Infini-AI-Lab/Kinetics获取。
推理时扩展通过生成更长或更并行的序列来提高推理准确性,但牺牲了效率。然而,在Transformer大型语言模型(LLMs)中,生成成本的瓶颈在于键值(KV)缓存的大小,而非生成的token数量。因此,我们探索推理时超扩展:通过压缩KV缓存,我们可以在相同的计算预算内生成更多token,并进一步提高扩展推理的准确性。然而,这种方法的成功取决于压缩方法在高压缩比下仍能保持准确性的能力。为了使超扩展变得实用,我们引入了动态内存稀疏化(DMS),这是一种新颖的KV缓存稀疏化方法,仅需1K训练步即可实现8倍压缩,同时保持比无训练稀疏注意力更好的准确性。DMS并非过早地丢弃缓存的token,而是延迟token的逐出,隐式地合并表示并保留关键信息。我们展示了DMS在多种LLM家族上实现推理时超扩展的有效性,表明它在相似的推理运行时和内存负载下提升了准确性。例如,我们在Qwen-R1 32B上,在不同计算预算下,平均将AIME 24的性能提升9.1点,GPQA提升7.6点,LiveCodeBench提升9.6点。