rasbt_Gemma 3 270M发布:小尺寸开源LLM的强大表现
Sebastian Raschka关注到Gemma 3 270M的发布,这是一款仅2.7亿参数的开源小型大语言模型。该模型展现出强大的指令遵循能力和快速微调潜力,拥有庞大词汇量作为高质量基础。令人惊讶的是,它仅有4个注意力头,但性能表现出色,可用于本地实验。
Independent AI signal, once a day
Sebastian Raschka关注到Gemma 3 270M的发布,这是一款仅2.7亿参数的开源小型大语言模型。该模型展现出强大的指令遵循能力和快速微调潜力,拥有庞大词汇量作为高质量基础。令人惊讶的是,它仅有4个注意力头,但性能表现出色,可用于本地实验。
弗朗索瓦·弗勒雷特提出“热门观点”,认为语言的普适性和大型语言模型(LLMs)的能力可能误导了我们。他指出,鉴于思维链(chains-of-thought)几乎可以实现任何认知过程,新的模型架构似乎变得不必要。他将此比作通用表示定理并未使卷积神经网络(convnets)变得不必要,暗示LLMs的当前能力不应阻碍对新架构的探索。
Meta AI推出DINOv3,这是一款最先进的计算机视觉模型,采用自监督学习训练,能生成强大且高分辨率的图像特征。DINOv3首次实现单一冻结视觉骨干网络在多项长期存在的密集预测任务上超越专业解决方案,标志着计算机视觉领域的重要进展。该模型提升了图像特征提取能力,为相关应用带来显著性能提升。
Shai Shalev-Shwartz推出FormulaOne基准测试,旨在评估前沿AI模型在动态规划问题上的“博士级”推理能力。该基准分为浅、深、最深三层。测试结果显示,顶级模型在浅层表现尚可,但在更深层次的问题上,包括Grok 4、Gemini-Pro、Opus-4等模型表现极差,GPT-5 Pro也仅能解决少数问题,而在最深层所有模型均告失败,表明当前AI模型在复杂推理方面仍存在显著不足。
Awni Hannun分享了Gemma 3 270M 4比特量化模型在M4 Max芯片上的卓越性能。该模型利用mlx-lm库,实现了每秒超过650个token的文本生成速度,同时内存占用低于200MB。这一成果展示了小型化大模型在Apple硬件上运行的高效率和低资源消耗,对于边缘设备和个人电脑上的AI应用具有重要意义。
Harrison Chase宣布LangChain学院推出一门关于“深度研究”的新课程。该课程时长一小时,专注于如何利用AI智能体进行深度研究,这是智能体最受欢迎的用例之一。此举旨在提升用户在复杂信息检索和分析方面的能力,为AI应用提供实用指导。
FastAPI-MCP是一个创新的Python库,旨在将FastAPI的API端点无缝转换为模型上下文协议(MCP)工具,并内置认证功能。该项目采用FastAPI原生设计,而非简单的OpenAPI转换器,支持零/最小配置,能自动保留请求和响应模型的Schema及Swagger文档。其核心优势在于利用FastAPI的ASGI接口进行高效通信,并允许灵活部署,无论是作为现有FastAPI应用的扩展还是独立服务。FastAPI-MCP通过提供原生依赖管理和统一的基础设施,极大地简化了将现有FastAPI服务集成到MCP生态系统中的过程,特别适用于构建和管理AI工具。
SpatialLM是一个3D大语言模型,专注于处理3D点云数据并生成结构化的3D场景理解输出,包括建筑元素和带语义类别的定向物体边界框。它能处理来自单目视频、RGBD图像和激光雷达等多样化来源的点云,有效弥合非结构化3D几何数据与结构化3D表示的鸿沟。该模型支持用户指定类别检测,显著增强了空间推理能力,适用于具身机器人、自主导航及复杂3D场景分析等前沿应用。
Magentic-UI是一个由多智能体系统驱动的人机协作界面研究原型,旨在自动化网页任务并保持用户控制。它能够浏览网页、执行操作、生成和执行代码以及分析文件。该系统以AutoGen为基础,提供透明且可控的交互方式,支持协同规划、协同任务、行动守护、计划学习与检索以及并行任务执行等核心功能,显著提升了人机交互效率,适用于复杂的网页导航和数据处理任务。
Marker是一款高效精准的文档转换工具,支持PDF、图片、Office、HTML、EPUB等多种格式,可输出为Markdown、JSON、HTML等。其核心功能包括智能识别并格式化表格、公式、代码块,并支持多语言处理。Marker在性能上优于现有云服务和开源方案,且能通过集成大语言模型(LLM)显著提升转换精度和结构化数据提取能力。该工具支持GPU/CPU/MPS运行,提供API和CLI接口,广泛应用于文档数字化、内容管理及RAG数据准备等领域。
亚利桑那州立大学研究揭示,大模型链式思维(CoT)推理可能并非真正的逻辑推演,而是对训练数据分布内模式的复现。一旦任务与训练数据分布存在差异(OOD),CoT的泛化能力便会迅速崩溃,表现出在任务、长度和格式泛化上的脆弱性。研究通过可控实验平台DataAlchemy验证了这一“幻象”本质,并指出CoT的脆弱性是普遍现象,不随模型规模和温度变化。这警示在高风险领域不应盲目依赖CoT,现有评测方法可能高估模型鲁棒性,且监督微调仅能局部扩展分布而非提升抽象推理能力。未来发展需正视CoT泛化瓶颈,并在评测和部署中保持谨慎。
Omni-Effects是一个创新的统一框架,专为多样化定制视觉特效(VFX)生成而设计,支持从单一到空间可控的多特效生成。它结合了纯提示词驱动与空间感知提示(SAP)技术,实现了视频中特效的精确空间控制及与环境结合的复杂视觉效果。该框架通过构建全面的Omni-VFX数据集和新型数据生产流程进行验证,展现出高鲁棒性,能生成高保真、多样化的VFX合成视频。其核心技术包括LoRA-MoE和SAP,有效解决了多条件VFX生成的挑战,在电影、游戏和广告等领域具有重要应用潜力,是可控多特效生成的首个全面解决方案。
微软研究员Dimitris Papailiopoulos提出颠覆性强化学习算法GFPO(Group Filtered Policy Optimization),旨在解决DeepSeek GRPO等模型生成冗长响应的问题。GFPO通过扩大候选响应组并显式过滤所需特性,能在提升准确率的同时,将推理中因强化学习带来的多余token长度削减高达80%。该算法无需复杂的奖励工程,即可同时优化简洁性和准确度等多个响应属性。实验表明,GFPO在不同难度问题上均能显著缩短响应,尤其在处理复杂问题时,其自适应难度变体能有效平衡计算效率与准确性,并缓解了分布外任务的长度膨胀,为高效强化学习提供了新范式。
HERMES是首个统一自动驾驶世界模型,旨在弥合3D场景理解与未来场景生成之间的鸿沟。该模型通过共享的大语言模型、统一的鸟瞰图(BEV)特征空间和创新的世界查询机制,实现了对复杂城市场景的深度理解和未来动态的精准预测。HERMES在nuScenes等数据集上表现卓越,其生成精度显著优于现有分离式模型,且理解能力无损,在多任务对比实验中展现出强大的综合能力。这一统一框架为开发更智能、更可靠的自动驾驶系统提供了新范式,推动了通用驾驶大模型的发展。
昆仑万维重磅发布Skywork Deep Research Agent V2,该智能体模型在多模态深度调研和浏览器自动化方面取得突破。它能高效处理图文信息,并在BrowseComp和GAIA等权威榜单上刷新SOTA记录,超越国内外主流竞品。新版本引入多模态信息检索、异步并行多智能体架构及结果呈现技术,解决了传统文本调研的局限性。此外,其多模态深度浏览器智能体有效克服了传统浏览器Agent的效率和稳定性瓶颈,能深入挖掘社交平台内容并生成可视化报告。此次发布标志着昆仑万维在AI应用落地和全栈式布局上的重要进展,预示着AI行业重心正从单一通用大模型转向工具链与应用生态的构建。
上海AI Lab的OpenDataLab团队构建了涵盖数学、编程和逻辑谜题的多领域评估框架,深入剖析可验证强化学习(RLVR)在多领域推理中的机制。研究发现,基于Qwen2.5-7B模型,三领域数据联合训练使整体平均性能显著提升至56.57,优于双领域组合。关键发现包括:逻辑与数学相互支持,代码推理具跨领域效应,多样化数据提升鲁棒性,SFT增强RL效果,Template一致性、Policy Refresh及适应性奖励设计至关重要,且RLVR对语言敏感。该研究强调多领域联合训练能有效避免特定任务性能“崩溃”,实现模型均衡发展,为优化大模型推理能力提供新视角。
我们引入了M3-Agent,一个配备长期记忆的新型多模态智能体框架。与人类类似,M3-Agent能够处理实时视觉和听觉输入,以构建和更新其长期记忆。除了情景记忆,它还发展出语义记忆,使其能够随着时间积累世界知识。其记忆以实体为中心、多模态的形式组织,从而实现对环境更深入、更一致的理解。给定指令后,M3-Agent自主执行多轮迭代推理,并从记忆中检索相关信息以完成任务。为了评估多模态智能体中记忆的有效性和基于记忆的推理能力,我们开发了M3-Bench,一个新的长视频问答基准。M3-Bench包含100个从机器人视角捕获的新录制真实世界视频(M3-Bench-robot)和929个来自网络的、涵盖不同场景的视频(M3-Bench-web)。我们标注了旨在测试智能体应用所需关键能力的问题-答案对,例如人类理解、通用知识提取和跨模态推理。实验结果表明,通过强化学习训练的M3-Agent,在M3-Bench-robot、M3-Bench-web和VideoMME-long上分别实现了6.7%、7.7%和5.3%的更高准确率,优于最强的基线(一个使用Gemini-1.5-pro和GPT-4o的提示智能体)。我们的工作推动了多模态智能体向更类人长期记忆的发展,并为其实际设计提供了见解。模型、代码和数据可在https://github.com/bytedance-seed/m3-agent获取。
在生成式人工智能领域,生成与用户指定身份匹配的高保真人体视频既重要又具有挑战性。现有方法通常依赖过多的训练参数,并且缺乏与其他AIGC工具的兼容性。在本文中,我们提出了Stand-In,一个用于视频生成中身份保持的轻量级即插即用框架。具体而言,我们将一个条件图像分支引入到预训练的视频生成模型中。身份控制通过带有条件位置映射的受限自注意力实现,并且仅需2000对数据即可快速学习。尽管仅引入并训练了约1%的额外参数,我们的框架在视频质量和身份保持方面取得了优异的结果,超越了其他全参数训练方法。此外,我们的框架可以无缝集成到其他任务中,例如主体驱动视频生成、姿态参考视频生成、风格化和换脸。
大型语言模型(LLM)通常通过监督微调(SFT)和随后的强化学习(RL)两阶段流程进行推理任务的微调,但这一过程常伴随着灾难性遗忘以及模仿与探索之间次优的权衡。近期的一些单阶段方法试图通过启发式方法统一SFT和RL,但缺乏动态平衡这两种范式的原则性机制。在本文中,我们通过隐式奖励的理论视角重新审视这一挑战,将SFT和RL视为互补的奖励信号而非独立的方法。我们引入了自适应元微调(AMFT),这是一种新颖的单阶段算法,它能学习SFT的隐式路径级奖励与RL的显式基于结果的奖励之间的最佳平衡。AMFT的核心是一个元梯度自适应权重控制器,它将SFT-RL平衡视为一个可学习参数,并动态优化以最大化长期任务性能。这种前瞻性方法通过策略熵进行正则化以保持稳定性,并自主发现有效的训练课程。我们在涵盖数学推理、抽象视觉推理(General Points)和视觉-语言导航(V-IRL)的挑战性基准上进行了全面评估。AMFT持续地建立了新的最先进水平,并在分布外(OOD)任务上展示了卓越的泛化能力。消融研究和训练动态分析证实,元学习控制器对于AMFT的稳定性、样本效率和性能至关重要,为LLM对齐提供了一种更具原则性和有效性的范式。我们的代码已通过https://github.com/hlxtsyj/AMFT开源。
多模态大语言模型(MLLMs)极大地推动了视觉和文本理解的融合。然而,它们从多模态输入生成代码的能力仍然有限。在这项工作中,我们引入了 VisCodex,一个统一的框架,它无缝融合了视觉和编码语言模型,以赋予 MLLMs 强大的多模态代码生成能力。我们利用基于任务向量的模型融合技术,将一个最先进的编码大语言模型集成到一个强大的视觉-语言骨干中,同时保留了视觉理解和高级编码技能。为了支持训练和评估,我们引入了多模态编码数据集(MCD),这是一个大规模且多样化的集合,包含 59.8 万个样本,包括高质量的 HTML 代码、图表图像-代码对、图像增强的 StackOverflow 问答以及算法问题。此外,我们提出了 InfiBench-V,一个新颖且具有挑战性的基准,专门用于评估模型在视觉丰富、真实世界编程问题上的表现,这些问题需要对文本和视觉上下文有细致的理解。大量实验表明,VisCodex 在开源 MLLMs 中取得了最先进的性能,并接近 GPT-4o 等专有模型,这突显了我们模型融合策略和新数据集的有效性。
大型语言模型(LLMs)的快速发展使得智能体能够利用多样化的外部工具解决复杂的现实世界问题。然而,随着智能体越来越依赖多种工具,它们面临新的挑战:来自不同来源的扩展上下文以及嘈杂或不相关的工具输出可能会损害系统的可靠性和准确性。这些挑战强调了增强基于智能体系统稳定性的必要性。为了解决这个问题,我们引入了动态监督和操控机制,在AWorld框架内构建了一个鲁棒且动态的多智能体系统(MAS)架构。在我们的方法中,执行智能体在关键步骤调用守护智能体来验证和纠正推理过程,从而有效减少由噪声引起的错误并增强问题解决的鲁棒性。在GAIA测试数据集上进行的广泛实验表明,我们的动态操控机制显著提高了解决方案的有效性和稳定性,优于单智能体系统(SAS)和标准工具增强系统。因此,我们的动态MAS系统在著名的GAIA排行榜上的开源项目中获得了第一名。这些发现突出了协作智能体角色在开发更可靠、更值得信赖的智能系统方面的实际价值。
近期,GPT-4o在图像生成方面表现出色,引起了广泛关注,但开源模型仍显滞后。多项研究已探索从GPT-4o中提取图像数据以增强开源模型,并取得了显著进展。然而,一个关键问题依然存在:鉴于真实世界图像数据集已构成高质量数据的天然来源,我们为何还要使用GPT-4o生成的合成数据?在这项工作中,我们指出了合成图像的两个主要优势。首先,它们可以补充真实世界数据集中罕见的场景,例如超现实幻想或多参考图像生成,这些场景在用户查询中频繁出现。其次,它们提供了干净且可控的监督。真实世界数据常包含复杂的背景噪声以及文本描述与图像内容之间固有的错位,而合成图像则提供纯净的背景和长尾监督信号,有助于实现更精确的文本到图像对齐。基于这些见解,我们引入了Echo-4o-Image,一个由GPT-4o生成的18万规模的合成数据集,旨在利用合成图像数据的力量弥补真实世界覆盖的盲点。我们使用该数据集对统一多模态生成基线Bagel进行微调,从而获得了Echo-4o。此外,我们提出了两个新的评估基准,用于更准确和更具挑战性地评估图像生成能力:GenEval++,它通过增加指令复杂性来缓解分数饱和问题;以及Imagine-Bench,它侧重于评估想象内容的理解和生成。Echo-4o在标准基准测试中表现出强大的性能。此外,将Echo-4o-Image应用于其他基础模型(例如OmniGen2、BLIP3-o)在多项指标上均产生了持续的性能提升,突显了该数据集强大的可迁移性。