tech

AI 每日资讯 — 2026-07-24 🔥 HuggingFace 每日论文 1. SLAI T-Rex: Full-Parameter Post-training of the DeepSeek-V4 Family on Ascend SuperPOD Dongfang Li, Xiaodong Luo, Ruoyu Sun 本文针对万亿参数MoE大模型全参数后训练在昇腾NPU超算集群（SuperPOD）上面临的内存压力大、通信与计算难以重叠、内核执行效率低等系统级挑战，提出面向DeepSeek-V4系列模型的分层优化框架，涵盖模型并行策略、计算-通信协同调度及底层算子优化。所构建的SLAI T-Rex系统实现34.22%的模型FLOPs利用率，较开源基线提升2.93倍且保障训练稳定性。在此基础上，构建面向运筹学（OR）任务的CPT与SFT流程，融合领域真实数据与求解器验证的合成优化文档，构建含10K高质量样本、覆盖四类任务与三种问题表示的专用数据集。微调后的模型在零样本Pass@1评测中达71.81%，显著超越GPT-5.4-Mini及基座模型。 PDF · arXiv · 代码 | ❤️ 43 2. Self Gradient Forcing: Native Long Video Extrapolation Junhao Zhuang, Shiyi Zhang, Yuxuan Bian 本文针对自回归视频扩散模型中历史上下文与未来帧生成之间的梯度监督缺失问题（即“历史上下文-梯度鸿沟”），提出自梯度强制（Self Gradient Forcing, SGF）方法。SGF采用两阶段训练策略：第一阶段无梯度自回归 rollout，采样记录某去噪步的自生成上下文与对应噪声隐状态；第二阶段并行重建该步上下文的键值表示，并引入未来帧损失反向监督历史记忆的写入过程。该方法在不延长反向传播链路的前提下，将未来帧预测误差有效反馈至历史隐状态的记忆编码环节。实验表明，SGF在多种初始化设置下的长时序帧级与分块级视频外推任务中显著提升生成质量与一致性。 PDF · arXiv · 代码 · 项目 | ❤️ 28 3. ATSplat: Compact Feed-forward 3D Gaussian Splatting with Adaptive Token Expansion Cho In, Jeonghwan Cho, Mijin Yoo...

AI 每日资讯 — 2026-07-23 🔥 HuggingFace 每日论文 1. ABot-World-0: Infinite Interactive World Rollout on a Single Desktop GPU Fan Jiang, Zhaoxu Sun, Mengchao Wang 本文提出ABot-World-0，一种面向实时、长时程闭环交互的动作条件化视频世界模型。该模型依托覆盖AAA游戏、仿真引擎与互联网视频的多源数据基础设施，结合WorldExplorer驱动的数据采集、14项确定性质量校验与VLM辅助标注的统一预处理流程，实现可控世界动力学学习。通过双向教师模型到因果学生模型的渐进式蒸馏（含Teacher Forcing与ODE蒸馏），并引入LongForcing机制对齐长程自 rollout 与扩展时域教师预测，有效缓解分布偏移与自回归漂移。系统支持键盘动作统一控制场景漫游与第三人称角色交互，并借助参考角色记忆保障身份一致性。部署层面协同设计流式推理栈，集成轻量VAE解码器、高效注意力、内存感知调度及低比特DiT推理，在单块NVIDIA RTX 5090 GPU上实现720P视频最高16 FPS流式生成，动作至首帧延迟仅1.2秒，峰值显存占用约19GiB。在WorldRoamBench及扩展交互评测中展现出优异的可控性与长程连贯性。 PDF · arXiv · 代码 · 项目 | ❤️ 133 2. Text Template Tokens Are Implicit Semantic Registers in Diffusion Transformers Maohua Li, Qirui Li, Yanke Zhou 本文针对文本到图像扩散Transformer（DiTs）中语义表征机制不明确的问题，提出一种基于注意力分解与定向干预的因果可解释性框架。研究发现，提示模板类token虽在编码器输出端缺乏提示特异性信息，却在去噪过程中成为图像到文本注意力的主要汇聚点，并作为隐式语义寄存器维持生成对象的身份一致性。该语义身份并非直接来自文本提示，而是通过图像潜变量间接注入模板token。受此启发，作者设计了一种无需训练的剪枝策略：移除对提示token响应最强的注意力头，可减少20%注意力计算量，仅导致GenEval得分下降1.4分。进一步分析揭示了DiT中语义路由与视觉合成在层间与头间的分工机制。 PDF · arXiv · 代码 | ❤️ 65 3. Generative World Renderer at the Speed of Play Guixu Lin, Zheng-Hui Huang, Siqi Yang...

AI 每日资讯 — 2026-07-22 🔥 HuggingFace 每日论文 1. SWE-Pruner Pro: The Coder LLM Already Knows What to Prune Yuhang Wang, Yuling Shi, Shaoqiu Zhang 本文针对编码智能体的长上下文剪枝问题，提出SWE-Pruner Pro方法。不同于依赖外部代码分类器的现有方案（如SWE-Pruner），该方法挖掘大语言模型自身在读取工具输出时产生的内部表征，直接在代理内部完成上下文剪枝。其核心是引入轻量级预测头，结合行数感知的嵌入，将内部隐状态映射为每行代码的保留/裁剪标签。实验表明，在两个开源权重基座模型与四个多轮基准任务上，该方法最多减少39%的提示与生成token，推理开销可控，且在MiMo-V2-Flash上使SWE-Bench Verified解决率提升3.8%，Oolong长上下文准确率提高2.2个百分点。 PDF · arXiv · 代码 | ❤️ 64 2. HOMIE: Human-object Centric Video Personalization via Multimodal Intelligent Enchancement Yiyang Cai, Nan Chen, Rongchang Xie 本文针对人-物中心视频个性化（HOCVP）任务中主体保真度与人-物交互准确性难以兼顾、以及跨模态参考信息（如OCR图、多视角图像）未被有效建模两大挑战，提出HOMIE框架。该方法通过改进多模态大语言模型（MLLM）与扩散模型的协同机制，在不牺牲文本可控性的前提下，引入全局多模态引导自注意力，实现MLLM语义特征与VAE隐空间令牌的对齐；并设计模态-参考嵌入模块，显式区分并关联不同来源的令牌。实验表明，HOMIE在多种HOCVP基准上达到SOTA性能。 PDF · arXiv · 代码 · 项目 | ❤️ 46 3. FlowMimic: Mask-free Visual Editing and Generation with Pixel-pair Warped Flow Field for Online Video Editing Data Generation and Modality Mimicry Dingyun Zhang, Lixue Gong, Wei Liu...

AI 每日资讯 — 2026-07-21 🔥 HuggingFace 每日论文 1. Loop the Loopies! Zitian Gao, Yilong Chen, Yihao Xiao 本文提出Loopie——迄今最强大的循环式Transformer模型。Loopie采用双规模混合专家（MoE）架构，包含20B总参/2B激活参数与6B总参/0.6B激活参数两个版本，突破了传统循环Transformer中“计算量线性增长不如参数量线性增长”的瓶颈。通过创新的后训练推理增强流程，Loopie在同等预训练计算预算下显著超越同规模标准Transformer基线（如30B-A3B）。实证表明，其在2025年国际数学与物理奥林匹克竞赛中无需外部工具即达金牌水平，验证了循环架构与推理优化协同设计的有效性。 PDF · arXiv | ❤️ 53 2. Understanding Reasoning from Pretraining to Post-Training Jingyan Shen, Ang Li, Salman Rahman 本文探究了从预训练到后训练（RL）全过程对大语言模型推理能力的影响，以国际象棋为可控实验平台，系统研究模型规模、预训练数据量与RL计算投入之间的交互关系。作者构建了涵盖5M至10亿参数的模型族，在人类棋谱上预训练，经合成推理轨迹监督微调（SFT），再在可验证奖励的棋题上进行强化学习。实验发现：RL后性能可由预训练损失良好预测，且RL奖励曲线斜率近似线性依赖于预训练token数量；RL并非简单优化SFT策略，而是在简单题目中放大已有正确偏好，在难题中挖掘SFT几乎忽略的正确动作。 PDF · arXiv · 代码 | ❤️ 17 3. When Does Muon Help Agentic Reinforcement Learning? Kai Ruan, Jinghao Lin, Zihe Huang 本文探究了优化器 Muon 在稀疏奖励智能体强化学习（Agentic RL）中的有效性。基于 ALFWorld 环境与 Qwen2.5-0.5B-Instruct 模型，作者在 Group-in-Group Policy Optimization（GiGPO）等策略优化框架下，开展单种子对照实验，对比 Muon 与 AdamW 的性能。结果表明：仅将 Muon 应用于隐藏层权重矩阵即可显著提升验证成功率（如 GiGPO 下从 0....

AI 每日资讯 — 2026-07-20 🔥 HuggingFace 每日论文 1. SearchOS-V1: Towards Robust Open-Domain Information-Seeking Agent Collaboration Yuyao Zhang, Junjie Gao, Zhengxian Wu 本文提出SearchOS-V1，一种面向鲁棒开放域信息检索的多智能体协作框架，旨在解决现有搜索代理在长交互历史下难以追踪任务进展、易陷入重复搜索循环的问题。作者将开放域信息检索建模为带溯源引用的关系模式补全任务，并设计面向搜索的上下文管理机制（SOCM），显式维护前沿任务、证据图、覆盖映射与失败记忆四类共享状态。基于SOCM，SearchOS采用流水线并行调度策略，动态填补空闲执行槽以填补覆盖缺口；同时引入搜索工具中间件，实时记录溯源证据、响应停滞或预算耗尽，支持可复用的分层技能调用。实验表明，SearchOS显著提升搜索效率、证据覆盖率与答案完整性。 PDF · arXiv · 代码 | ❤️ 59 2. BadWAM: When World-Action Models Dream Right but Act Wrong Qi Li, Xingyi Yang, Xinchao Wang 本文揭示了世界-动作模型（WAMs）中“想象正确但执行错误”的脆弱性，提出BadWAM框架以建模与评估一类新型WAM专属对抗攻击——世界-动作漂移攻击（World-Action Drift Attacks）。该攻击通过微小视觉扰动破坏模型内部动作生成与未来世界预测之间的对齐。BadWAM沿攻击强度与隐蔽性两个维度建模：当侧重破坏性时，采用仅作用于动作的对抗攻击；当兼顾隐蔽性时，则设计“想象保持型”攻击，在维持预测未来几乎不变的前提下诱导有害动作偏移。在多种WAM架构上的实验表明，所提攻击显著降低任务成功率，且具备强迁移性与高隐蔽性，揭示了当前WAM范式在安全与鲁棒性方面的深层隐患。 PDF · arXiv · 代码 · 项目 | ❤️ 46 3. RoboTTT: Context Scaling for Robot Policies Yunfan Jiang, Yevgen Chebotar, Ruijie Zheng...