Tech News

AI 每日资讯 — 2026-09-07 🔥 HuggingFace 每日论文 1. Compile by Training: Turning Natural-Language Specifications into Local Neural Functions Yuntian Deng, Pengyu Nie, Stuart Shieber 本文提出“训练式编译”（compile by training）方法，旨在将自然语言功能描述自动编译为轻量、可复用的本地神经函数。该方法在编译阶段利用大模型（教师模型）生成任务特异性样本，监督训练一个小型适配器与紧凑解释器结合的神经函数；编译后函数完全脱离教师模型，支持离线部署、版本控制与组合调用。在FuzzyBench-Hard基准上，其语义准确率达83.6%，显著优于无法产生精确匹配的Program-as-Weights快速编译器；代价是编译耗时约一分钟。作者已将其部署为公开交互服务，并在多站点网页助手、语言驱动的3D虚拟人及英–Claudish双向翻译等场景中验证实用性。 🏛️ Stuart Shieber | PDF · arXiv · 代码 · 项目 | ❤️ 316 2. Rethinking On-Policy Distillation of Large Language Models II: One Training Example Zixuan Fu, Bingxiang He, Yuxin Zuo 本文重新审视了基于策略的大型语言模型蒸馏（OPD）中训练数据的作用，首次在极简数据条件下——仅使用单个查询——开展系统性研究。实验表明，单查询OPD在数百步训练中持续提升，能在多个任务域与模型族上恢复全量数据OPD约90%以上的性能增益。通过分析学生模型在训练中访问的状态空间与对齐速率，作者发现单查询即可覆盖全量OPD所涉状态的71.5%，且多数覆盖发生在前100步；增至16个语义多样查询时，状态覆盖率升至98.9%，验证准确率与全量训练持平。然而，无论数据规模如何，学生对监督信号的吸收速度均缓慢，揭示OPD本质是“数据过馈、算法欠足”。该结论在多教师OPD及跨域/模板化查询等压力测试中均稳健成立。 PDF · arXiv · 代码 | ❤️ 77 3. Puffin-World: Scaling a Unified Multimodal Model with Native 3D World States Kang Liao, Yihang Luo, Xiao-Ming Wu...