Rohan Paul@rohanpaul_ai
44
马克斯·普朗克论文发现，开启推理后不同LLM的一致性上升，连错误也更趋同。作者用9个Qwen和GPT模型在3个基于美国人口普查调查的预测任务上测试，开启推理后全部9个模型都答错的人群比例上升2.0至2.4个百分点；对推理链最长的人群，校正后一致性降至约0.31至0.39。作者建议在涉及人的决策中检查模型集合里是否有人能给出正确答案，因为更高一致性也可能意味着更多共同错误。
AI Pulse
Models, products, agents, research — read the high-signal changes in a single screen.
Timeline
AI for ScienceAll Signals
An AI feed unfolding by time
HOT SIGNALS
Multi-source heat · decays over timeCurrent Hotspots
- 1
- 2
- 3
- 4
- 5
11月5日
Stanford 论文《A Circuit for In-Context Learning》（arXiv:2611.05344）发现小语言模型的 few-shot 学习不是从示例学到新规律，而是通过标签查找已有映射，仅在标签重复时触发。
MIT 与昆士兰大学研究分析了企业对 AI 风险的披露情况：前 100 大公司中 32% 未提及任何 AI 风险，前 1000 大公司中估计有 62% 如此。最严重的风险反而最少被提及，前 100 大公司无一提到权力集中或 AI 竞赛，仅 4 家提到危险 AI 能力；AI 开发者提及失准的比例为 15%，而歧视达 85%（仅统计 13 家开发者）。作者主张企业应明确列出自身风险及对应防护措施。
OpenAI 安全研究人员构建了自主的网络漏洞发现、利用与修补管线，用一款即将推出的网络安全模型在单次运行中验证并为 Linux 内核 948 个本地提权漏洞生成补丁，总 API 成本 120 万美元。漏斗数据显示：2,308 个候选发现中 1,724 个通过验证，最终得到 948 个可用的 LPE exploit 和 291 个可用的 PoC。
OpenAI 称其智能体发现并使用了至少 10 种新型 Linux 漏洞利用技术，据其及所咨询专家所知均为此前未知的。OpenAI 认为这表明前沿大语言模型能发现并修补新的漏洞利用方式，而不只是套用已知技术。
Stanford 研究者在 220 个真实专业任务上用同一模型 Qwen3.6-27B 测试 4 种单颗 AI 芯片，衡量每单位能量产生的有用工作。结果显示 NVIDIA B200 相比 AMD MI350X 每单位能量带来超过 4 倍的美元价值和超过 9 倍的专家时间节省，即模型不变、仅换芯片也会显著改变同样电力预算下的经济回报。作者引用的论文还构建了 Joules-to-GDP 指标，测试 5 个开源模型，其中 Gemma 4 31B 用 23% 的能量达到 GLM 5.2 每任务净价值的 56%，Qwen3.6-27B 从 1 卡 H100 扩到 8 卡仅快 22% 却耗能 3.2 倍。
Anthropic 生物学研究团队分享与 Claude 合作完成细菌来源 vault 粒子首个 3D 结构测定的过程。Vault 粒子是 1986 年发现的大型桶状蛋白结构，功能至今未知；此前只见于动物和植物等复杂生命，团队证明细菌及其病毒中的类似蛋白也能组装成 vault。Claude 在部分环节大幅提速，人工测定结构需数周到数月，该项目只用数天，但也出现一些简单错误，团队与机器学习研究者协作修正。作者补充称 Claude 实际运行了湿实验室流程，将粒子分离从 3 天缩短到约 90 分钟，34 小时内给出首个 3D 结构模型。
Stanford 团队发布 Joules-to-GDP 框架，以扣除运行成本后每焦耳能量的净经济价值衡量 AI 工作，测试 5 个开源模型在 GDPval 220 个任务、44 个职业上的表现。
Pew Research 新调查显示，60% 的美国人对自己医生用 AI 做诊断和治疗感到不适，仅 3% 接受 AI 独自诊断，47% 接受有人工审核的 AI 诊断。78% 接受 AI 为患者翻译，但 46% 拒绝 AI 参与保险理赔决定；51% 预期 AI 会恶化健康数据安全，30 岁以下成年人中预期 AI 使患者结果变差的比例从 2022 年的 29% 升至 45%。
Rohan Paul 引用 Pew Research 新调查称，55% 高收入美国成年人认为 AI 会帮助患者，而低收入群体仅 25% 持相同看法。调查还显示整体意见分裂，37% 认为 AI 诊疗会带来更好的健康结果，36% 认为会更差，26% 认为影响不大；多数美国人不愿医生单独用 AI 诊断，47% 接受有人工审核的 AI 诊断，仅 3% 接受 AI 独自诊断。
NVIDIA 论文发现，AI 智能体通过频繁压缩历史保持短上下文时精度几乎不降。服务 256K 上下文窗口比 16K 的每 token 生成成本高 3.6 倍到 7 倍。
11月4日
很高兴支持 RoboColosseum，这是规模最大的真实环境机器人基准项目之一！很高兴看到宇树 G1 被用作 RoboColosseum 人形机器人基准类别的主要本体。
清华大学联合新浪微博提出 BEMULA 基准，评测 LLM Agent 的记忆遗忘能力，包含 50 段多轮对话、135 个遗忘请求和 1742 个测试问题，覆盖 6 种记忆系统和 3 个骨干模型。
斯坦福论文提出 RoboArchitect，用编码模型审查机器人试跑记录、诊断失败并最多迭代 5 轮重写控制代码，全程不更新模型权重，单次完整运行平均成本低于 150 美元。在未见场景上平均成功率从裸策略的 9.7% 升至 43.3%，未见任务上从 12.7% 升至 40.2%。在 VLABench 上，加装控制代码的通用策略击败了在该基准上微调的同款策略，但所有测试均在仿真中完成。
Anthropic 公布可验证推理研究 FlashProve，基于成熟密码学技术让开发者验证某条回复是否来自指定 AI 模型，效率显著高于此前开源方法。该证明可用于防止攻击者劫持对话，也能让安全评估者确认被测模型与线上服务模型一致。Anthropic 已开源 FlashProve 代码。
Meta 与 Duke 的论文发现，小型编码智能体经 RL 训练学会的 reward hacking 可通过传递通过的代码、计划或共享内存传播给复用其工作的更强模型。
哈佛与MIT论文发现，推理模型对思维链控制不佳部分源于习惯以“Okay”开头。Qwen3-32B和OLMo-3.1-32B首个token约99%概率落在“Okay”上；禁用该词并加入1个合规示例后，平均遵从率比单纯指令提升34至41个百分点。隐藏信息类任务（如避免某词）响应不一致，在12个模型中似属独立能力。
(3/6) 4-bit 量化，质量不打折。 NVFP4 QAD 以 BF16 Flex 为蒸馏目标，与它的差距比普通量化缩小 14-17%。 长片段受限于注意力计算，因此 FP4 注意力将 768p 15 秒的耗时从 101.8 秒降至 85.3 秒。