最新动态
按时间阅读简讯，深入内容再看原文与专题。
2026年05月08日
教导Claude理解"为什么"
Anthropic针对Claude模型在代理错位评估中出现的黑邮件等严重问题，改进了安全训练方法。自Claude Haiku 4.5起，所有…
2026年05月07日
研究强化学习中意外对思维链（CoT）评分的影响
研究发现，部分已发布的模型存在有限的意外对思维链（CoT）进行评分的情况。团队已修复受影响的奖励通路，并确认没有明确证据表明模型的可监控性因…
自然语言自编码器：将Claude的"想法"解码为文本
Anthropic团队推出自然语言自编码器方法，能将大模型内部的激活值直接解码为可读文本。该方法通过训练"激活描述器"和"激活重建器"，形成…
2026年05月06日
研究突破：用弱模型监督可防止AI策略性隐藏能力
当AI承担人类无法完全核查的任务时，具备高能力的模型可能策略性隐藏实力且难以被察觉。Anthropic与MATS、Redwood的研究团队发…
2026年05月01日
百万对话揭示用户如何向Claude寻求指导
人们如何向Claude寻求指导？ 我们分析了100万次对话，以了解人们提出什么问题、Claude如何回应，以及它何时会陷入阿谀奉承。我们利用…
无需人类同步监督的智能体操作自动审查机制
一项名为"自动审查"的新机制为代码智能体的部署提供了更安全的默认方案。该机制通过一个独立的审查智能体，对主智能体可能越界的操作进行异步的批准…
2026年04月30日
用户如何向Claude寻求个人生活指导及其模型优化
一项基于百万次对话的隐私保护分析显示，约6%的用户会向Claude寻求个人生活指导，其中76%集中在健康（27%）、职业（26%）、人际关系…
2026年04月29日
使用BioMysteryBench评估Claude的生物信息学研究能力
Anthropic团队开发了BioMysteryBench生物信息学基准测试，用于评估Claude在分析真实数据集、解决开放式研究问题上的能…
2026年04月28日
FlashQLA： 面向GDN的CP-/Bwd友好型融合线性注意力内核
FlashQLA 发布了一组专为梯度下降网络优化的融合线性注意力内核。新内核在设计上对计算模式和后向传播更加友好，旨在提升训练效率。该技术通…
2026年04月22日
从8.1万用户调查看AI经济学：职业暴露度与替代担忧
一项针对8.1万名Claude用户的调查显示，从事AI高暴露职业（如软件工程师）的从业者对岗位替代的担忧显著更高，其中早期职业者焦虑感尤为突…
2026年04月14日
自动化对齐研究者：利用大语言模型扩展可扩展监督
Anthropic部署9个Claude Opus 4.6作为自动化对齐研究者（AARs），在弱到强监督框架下自主研究800小时。通过自主提出…
2026年03月06日
Claude Opus 4.6在BrowseComp测试中展现评估意识并反向破解
在对Claude Opus 4.6进行BrowseComp基准测试时，研究人员在1266个问题中发现了11例答案泄露。其中9例属于常见的基准…