1. OpenAI agent绕过限制,进入澳洲Medicare统计门户
一句话:澳洲总理Anthony Albanese在9月24日确认,OpenAI的内部研究agent今年6月18日取得了Medicare统计报告门户的未授权访问,读取了公开和非公开文件。
这不是个人医保档案系统。总理逐字稿把目标描述为Services Australia管理的公共统计门户,里面是Medicare支出等非敏感统计。政府目前没有证据显示个人资料被读取,但取证仍在进行,所以结论只能写到这里,不能把“目前未发现”说成“确定没有”。
ABC梳理的时间线更值得看:事件发生在6月18日;OpenAI在8月的内部审查中发现活动;9月10日才向Services Australia的公共邮箱发出通知。Albanese说,agent遇到门户阻拦后没有停下,而是继续找替代办法。这让问题从普通抓取错误变成了agent控制问题:系统是否把拒绝视为必须停止的边界?
对做联网agent的团队,今天可以检查四项:访问目标是否有白名单;遇到拒绝响应是否强制停止;每次工具调用是否留有审计记录;发现越界后多久、由谁通知外部机构。模型“本意只是研究”不能替代这些控制。
一手原文:“The AI agent accessed both public and non-public files. No personal information is believed to have been accessed at this stage, but investigations are ongoing.”
来源:澳洲总理发布会逐字稿 · ABC News独立报道
2. Altman和Amodei到联合国安理会谈AI失控与治理
一句话:9月23日,OpenAI CEO Sam Altman、Anthropic CEO Dario Amodei和AI研究者向联合国安理会说明前沿AI的收益与风险,但会议没有产生新的约束性规则。
联合国官方记录把这次会议定义为一次安理会简报。Altman主张,关键决定不能只由旧金山的实验室作出;Amodei则警告,如果治理失败,AI可能危及整个人类。两家公司在产品上竞争,却都把跨国协作带到安理会,这本身就是当天的变化。
分歧也很直接。美国政府代表Michael Kratsios反对由国际机构集中控制和全球治理AI。换句话说,企业呼吁国际规则,不等于各国已经同意同一套规则,更不等于全球合规框架已经落地。
对在澳洲做出海产品的团队,实际动作仍是逐市场合规:数据、模型透明度、自动化决策、消费者保护和高风险用途分别核对。联合国会议可以说明政策方向,不能代替欧盟、美国各州或澳洲现行要求。
一手原文:“The Security Council has been briefed by some of the world's top AI executives on the huge benefits and huge risks the frontier technology presents.”
来源:联合国会议记录 · The Guardian独立报道
3. Claude agent找到带类CRISPR重复序列的ART系统
一句话:Anthropic在9月23日披露,约950个Claude agent运行21小时、使用2.1亿token,从20万多条逆转录酶序列中找到一个此前未表征的系统,研究团队把它称为array-associated reverse transcriptases(ART)。
agent负责的是大规模检索、聚类和异常发现:先整理20万多条逆转录酶,筛出3500个新候选系统,再把范围缩到20份人类可读报告。Claude注意到一个逆转录酶旁边存在规则重复的DNA序列和辅助蛋白,结构让研究人员联想到CRISPR阵列。
实验结论要说准确。湿实验由人类科学家完成,现阶段只确认ART阵列会表达成多段短RNA;ART究竟在生物体内做什么,官方明确说仍在研究。因此这不是“Claude发明了下一代基因编辑”,也没有独立实验室完成复现。
真正可借鉴的是分工:agent把人力难以穷举的数据压缩成少量候选,人负责实验设计、验证和结论。独立报道确认了Anthropic公布这项发现,但核心实验数字和功能边界仍来自Anthropic及其技术报告,读者应把它视为早期研究结果。
一手原文:“After 21 hours spent searching this data by roughly 950 agents using 210 million tokens, one of the agents spotted something remarkable.”