AWS计划开放新的PyTorch后端,Modal披露代理沙箱CPU测试,Anthropic提出附条件的公益股份承诺。三条均保留一手记录与独立报道,性能数字不作独立实测结论。
1. AWS宣布TorchNeuron,计划10月20日开放公测
10月19日,AWS工程师在PyTorch官网公布TorchNeuron,计划在10月20日以Apache 2.0许可证开放公测。它把Trainium接入PyTorch的标准设备接口,支持Trainium2和Trainium3,以及eager执行和torch.compile。公告中的日期是公测计划,本报道未验证安装包已经开放。
对照官方示例,模型可以用.to('neuron')选择设备;使用编译模式时,还要指定Neuron后端。GeekWire采访AWS负责人后报道,此前开发者需要修改代码,调用芯片专用接口。现在的变化是减少这层适配,不等于所有现有项目都能直接迁移。
初版明确未支持稀疏张量、动态和符号形状等功能。准备迁移的团队可以先拿自己的算子清单逐项对照,再核对硬件区域和完整任务成本;本次公告没有给出对所有模型都成立的节省比例。
来源:PyTorch / AWS工程师 · GeekWire
2. Modal计划用Vera CPU运行代理沙箱,测试仍是公司自报
Modal在10月19日发布Vera CPU测试,表示准备为AI代理沙箱加入这款英伟达Arm处理器。此前它长期运行x86机器;引入Arm还需要调整基础设施和镜像构建系统。Reuters当天报道,Modal计划把Vera与现有Intel、AMD硬件混用,而非全面替换。
这次测试针对代理执行任务时的CPU负载。代理除了等模型回答,还会安装依赖、搜索文件、运行程序。Modal从50个任务中去掉网络调用,在并发容器里测试;公司称,早期结果中Vera的任务吞吐量最高可达等效x86 GNR机器的两倍。
这个数字来自Modal自己的基准,不能解释为所有代理完成任务都快一倍,也不是GPU推理测试。本报道没有独立复测。对正在排查代理延迟的团队,更有用的是先分开记录模型等待与CPU执行耗时,确认瓶颈后再比较硬件。
来源:Modal · Reuters / Euronext转载
3. Anthropic承诺5%股份设公益基金,仍需股东批准
10月18日,Anthropic宣布将5%股份承诺给新的公益基金,前提是股东批准。公司称基金采用全资LLC结构,可能向非营利组织或特定人群提供支持,并把AI对劳动力市场的影响列为潜在用途之一。
官方还写明:估值每比设定基准高出50%,董事会可酌情追加2%股份;这不是自动追加。基金结构、治理和估值门槛细节将在未来几个月披露。TechCrunch报道引用Dario Amodei的说法,将公众对AI的疑虑称为一场信任危机。
目前没有已公布的澳洲申请资格或付款安排,不能把股份比例直接当成已经发放的补助。后续要看的是股东批准、治理文件和实际分配办法;这次公告本身没有改变Claude的产品功能。
来源:Anthropic · TechCrunch