【资料图】
财联社11月3日讯(编辑 黄君芝)虽然市场的注意力大多集中在Anthropic最新修订后的S-1A文件中披露的财务数据上(收入飙升,但支出也同样飙升),但这家人工智能实验室在细则中又抛出了一颗小炸弹——公司已经非常接近做出具备RSI能力的模型。
在人工智能末日论者看来,RSI更是代表着一场无法挽回的灾难,人工智能将自身构建得足够强大,以至于超出人类的控制,并在实现目标的过程中对造成的破坏漠不关心。但对AI支持者而言,RSI将成为提高生产力、科学发现等方面的巨大工具。
看Anthropic的表述,似乎介于两者之间。
该公司在上述文件中指出,其在研发中大量使用AI,但同时提醒:“用AI去帮助构建能力更强的AI,也可能带来相当大的安全风险,尤其是在它急剧加快进展速度的时候。”这类风险被纳入公司的“负责任扩展政策”(RSP)加以监控。
“该政策阐述了我们在推进所谓‘递归式自我改进’的过程中,如何监测和降低风险的计划。”文件补充道、
今年早些时候,当RSI这个词流行起来时,许多人认为它只是一个流行词,或者充其量是一个难以实现、定义或证明的目标。
但周一,Anthropic 在其“风险因素”部分添加了新的声明,称:1)它已经使用人工智能开发了新的模型,但当时它并未意识到这些模型的能力有了飞跃;2)它可能很快就会符合其内部对RSI的定义:
不过,Anthropic公司在提交的文件中也表示,目前没有任何一款模型越过这条线,并承诺在可预见的未来继续让人类参与研发过程。
“我们预计,即便技术上可行,也无法在缺乏有效人工监督或理解的情况下,安全地使用Claude完全自主地设计和构建下一代前沿模型。因此,我们正在考虑更新我们的RSP,以确保人类始终掌控Anthropic前沿模型的开发。”文件称。
(财联社 黄君芝)
下一篇:最后一页
AI自我演进恐成现实?Anthropic招股书“埋暗雷”:已接近RSI模型!,rsi
CFi CN讯:数据显示,偏股型公募基金新发规模创2015年以来新高,主因主
数据宝统计,截至09:32,阳光照明成交额11 23亿元,创2015年8月21日以
离谱血亏!曼联900万甩卖真核!他比7000万巴莱巴强太多,曼联,加纳,埃弗
华泰期货:玻璃纯碱市场情绪悲观,盘面震荡整理
泰瑞机器筹划重要收购。交易所随后下发监管工作函。
【港股航空股反弹中国东方航空涨超6%】截至发稿,中国东方航空(00670 H
说谁呢?勇士老板:我们之前在选秀上选错了人,但伦德伯格选对了,选秀,
新华社赫尔辛基11月1日电(记者朱昊晨 徐谦)斯德哥尔摩消息:高龄、
格隆汇11月3日丨荧德控股(08535 HK)发布公告,该公司的股份将于今天(3
天眼查App显示,近日,万安县佳源食品店(个体工商户)成立,法定代表
据10月31日总台央广报道,日前,多家知名餐饮连锁品牌宣布,在全国门店
交易所最新数据显示,上海谊众于2026年11月2日获融资买入487 55万元,
天眼查App显示,近日,嘉兴华擎汽车零部件有限公司成立,法定代表人为
17分钟10中6砍16分,爱德华兹半场高效输出,多伦多猛龙队,明尼苏达森林
证券之星消息,11月2日,金融科技ETF富国基金(515720)最新份额为5 38
天眼查App显示,近日,丹阳市苏弘电气有限公司成立,法定代表人为任兰
pigout不是让猪出去,猪猪做错了什么?!,早安,强子,疯狂,梵高,pig,cast
希勒:世界足坛没有哪支球队的防守能比得上阿森纳,利物浦,阿尔特塔,世
萨索洛vs佛罗伦萨:马蒂奇、贝拉尔迪首发,德赫亚、马斯坦托诺出战,萨
博泰车联(02889 HK)收购目标公司20%股权通过反垄断审查
天眼查App显示,近日,景县承沛管业有限公司成立,法定代表人为王玉梅
米体:阿莫林助手卡洛斯-费尔南德斯是德比秘密武器,鲁本,德比,米兰,阿
证券之星消息,截至2026年11月2日收盘,潼关黄金(00340 HK)报收于2 2港
格隆汇11月2日丨景嘉微公布,根据长沙景嘉微电子股份有限公司2026年11
中国证监会有关部门负责人就近期稳市场稳预期相关工作答记者问
,证星持股追踪
南财智讯11月2日电,八马茶业(06980 HK)发布翌日披露报表,11月2日,
李金山获批担任唐山市丰南舜丰村镇银行董事
,证券时报网