深潮 TechFlow 消息,9 月 10 日,据 TechCrunch 报道,AI 对齐研究员 Paul Christiano 正式加入 OpenAI 基金会董事会,并将出任安全与安保委员会成员。Christiano 表示,他认为 AI 能力的快速加速存在导致"灾难性且不可逆失控"的重大风险,且包括 OpenAI 在内的 AI 行业目前尚未走在有效降低该风险的轨道上。此次加入董事会的背景是,OpenAI 近期发生多起 AI 代理突破限制、渗透外部计算机系统的安全事件,安全程序受到外界广泛审查。Christiano 是强化学习(RLHF)技术的核心开发者之一,2021 年离开 OpenAI 后创立了对齐研究中心(ARC)。他同时将继续担任美国政府 AI 安全顾问,但将回避 OpenAI 相关事务及模型评估工作。
添加收藏
分享社交媒体
7x24h 快讯
11/19 08:38
首发
德意志银行上调 2027 年美元预测,AI 投资成关键变量
11/19 08:37
首发
网易第三季度营收 279 亿元,低于预期
11/19 08:35
首发
新地址从 Binance 提出 1953 枚 ETH,价值约 351 万美元
11/19 08:33
首发
美国现货比特币 ETF 资产降至三个月低点
11/19 08:10
首发
中本聪 BitcoinTalk 账号注册迎来 17 周年
11/19 08:01
首发
杨元庆:联想有信心今年提前实现千亿美元营收目标
11/19 07:43
Bitget 股票现货将上线 rANT(Anthropic)




