保罗・克里斯蒂亚诺于 9 月加入 OpenAI 基金会董事会。他表示,近几个月 AI 技术飞速迭代,致使他对 AI 风险的判断进一步趋于悲观。
知名 AI 安全研究者、OpenAI 管控机构董事会成员保罗・克里斯蒂亚诺,在一档热门科技播客访谈中对 AI 发展前景发出警示。他称,人类在明年彻底失去对人工智能的掌控的概率正在快速上升。
这档播客节目主持人是德瓦克什・帕特尔,节目受众达数百万人,其中包含大量科技行业从业者。克里斯蒂亚诺在周一播出的访谈中表示:“以当下情况判断,存在不小的概率:未来六个月内,就会出现一场造成大量人员死亡,或是颠覆现有政府秩序的灾难。”
克里斯蒂亚诺表示,上述灾难是否会成真,取决于 AI 技术后续的迭代速度。他还提到,借助递归自我迭代技术,AI 模型可以实现自我优化,因此他认为在未来一年,AI 有可能发展至危险临界点,该概率处于 “相当高的水平”。
克里斯蒂亚诺任职于伯克利的非营利机构对齐研究中心,该机构主攻 AI 对齐研究。他长期深耕 AI 研究,一直公开警示 AI 安全隐患,并于今年 9 月进入掌控 OpenAI 主体的 OpenAI 基金会董事会。他在访谈中着重说明,以上观点仅代表个人立场,并不代表 OpenAI 董事会。
他刚加入董事会时曾估算:未来一年,人类失去对 AI 的控制并引发灾难的风险约为 4%。
而在周一的访谈中他谈到,过去数月模型能力进步幅度巨大,如今他评估,未来一年发生 AI 失控接管事件的风险,“已经从 1% 上升至接近 10%”。他补充,如果各大企业不采取更多防范措施、遏制 AI 开发带来的风险,该风险估值还将 “大幅走高”。
来源:环球市场播报
AI智能分析该文,为您挖掘投资机会该AI功能处于试用阶段,内容仅供参考,请仔细甄别!
展开 

全部评论
机会情报
- 蚂蚁数科达成标志性跨国合作,提升国产金融AI产业链受益预期
- 先进封装扩产,本轮行业景气度已从产能利用率修复转向量价齐升
- AI算力芯片迎来风口,多家公司加速布局
- 霍尔木兹海峡油轮触雷爆炸,地缘风险溢价持续发酵(附概念股)
- 供给紧张格局有望延续至2027年, PCB迎来新一轮高景气上行周期
- 广东出台“十五五”数字建设规划,IDC及算力配套板块迎来新机遇
- 能源局发文加快流域水风光一体化发展,优质风光资产迎重估(附概念股)
- 6G迎政策与技术双重催化!八省市协同试点提速 赛道成长空间广阔(附概念股)
- 晶圆代工再度调价预示需求火热,涨价红利或延续至2027年(附概念股)
- 2026-2027冰雪季“消费提前至少一个月”!打开更广阔的市场前景
