Anthropic 研究员警告“AI 灭绝人类”后，美国两党议员呼吁政府采取更多行动

IT之家 9 月 12 日消息，在 Anthropic 两位研究员的警告指出，快速推进的人工智能可能在短期内引发人类灭绝后，越来越多的美国国会议员开始呼吁制定新的人工智能监管措施。

本周，Anthropic 研究员雅各布·考克森宣布离职。“那些真正致力于人工智能开发的人相信，AI 可能在本世纪 20 年代末之前消灭我们所有人。”这番言论进一步放大了外界对 AI 潜在危险的关注。

随后，Anthropic 科学家埃文·胡宾格在 X 平台上公开支持考克森的观点。“我们确实真诚地认为，AI 可能消灭所有人类。我个人认为，未来十年内这种情况发生的可能性超过 10%。”

这些警告发出之际，AI 智能体失控侵入外部系统、AI 安全研究人员因担忧技术风险而离职的事件接连出现。美国民主党和共和党议员对此都表达了警觉，并呼吁政府加大行动力度。

亚利桑那州民主党参议员马克·凯利在 X 上呼吁：“华盛顿需要清醒过来，并且严肃对待这个问题。”

得克萨斯州共和党参议员特德·克鲁兹在电视节目《The View》中，也提到了针对 AI“灾难性风险”的监管立法。

佛罗里达州共和党众议员安娜·保利娜·卢娜则在 X 上呼吁众议院议长迈克·约翰逊召开“AI 特别会议”。美国众议院本周处于休会状态，计划下周恢复工作。

美国总统特朗普则表态称，自己并不担心 AI 最终导致人类灭绝。“我担心的是，如果我们无法在 AI 竞争中获胜，我们将陷入非常糟糕的境地。”

当地时间周四，Anthropic 发言人表示，公司将继续积极测试在网络安全、生物学等领域具有危险能力的模型。公司希望与整个 AI 行业合作，共同讨论发布新 AI 工具的节奏。

Anthropic 正在筹备上市，部分投资者认为公司潜在估值可能达到 2 万亿美元（IT之家注：现汇率约合 13.45 万亿元人民币）。

OpenAI CEO 萨姆·奥尔特曼本周在内部会议上告诉员工，公司愿意放慢 AI 系统研发速度。本周早些时候，OpenAI 还表示支持美国实施强制性的全国 AI 安全要求。