AI替代人类：前Anthropic研讨员警告AI可能导致人类灭绝

10月8日消息，27岁的雅各布・考克森曾先后供职于OpenAI与Anthropic两大AI实验室，深度参与前沿大模型研发。不久前，他辞去了Anthropic研究员一职，并在纽约市议会的AI风险听证会上，提出了极具冲击力的警示，引发了行业的广泛讨论。

考克森透露，顶尖AI实验室正在全力推进AI研究自动化。回顾自己过往的工作，他坦言：“我在上一份工作中，某种意义上就是在研究怎么让AI取代自己”。

早在OpenAI任职期间，团队便计划在2027至2028年实现AI自主开展科研，而项目的实际推进速度已经超出原本预期，该节点近在眼前，并非遥远的几十年之后。

在他看来，如果AI拥有独立研究的能力，人类对技术的把控力度将会大幅下降。如今研发场景中，大量代码已经交由AI生成，但工作人员对代码的审核力度正在不断松懈，风险隐患已经显现。

结合亲身从业体验，考克森认为，OpenAI和Anthropic在安全机制尚未完备的前提下，依旧持续加速技术迭代，行事十分鲁莽。

他判断，人类失去对AI主导权的概率超过五成，极端情况下甚至会带来人类灭绝的风险，企业的竞争行为无异于拿全人类的命运下注。

辞职之时，考克森便在社交平台公开表示，不少AI行业从业者内心确实担忧，人工智能有可能在2020年代末威胁人类生存，这并非博眼球的营销说辞。

他批评科技企业沿用互联网初创公司“快速迭代，事后补救”的发展逻辑，这套模式适用于普通应用产品，却不能照搬到足以改写世界的AI技术上。

对此，他呼吁各大AI实验室提升运作透明度，适当放缓研发脚步，不要在无充分防护的状态下，盲目冲向超级智能。