热门Claude系列模型背后的公司Anthropic向世界发出警告：神经网络技术可能即将迎来巨大飞跃。目前，这些系统拥有强大的加速踏板，却缺乏有效的制动机制。
专家指出，主要挑战在于递归式自我改进——即一个人工智能系统独立训练、创建并部署更先进版本自身的场景。例如，Claude已生成公司约80%的代码，而人类主要负责监督和验证输出结果。
随着这些流程日益自主化，人类面临一系列关乎存亡的问题。我们或许将不再完全理解这些系统的运作方式，这使得全球AI监管成为全世界的关键议题。简而言之：在一个日益由神经技术塑造的世界中，人类将扮演什么角色？