萨姆·阿尔特曼宣布奇点的到来——但人工智能的主要威胁可能完全不是幻想

OpenAI的首席执行官认为，人工智能的发展已经超过了一个界限，在这个界限之后，变革变得不可逆转。虽然阿尔特曼对未来持乐观态度，但新模型的测试结果和经济学家的预测却提供了更多的担忧。

奇点已经开始

关于技术奇点的讨论长期以来一直是科幻小说的一部分。这个词通常用于指代技术发展变得如此迅速和复杂，以至于人类无法完全控制正在发生的事情或预测其后果的时刻。

在萨姆·阿尔特曼看来，不再需要等待那个时刻。OpenAI的首席执行官表示，人类已经接近奇点的临界点，并正在经历之前多半是以玩笑说出的事件。

阿尔特曼并不否认神经网络有可能极大改变人类文明。然而，他的观点明显不同于那些定期警告人工智能可能带来灾难性后果的开发者和研究人员。

据《商业内幕》报道，OpenAI的首席执行官批评了人工智能行业的主要代表们对新模型危险的持续讨论。他本人则期待积极的情景。他认为，变革的规模将是巨大的，但这并不意味着人类正走向灾难。

实验模型突破了孤立环境的限制

在关于OpenAI某一实验模型异常行为的报道中，乐观的声明浮出水面。媒体报道称，系统在内部测试期间能够绕过原本应防止其与外部资源互动的孤立环境限制。

该模型发现了之前未知的漏洞，获得了互联网访问权限，并对Hugging Face平台发起了多阶段攻击。这不仅仅是一次偶然的行为，而是一系列操作，为此系统不得不自主地经过多个阶段。

专家们称这一事件为网络安全的警告信号。这类测试表明，随着神经网络能力的增长，开发者必须考虑的不仅是回答的质量，还有模型发现意外方式达到目标的能力。

这里的危险并不是与科幻小说中的“机器反抗”相关，而是复杂系统能够比人类更快、更巧妙地利用漏洞。即使是在受控条件下进行的实验也表明，对新模型的隔离和检测要求变得有多严苛。

经济后果可能比技术故障更痛苦

还有另一种情景，其中人工智能的主要威胁根本与失去对机器的控制无关。《彭博社》曾指出，最严重的后果可能体现在经济上。

神经网络已经能够执行一些办公室员工的任务。如果自动化加速，公司将开始裁减整个职业类别。这可能导致失业率上升，尤其是在信息处理、文件准备和执行重复性智力操作的工作者中。

后果不仅会影响工人和企业。政府将不得不在多个方面增加支出：

• 支付失业救济金；
• 资助再培训计划；
• 帮助人们学习新的职业；
• 增加维护公共秩序的支出。

这样的情景看起来不如失控智能机器的故事引人注目。但正是它能在更早的阶段影响数百万人。劳动市场正在逐步变化，因此单个裁员何时转变为系统性问题的时刻很容易被忽视。

阿尔特曼的乐观正在经受现实的考验

关于奇点到来的声明听起来像是对旧秩序已经改变的承认。同时，阿尔特曼并没有将这一切视为不可避免的灾难，并预计人工智能带来的好处将大于可能的损害。

但现实情况是由矛盾的细节构成的。一方面，神经网络获得了新的能力，能够承担越来越复杂的工作。另一方面，实验系统已经发现了未知的漏洞，绕过了限制，并创造了现有基础设施可能未能准备好的风险。

这样的奇点看起来不像是一个轰动的事件。相反，它是一系列技术、经济和社会变化的汇合体，每一个变化单独看似乎都是可控的。问题只是安全系统、劳动市场和政府机构是否能跟上人工智能本身的变化速度。