为什么当前的人工智能架构可能会成为死胡同
本文探讨了现代人工智能架构的挑战和局限性,这些问题可能导致其停滞不前。讨论了可能的发展路径和替代方法,以避免未来的僵局情况。
QRazy 的主要發現
- 现代人工智能基于提升计算能力,而不是新计算原则。
- 人脑在执行任务时使用更少的能量,并更有效地分配资源。
- 将内存和计算结合起来可以显著提高能源效率,并改变人工智能的发展。
尽管神经网络取得了令人印象深刻的进展,越来越多的专家开始质疑:现代人工智能的发展方向是否正确?也许下一个技术飞跃需要的不是更强大的显卡,而是完全不同的计算系统构建原则。
更多计算并不总是更好
近年来,人工智能取得了真正的突破。模型学会了写作、创建图像、分析数据并解决曾经看似无法实现的问题。然而,仔细观察后可以发现,这种进展主要基于相同的方法:模型规模、数据量和计算能力的增加。
实际上,行业继续发展现有架构,使其更加规模化和高效。这更像是对已知技术的渐进性演变,而非转向根本新的计算系统。
大脑的高效性无可比拟
将现代神经网络与人脑进行比较时,特别明显的对比让人深思。生物神经系统的能耗大约为20瓦特,而训练和运行先进模型需要整个数据中心、成千上万的图形加速器和巨大的电力消耗。
这种差异令人深思:如果自然能够创造出如此高效的系统,为什么现代计算机却不得不消耗不计其数的资源才能接近类似的能力呢?
大脑不会同时使用所有资源
大脑高效性的一个原因被认为是它的工作原理。在执行特定任务时,仅激活当前确实需要的区域。系统的其余部分不会在不必要的情况下消耗能量。
这种负载分配使得能够在不同时刻执行复杂的过程,而无需同时调动所有的计算潜力。
同时,大脑不仅仅使用电信号。复杂的化学过程也扮演着重要角色,使神经连接不断变化和适应。尽管与现代电子设备相比,神经元间信号传递的速度相对较低,但这种组织在解决智能任务时表现出极其高效的特性。
记忆与计算协同工作
生物智能的另一个特点是,记忆几乎无法与计算分开。信息直接存储在神经元和突触的网络中,而这些连接在工作过程中不断变化。
换句话说,大脑同时存储信息、处理信息并继续学习。
现代人工智能系统的结构有所不同。在执行请求时,模型主要使用预先训练好的权重。训练本身则是在另一个阶段、其他计算资源上进行,通常使用不同的数据量。
结果,记忆和计算作为两个独立的过程存在,这不可避免地增加了整个系统的复杂性。
现代AI系统能量的浪费
现代计算机系统的很大一部分资源根本没有用于计算。巨大的开销源于内存与计算设备之间的数据持续交换,以及单独执行模型训练的必要性。
在计算机的不同组件之间传送庞大的信息量成为限制现有架构效率的因素之一。
下一阶段可能开始于新的硬件架构
正因如此,许多人考虑人工智能完全不同的发展道路。如果将记忆和计算结合成一个统一的机制,类似于人脑,那么在不同设备之间不断移动数据的必要性将大大减少。
这种方法有潜力显著提高计算系统的能效,并改变未来模型的工作原理。
在这种情况下,人工智能的发展将不是通过无限增加参数和计算能力,而是通过更换计算机的基础架构来实现。
大脑的灵活性不仅体现在计算中
人脑的一个有趣特点是其不断改变自身结构的能力。一些神经连接得到加强,另一些逐渐减弱,而在整个生命过程中,新连接不断产生。
有时候,正是这种非常规的重组导致了意想不到的想法和原创解决方案。当然,这并不意味着任何随机变化本身都是有益的,但生物系统本身并不是绝对不变和确定的。
或许,正是物理上重组自身结构的能力在工作过程中为人类智力提供了现代算法尚无法复制的灵活性。
发展是一个开始,而非终点
现代人工智能已经改变了许多行业,并学会了执行几年前看似幻想的任务。但这并不意味着当前的架构将成为技术发展最终阶段。
当前的技术突破可能只有在研究人员提出全新的信息存储、处理和改变方式,更加贴近人脑的工作原则时才会发生。
在这种情况下,人工智能的下一个重大飞跃可能与包含数万亿参数的模型无关,而是与一种根本新的计算架构的出现有关,这种架构将改变我们对智能机器应如何工作的认识。
