从云到端,从中心到边缘,从大模型应用场景全面向企业端渗透的那一刻起,硬件的定义也开始重新被定义。
硬件这一概念本就是一个跟随技术演进的动态概念,在不同的阶段,它面临着不同的挑战和新的机遇。
那么,在人工智能领域处在大热趋势中的阶段,看似已经退化到笔记本电脑无用武之地的情况下,大模型又会将这些算力不足的硬件重新定向到哪里呢?
联想科技大会传递出哪些关键信息?
大模型掀起变革浪潮
过去五年间,人工智能正以爆炸性的程度改变着我们的生活。
尽管在这段时间里已经出现了许多令人惊奇的成果,但它们仍然只是整个故事的开端,随着我们对下一篇章的进入,更多的壮观场景将在我们的面前展开。
而在这些场景中,工具将会扮演着重要的角色。
我们可以把这些工具看作“硬件”,这一术语原本是指计算机内部构件的一系列组件,但如今,它正逐渐扩展为指设备、设备内装配的组件、外部接入连接设备的组件,以及与计算机交互的人和所涉及信息。
这一定义更广泛地考虑了工具的内涵,正是因为在人工智能领域中,工具在处理数据的方方面面都变得必不可少,不仅限于云上,还包括生成、使用、存储、传输和共享数据的方方面面。
这突出了人工智能技术深刻影响我们生活和工作的方方面面,这也促使我们重新考虑“硬件”这一术语的意义,让它更好地适应新的现实。
以往的“硬件”仅关注计算机内部构建部件之间的关系,而现在,它必须考虑所有因素,包括人类如何与计算机交互,数据如何被创建和使用,以及计算机如何在网络上进行通信。
人们通常认为,用于训练和使用模型的硬件是云中存在的机器。
但是,在大多数情况下,企业可能更愿意将模型应用于边缘设备上,以便以最低延迟直接利用数据,而不是通过云进行迂回。
例如,一旦企业满足了最小计算要求,他们可能会更愿意将最终经过验证的大模型应用于其办公场所和设备中的边缘计算设备,而不是在云中上传并让其通过云产生结果。
此外,由于企业越来越重视数据隐私,他们可能希望在本地处理数据,而不是上传到云中。
这将使硬件在本地处理大模型并分析数据,从而解决隐私保护问题,并进一步强调边缘计算设备的贡献。
为了满足企业场景中对边缘计算设备的新需求,企业所需的当前高性能 PC 硬件形式将是放置在桌面上的小型塔式电脑和一体机,以进行视频生产和3D建模等高性能活动,但随着企业整合更多大型模型,它们将需要更强大的桌面 PC。
随着“云计算”总是一个诱人的目标,虽然桌面 PC 是企业保存模型应用转变的重要组成部分,但数据的装载和分析也将在超大型服务器上进行。
对于传统数据工作负载,它们将变为高性能计算,因为 AI 是巨大的数据处理器。
消费版进展缓慢
消费者也越来越关心隐私问题,所以这可能意味着消费者也可能会更倾向于在个人 PC 上使用大模型。
由于许多当前流行的大型模型已被大量压缩,因此它们很有可能在家用 PC 上运行。
然而,由于这些主流模型并不是那么流行,因此就算即使它们可以运行,大多数消费者也不会选择这样做,因为他们希望使用最新版本。
对于消费者而言,能够在自己的机器上使用大型模型是一个有吸引力的前景,但他们也希望利用大型模型背后的最新进展。
因此,对于消费者来说,如何平衡隐私和更新成为了一个关键问题。
云中的服务提供商有能力维护最新版本并将它们普及给用户,同时确保用户的隐私权被尊重并受到保护。
然而,尽管消费者可能会享受这种便捷,他们仍然对自己的数据安全有顾虑,因此许多人会希望保留在本地使用大型模型的能力,以确保他们的数据不会被滥用或泄露。
然而,由于许多当前主流的大型模型已经被压缩到可以在个人 PC 上运行的程度,这使得消费者可以在不牺牲最新进展的情况下享受个人隐私的保障。
这意味着,随着大型模型不断与新版本进行竞争,消费者将能够获得更多选择,他们可以根据自己的需求权衡隐私和更新之间的平衡。
由于大量数据驱动企业需要进行大量 AI 重新训练工作,其结果也将继续不断释放新型桌面工作站机箱,并提供中端 GPU 以实现必要的新范式。
此时,本世纪初最受欢迎之一的用例突然焕发了新生命,也就是用嵌入式 GPU 进行视频游戏制作。
然而,与此同时,大型计算环境的扩展导致了用于 AI 的先进数据中心设计产生了有趣变化,使其引起了更多研究。
如今,由于下列原因之一或两个原因同时发生,液冷技术正在变得更具经济性:
首先是因为服务器密度正在增加,这意味着数据中心对有效制冷机制的需求正在加大。
液冷是一种更高效的冷却技术,因为它比传统空气冷却更能有效地从服务器上带走热量,从而保持服务器在最佳性能范围内运行。
其次,经济方面是由于液冷系统价格下降,这使得液冷技术对于更多数据中心来说是可行和负担得起的选择。
因此,在液冷技术不断进步和成本下降的背景下,它正在逐渐成为一种越来越热门的数据中心冷却解决方案。
云端硬件设计改变
大模型对硬件及其应用场景将产生什么影响?
首先,它们并非仅限消费品。
云生成服务也需要特定硬件才能使用大型模型生成服务。
超大型服务器将需要特定处理能力,同时具备最强大的 GPU 和我们的尖端芯片之间的平衡,这将提升我们的整体算力,以满足这些服务提供商对可交付资产类型的流行需求。
此外,我们需要加强国防,以确保这些特定处理器不会落入敌手。
这将促成我们的特定材料和产品来保持控制,以及我们对这些产品及其供应链安全性的关注,这将刺激一种新的创新形式,以确保我们的资产安全。
同时,随着超大型芯片用于 AI 的新的服务趋势,微芯片产业预计还将出现一系列新的功能和设计,以满足不断变化的计算需求。
此外,它们还可能曝露出新的软件漏洞,从而吸引新的安全解决方案,以确保我们的资产得到充分保护并防范潜在风险。
因此,随着大模型应用不断发展并影响各个领域,很可能会出现针对不同学习场景和需求开发专用设备的问题。
这些设备可能会结合人工智能技术,以增强理解能力、适应学习风格以及提供个性化指导。
这种新兴趋势将推动教育行业硬件需求转变,因为教育工作者会寻求利用人工智能工具来改善学生学习体验、提高效率和促进技能发展。
因此,在未来几年中,我们可能会看到针对教育行业专门设计的新型硬件涌现市场,为学生提供更个性化和有效的学习体验,同时提升教育工作者教授知识技能的新方法。