近期，AI与大模型技术成为科技界的热门话题。虽然这些技术听起来玄乎，但它们是否真正改变了我们的日常生活呢？5月底，我前往台北参加了英特尔技术展，并就此采访了多位技术专家，深入了解了AI个人电脑的最新进展。
英特尔技术展亮点：Lunar Lake
此次技术展的焦点是英特尔发布的新一代移动处理器Lunar Lake。英特尔宣称这款处理器将引领AI个人电脑的变革。发布会上，英特尔对Lunar Lake寄予厚望，称其为AI个人电脑的革命性产品。然而，是否真的如此，还需从产品本身来看。
硬件架构的重大革新
Lunar Lake在硬件架构上进行了重大革新。最大的变化之一是内存焊接在处理器上。这种设计提高了内存读取效率，特别是对GPU和NPU这些对存储读写速度要求极高的计算模块非常有利。过去，AI大模型在本地运行时由于显存效率限制而表现不佳，现在这一瓶颈得以突破。
具体来说，把内存直接集成到处理器内部，使得内存读取效率大幅度提高。CPU、GPU和NPU这些计算单元与内存之间的通信效率大大增强。特别是对于GPU和NPU，这些需要高存储读写速度的并行计算模块，内存和处理器的紧密结合使它们能够更高效地执行任务。这意味着，过去那些在本地运行时因为显存效率问题而受限的AI大模型，现在能够更顺畅地运行。
算力与功耗的优化
英特尔在Lunar Lake的CPU、GPU和NPU上都加大了投入。GPU算力提升了1.5倍，NPU的加速单元从上代的两个增加到六个，算力翻了四倍以上。这一系列提升使得Lunar Lake在运行AI应用时的表现大幅改进。
不仅如此，内存焊接在处理器上还有助于显著降低计算核心存取数据的物理层功耗。再加上台积电的N3B制程支持，使得Lunar Lake整块芯片的功耗降低了40%。这不仅延长了笔记本电脑的待机时间，也为高功耗的AI应用提供了更充足的电量空间。未来，我们或许真的可以拥有一个24小时待命的智能助理。
AI生态系统的建设
英特尔正在持续构建自己的AI软件生态系统。目前，针对酷睿Ultra芯片优化的模型已经超过了500种。英特尔还在稳步推进对主流AI框架如PyTorch和TensorFlow的优化。此外，英特尔还发布了一款面向AI开发者的小主机，这款小主机的处理器未来可以升级，为AI开发提供了更多可能性。
值得一提的是，英特尔在开发者生态系统的构建上也投入了大量资源。他们不仅在硬件层面进行了优化，还在软件层面做了大量工作，以确保开发者能够充分利用Lunar Lake的硬件优势。例如，英特尔提供了优化的AI开发工具包，帮助开发者更高效地构建和部署AI模型。
实际应用场景
在技术展期间的讲座和闭门会议中，英特尔详细介绍了Lunar Lake在大模型小型化后的实际应用。新的XCR GPU的算力大幅提高，使得AI图像生成时间大幅缩短。例如，运行同样的AI生成程序，GPU的图像生成时间从上一代的13.3秒缩减到了Lunar Lake这代的6.3秒，时间减少了一半。而NPU的生成时间则从22.1秒压缩到5.8秒，仅为原来的四分之一。
这些提升不仅在技术上具有重要意义，也在实际应用中展现出了显著的改进。例如，对于需要高效图像生成的应用场景，如图像编辑和渲染，Lunar Lake的强大算力可以大幅缩短任务完成时间，提升用户体验。
关注用户体验的优化
在大语言模型的应用中，有一个关键问题是首字符问题。这指的是从用户提出问题到AI生成第一个字符之间的延迟。英特尔注意到了这个问题，并在硬件级别做了针对性的优化。NPU的存取数据单元性能扩增了2到4倍，这不仅加快了AI生成第一个字符的速度，也提高了后续字符生成的连贯性。
英特尔在硬件优化的同时，也对软件进行了相应的调整，以确保用户在使用AI应用时能够获得更顺畅的体验。通过提高NPU的存取性能，英特尔解决了大语言模型在应用中的一个痛点，大幅提升了用户体验。
英特尔的战略布局
在AI应用开发方面，英特尔对各种开源框架都非常重视，并将自身在AI方面的许多技术积累分享给了社区。然而，英特尔更多地将重心放在了ONNX这类应用框架上。英特尔认为，未来的AI应用关键在于速度快、体积小、耗电量低的小模型。当前的重心是先推出硬件产品，搭建硬件生态，等待小模型技术的突破。
在与开发者的交流中，英特尔表示他们对PyTorch等主流框架的优化也在进行中，但ONNX是当前的重点。英特尔认为，未来AI应用的最终形态是一个计算速度快、功耗低，能够在电脑后台全天待命的智能助理。为了实现这一目标，英特尔正在积极构建硬件和软件生态系统，确保在技术突破时能够迅速落地。
总结
英特尔技术展展示了他们在AI个人电脑领域的前瞻性布局。通过Lunar Lake的硬件革新和软件生态建设，英特尔正在为未来AI应用的广泛普及铺平道路。未来的智能助理或许并不遥远，而英特尔已经在这条路上迈出了重要的一步。
发表回复