美光企业副总裁暨存储部门总经理Jeremy Werner
手机、PC、数据中心、汽车……市场变革带来海量存储需求
随着人工智能（AI）技术，特别是生成式AI的快速发展，全球数据量预计将达到前所未有的数百ZB量级，这不仅对存储设备的性能和容量提出了更高要求，也对整个存储行业提出了新的挑战。 在CFMS 2024峰会期间，美光企业副总裁暨存储部门总经理Jeremy Werner，在其演讲《美光计算与存储：推动AI革命中，深入探讨了 AI技术在推动社会和企业变革方面的巨大潜力。在当天举行的媒体采访中，Jeremy Werner对与非网记者详细阐述了美光面对AI快速发展所带来的挑战和机遇，以及美光如何通过创新技术应对这些挑战。 通过深入讨论美光如何通过其存储和内存解决方案助力AI技术的发展，Werner展示了美光在推动技术革新方面的重要角色。从数据中心到边缘设备，无论是PC、智能手机还是汽车，美光的技术都在推动AI技术的发展，提升了处理性能和效率。 最近几年，AI技术的迅猛发展帮助人类解决了一系列的全球性挑战，从治疗疾病、解决饥饿问题到应对气候变化等，揭示了AI技术的广泛应用前景。AI技术也对边缘设备产业的发展产生了巨大影响，包括PC、智能手机和汽车。 Jeremy Werner对与非网记者表示，随着生成式AI技术逐渐进入PC领域，用户对更快的内存和存储的需求随之增长。而智能手机市场也伴随生成式AI技术的大量应用落地，对更高性能和更大容量的内存和存储的需求也随之增加。此外，随着无人驾驶技术的发展，汽车对内存和存储的需求将大幅增长。针对上述不同市场，美光凭借其广泛的产品组合和最高的可靠性标准，已准备好应对这些新增需求带来的挑战。
如何应对AI发展带来的挑战？
Werner首先指出，面对AI时代对性能和容量双重提升的需求，美光遇到的最大挑战之一是如何在不牺牲用户体验的前提下，提供更高效能和更大容量的存储解决方案。他强调了功耗管理的重要性，指出为了延长电池寿命并避免设备过热，必须精心设计和优化存储产品。此外，Werner还讨论了如何在提升存储容量的同时保持产品价格在消费者和客户端可接受的范围内，这是美光在市场竞争中需要解决的关键问题。 针对容量提升的挑战，Werner详细介绍了美光的QLC NAND技术及其在解决容量问题上的重要作用。他指出，通过QLC NAND，美光能够以非常低的成本不断提升存储容量，同时确保不会对用户体验产生负面影响。这一技术的应用，使得美光在全球市场上保持领先地位，尤其是在PC和其他电子设备的存储解决方案方面。Werner强调，通过对QLC技术的不断创新和优化，美光可以在容量、性能和成本之间找到最佳平衡，为消费者提供高性价比的产品。 在性能提升方面，Werner讨论了SSD技术的重要性，特别是在降低功耗和提高数据访问速度方面的应用。他说明了美光如何通过将SSD技术与硬件和固件紧密集成，优化设备的功耗管理和性能。这些技术的融合不仅提升了产品的整体性能，也使得它们能够更好地支持未来AI技术的发展需求。
如何助力数据中心的性能与功耗提升？
数据中心正成为AI技术发展的核心应用场景。Werner指出，数据中心最宝贵的资产是数据，而数据需要存储在内存和硬盘上。美光致力于推动数据中心的性能极限，通过高带宽内存(HBM)、高密度DDR5内存和创新的存储解决方案，如CXL内存和SSD驱，来提高GPU的数据处理效率和性能。 Werner分享了美光在HBM3E产品上取得的进展，这一技术不仅提高了性能，还降低了功耗。Werner特别提到了HBM3E技术的核心地位及其对AI未来的关键作用。HBM3E技术的推出，旨在满足高性能计算设备如GPU在AI和机器学习应用中对于极速数据传输的需求。通过这项技术，美光能够为GPU提供必要的数据支持，确保它们以最高效率运作。 此外，DDR5内存技术在提升容量密度和减少延迟方面取得了重大突破，进一步推动了数据中心的效率。在讨论美光的SSD技术时，Werner特别提到了9400 SSD对AI模型训练和推理性能的积极影响。这些技术进展不仅提高了数据处理的速度，还降低了延迟，为AI应用提供了必要的技术支撑。 除了推动数据中心的效率，美光还专注于数据中心的功耗管理。Werner详细解释了高效的冷却解决方案，包括水冷和浸入式冷却，对于保持大型GPU工作效率至关重要。通过HBM3E技术，美光能够在不牺牲性能的前提下，显著降低数据中心的总体功耗，从而提升整个系统的能效比。 据介绍，美光在解决数据中心的存储问题时，展现了其在技术创新和产品部署上的领先地位。通过不断推出如176层、232层NAND技术以及1α/1β DRAM技术等创新产品，显示了其在内存和存储领域的技术领导力。这些技术进步不仅提高了数据处理的效率和速度，也为用户带来了更高的性价比，展现了美光在提升存储产品性能和降低成本方面的不懈追求。 除此之外，Werner还介绍了美光在大容量固态硬盘（HCSSD）领域的进展，特别是美光6500 ION SSD的推出。这款产品基于业界领先的232层NAND制程工艺，超越了业界传统的192层标准，为AI大语言模型训练和其他数据密集型应用提供了强大的存储解决方案。这标志着美光在提供大容量、高性能SSD方面的持续创新和领先地位，满足了市场对于处理大规模数据集的迫切需求。
美光的核心策略和愿景是什么？
除了追求技术的领先性，美光科技对于产品设计的另一个关键考量是确保软件管理的简易性和高效性。由于每个存储层都具有其独特的复杂性，美光通过技术创新简化了存储管理，使得数据存取更为高效，同时降低了成本。例如，通过增强SSD的性能和降低其成本，美光希望能够让SSD层成为替代传统硬盘的更佳选择。这种策略不仅提升了数据访问的速度和效率，也为客户提供了更为经济实惠的存储方案。 在追求技术创新的同时，美光非常重视产品的信任度和可信度。美光确保每当推出新产品时，市场上都能够即时找到，这反映了美光对市场需求快速响应的能力和对客户承诺的坚持。Werner表示，美光的每一项技术创新和产品推出，都是为了真正意义上帮助客户解决问题，提升其数据处理和存储的能力。除了在产品和技术上的不断创新外，美光还通过提供立即可用的解决方案，加强了与客户之间的信任关系，进一步巩固了其作为存储解决方案领域领导者的地位。 在面对AI时代的挑战和机遇时，美光科技的策略和愿景显得尤为关键。作为全球领先的创新内存和存储解决方案提供商，美光科技对于未来存储产品的发展有着清晰而深远的见解。其核心理念是“建立客户和市场的信任”。Jeremy Werner认为，无论是数据的存储还是调用，信任都是最宝贵的资产。这种信任不仅体现在产品的安全性、性能、耐用性、服务质量、延迟、容量和价格等多个方面，而且还涉及到对客户隐私和敏感信息的保护。这表明，美光不仅追求技术上的卓越，也深刻理解了在当今社会中，数据安全和隐私保护的重要性。
CXL还是HBM？存储技术的未来趋势
对于高端存储芯片的未来，Werner表达了其对于技术进步和市场变革的乐观态度。随着AI技术的不断进步，对于存储性能和容量的要求也在不断提升。美光认为，高性能、低成本的SSD将在未来的存储市场中扮演越来越重要的角色，逐步取代传统的存储解决方案。这一过程虽然可能需要较长时间，但随着技术的成熟和市场的适应，高端存储芯片的发展势头将更加迅猛。 Werner还探讨了针对AI市场的存储产品技术革新。对于近期出现的如索尼的硬盘容量翻倍技术，以及光存储技术的突破。Werner认为，这些创新展示了存储技术领域的活力和多样化的发展方向。然而，Werner强调，一个新技术要想在市场上取得成功并成为主流，必须满足两个关键条件：具有竞争力的成本和用户的广泛接受。即使是具有技术先进性的解决方案，也必须考虑到其商业化的可行性，以及如何在实际应用中为用户带来真正的价值。 在对CXL技术和未来存储解决方案的展望中，Werner认为，CXL技术依然拥有其在未来市场中不可替代的位置。随着数据处理需求的增加，以及对于更高效、成本效益更好的存储解决方案的追求，CXL作为一种高速、高效的连接技术，提供了一个在高性能计算环境中灵活扩展内存和存储资源的可能。在处理大规模AI模型或庞大的数据库时，传统的多socket CPU服务器配置可能不再是成本效益最优的选择。CXL技术的引入，可以使系统设计师利用较少的CPU sockets（例如1-2个），通过CXL高速互联来实现DRAM的扩展，这不仅减少了硬件成本，同时也提高了系统的整体效率和灵活性。 关于CXL技术以及其与HBM在未来高性能计算中的互补性，Werner认为CXL和HBM都在高性能计算时代扮演着重要角色。随着HBM的容量快速增加，将催生更多的内存及相关设备容量的扩张，需要更多的本地存储以实现更好的配合。CXL技术在这一进程中将发挥关键作用，尤其在支持大加速器内存概念方面显示出其重要性，即GPU能够直接从系统内存和存储设备中获取数据，无需CPU参与。这一进展不仅标志着存储技术的进一步发展，也为市场发展提供了更多潜力和空间。 最后，针对生成式AI和文生视频的发展，Werner也发表了自己的观点。他认为随着文生视频技术的普及，预期会产生大量的视频内容，这将对存储产品产生重大影响。生成的视频不仅数量庞大，而且由于人们倾向于保留而不删除这些内容，因此对存储容量的需求将会大幅增长。这种趋势对存储市场来说是一个利好消息，预示着未来将会有爆炸式的增长需求。 综上所述，生成式AI和文生视频技术的兴起，以及CXL与HBM的互补使用，都预示着对高性能、大容量存储产品的需求将会显著增长。这对美光而言既是挑战也是机遇，要求行业持续创新以满足未来的存储需求。Werner最后指出，随着人工智能技术的进步和应用领域的扩展，存储解决方案必须不断创新以适应更加复杂的计算需求和数据管理挑战。
