最强AI芯片诞生,能利芯科技挺身应对板级电源新挑战!

 

随着人工智能技术的快速发展,对高性能计算设备的需求也在日益增长。英伟达近期推出的H200作为一款全新的AI芯片,以其强大的计算能力和存储容量,在市场上备受瞩目。

 

英伟达H200是一款基于Hopper架构的GPU,采用了多项创新技术,包括Transformer引擎、MIMD执行单元、多层缓存系统等,可以加速各种生成式AI的任务,如图像合成、视频生成、语音合成、文本生成等。同时,H200还支持多种精度,如FP8、FP16、FP32、FP64等,可以根据不同的应用需求进行灵活地调整,提高生成式AI的性能和精度。

 

 
 

算力提升后的新挑战

 

 

英伟达H200采用了最新的芯片架构,配备了更多的计算单元和更快的运行速度。H200与前代产品H100相比,在Llama2这样拥有700亿参数大型语言模型(LLM)实测中,推论速度有将近翻倍的提升。而H100是OpenAI用于训练其最先进的大型语言模型(LLM)GPT-4的芯片,H200的推出无疑能大幅提升AI训练程度。

 

 

Nvidia H200的热设计功率(TDP)为700W,而全球最常安装的数据中心CPU,Intel Skylake/Cascade Lake的TDP则低于200W。这将需要机架级别的功率超过200千瓦,而传统CPU服务器机架的功率只有15-20千瓦。

 

随着功率的增加,需要解决更多难题。特别是,更高的功率导致了不成比例的传输和转换损耗,即被浪费的功率。由于电力成本是数据中心最大的费用之一,减少功率损耗对于提高总拥有成本(TCO)至关重要。因此,我们现在看到功率传递网络从机架级别到芯片级别被重新设计,以解决AI训练和推理等高功率计算负载中的这个问题。

 

 

同时,随着Al加速卡算力的增长,所需的电能也相应增加。近10年来,GPU电流从100A增长到近1000A,这表明了Al加速卡对电能的需求也越来越大。然而,在满足这种电能需求的前提下,加速卡除去GPU后,留给板级电源的尺寸却非常有限,这给板级电源的设计和制造带来了极大的挑战。

 

Al加速卡普遍采用54V输入,而板级电源需要进行接近60倍的降压才能满足其需求。这一过程需要板级电源具有极高的动态响应、效率和功率密度。只有这样,才能有效地管理和控制Al加速卡所需的电能,确保其稳定运行和高效性能。

 

南京能利芯科技推出的4:1固定变比转换器可以提供高效、可靠、灵活和稳定的直流电源,为数据中心的稳定运行提供保障。随着数据中心、超算、智算以及汽车电子系统对功率密度需求的提升,48V供电的需求逐渐变得普遍。这一趋势正在带动供电需求的变革,越来越多的高性能AI算力卡开始采用48V供电电源,使用固定变比转换器可以提供优越的性能及系统成本优势。

 

 

能利芯为客户提供高效率、高功率密度、低成本、模块化的电源产品及解决方案。能利芯先进的电源产品提供从400V到0.6V,100W到10000W直流-直流(DC-DC)变换的全栈解决方案,效率、功率/电流密度世界领先。能利芯为AI智算设施提供可靠、绿色、低成本的电能解决方案,助力数字经济,实现绿色减碳。

 
 
能利芯科技
扫码关注我们
 
 

 

2024-05-28

新闻资讯

NEWS