AI训练性能提高2.5倍，三星使用96张改造的AMDInstinctMI

三星使用内置PIM的显卡构建了世界上第一个大规模计算系统。引用Business Korea，使用PIM改装的96 AMD Instinct MI100 GPU，AI训练的性能提升了2.5倍。

PIM是一种新型的计算机内存，可以加速CPU和GPU的处理能力。PIM最大的特点是每个内存模块都可以自己处理数据，从而减少了内存和处理器之间需要传输的数据量。

三星在今年10月公开展示了PIM修改的GPU，现在该公司已经将96个PIM修改的GPU放在集群中。与普通显存相比，这些改进的MI100芯片不仅性能提升了2.5倍，功耗也降低了2.67倍，大大提高了GPU运行AI算法时的效率。

三星PIM已经发展了一段时间。该公司在2021年展示了多种实施方案，涉及多种不同的内存类型，包括DDR4、LPDDR5X、GDDR6和HBM2。在LPDDR5的形式下，三星在涉及Meta AI工作负载的测试程序中，性能提高了1.8倍，功耗降低了42.6%，延迟降低了70%。

IT之家了解到，AMD Instinct MI100加速器的设计完全是为了迎接新的计算时代。1MI100加速器采用AMD CDNA架构，在计算和互联性能上实现了飞跃。相比上一代AMD加速器，高性能计算性能提升近3.5倍，人工智能(FP16)提升近7倍。

三星并不是唯一一家开发PIM芯片的公司——SK海力士今年早些时候发布了自己的PIM模块。根据SK海力士的初步测试，其GDDR6-AiM应用可以将AI处理速度提高16倍，功耗降低80%。这比三星改装的MI100s要快很多，但是我们不知道SK海力士用什么工具进行测试，所以无法直接对比。