AMD的轻薄本也能跑AI？

前言

Stable diffusion这类AIGC模型出来之后，大家都开始意识到AI的生产力了，但问题在于传统的跑AI需要高性能台式机才行，尤其是需要高性能N卡。

我想了想，Stable diffusion一个是需要cuda，一个是需要大显存，这俩其实AMD都有替代产品：AMD锐龙 7 7840H移动处理器可以自定义设置显存大小，把内存当显存用；，AMD针对A卡的ROCm支持能模拟cuda，ROCm 人称 AMD 的「小 CUDA」，跑个Tensorflow、PyTorch几乎没什么压力。

所以问题就很简单了，采用了AMD锐龙 7040系列移动处理器的产品基本上都是可以自己折腾一下跑起来AIGC模型的。

为什么要跑AI？

在矿难之后，AIGC的爆火又催生了显卡行业的大需求，毕竟谁不想有一个属于自己的AI助理呢？

奈何老黄刀法精准加上市场需求旺盛，AIGC被拉下来门槛之后，N卡更是一卡难求。

这时候会有人问，为什么跑AI一定要有N卡呢？我作为一个从业者回答一下：N卡的优势在它支持CUDA，而从2016年开始，NVIDIA就针对于自家的显卡做了大量CUDA方面的支持与优化，可以说CUDA基本上就跟N卡绑定了。

跟挖矿不同的是，跑AI不仅对性能有很高的要求，对显存也有相当高的要求。因为深度学习全连接的每一层计算都会占用内存，模型连接层太深的时候，低于12G的显存是放不下全部的模型的，你们可以理解为爆显存了。

芯片性能差点没关系，原来跑一次要一天，我现在花两天去跑就行，显存小就没办法了，太小的显存直接导致模型跑不起来。

前不久就有民间魔改方案：2080Ti 22G、580 16G … 甚至现在 RTX 30 系显存翻倍的也多了起来。

奈何这些都是要固定的显卡和台式机来改的，联想到AMD的APU是支持内存当显存用的，也支持自定义APU显存大小，所以我们可以直接买更大的内存条插电脑上，然后把内存分配给APU就能跑起来AI模型。

这就是AMD也能跑AI的核心点，这可比买N卡再把内存吹下来，焊上去更大内存的操作要方便很多。

AI加持的AMD锐龙 7040系列处理器有哪些不一般？

锐龙7040系列为单芯片，采用4nm工艺制造，最高可提供8核心16线程的产品，每个内核都配有1MB的L2缓存，共享32MB的L3缓存，核显更是采用了AMD最新的RDNA 3架构，最多配备12个CU（768个流处理器），以及收购赛灵思（Xilinx）后整合了基于XDNA架构的AI加速引擎。AMD表示，XDNA架构为多任务AI工作负载提供四个并发处理流，降低了对x86内核和CU的利用率，与苹果M2系列芯片的AI引擎类似。AMD将利用AI加速引擎处理各种AI加速任务，比如图像处理，接下来还会发布单独的SDK以供开发人员使用。

AMD Ryzen AI引擎可以实现AI推理与运算，所以在很多时候它可以分担CPU或者GPU的任务，让整机在机器语言与人类语言交流的过程中运行更高效，Ryzen AI引擎能极大提升AI性能，降低GPU与CPU的占用，让传统的只能跑在台式机上的AI模型也能在笔记本上跑，也正是如此笔记本可以读懂和处理人类语言。

在图形图像以及视频处理方面，AI的应用已经相当广泛，比如对与视频或者图像的背景虚化计算、人脸识别、图像快速识别等任务，Ryzen AI引擎能够发挥优势提升处理效率。此外，Ryzen AI引擎还可以实现更精准高效的语音转换文字，语音合成等等任务，还有诸如Text-To-Image这样的新兴技术同样依靠AI引擎才能更好实现。

目前在配备了AMD锐龙7040系列处理器的电脑中已经可以体验到Ryzen AI带来的实际体验，Windows 11 自带的Camera应用中，提供了“Automatic framing（自动取景）”、“Eye Contact（眼神接触）”、“Background effects（背景效果）”三个选项，自动取景功能可以自动缩放画面，使得焦点人物始终在画面中间；眼神接触则让人物的视线看起来始终对着镜头；背景效果则可以虚化背景，突出焦点人物。正式得益于Ryzen AI引擎的加持，这些应用能更方便快捷地被调用。