最近的Ai圈可以说是太火了,前段时间我们编辑部去参加了中国电子博览会,其中绝大部分的展商都是来自高性能服务器的品牌,我们有幸还对其中一家品牌进行了采访:《亿万克丨助力节能数据中心建设;打造云端数字底座!》。
在探展的过程中,深感如今的Ai算力市场的空前热度,随着GPT的爆火,每个企业、组织、个人都看到了利用Ai来提升生产效率的可能,这其中,以Ai绘画为代表正在快速席卷着设计、绘画、动漫行业,个人用户也可以通过stablediffusion等引擎来训练自己的Ai人物形象或者设计物品。而stablediffusion依赖的正是本地显卡算力,所以如果想要拥有快速、精准的Ai图像生成,一张算力强劲的显卡是必不可少的。
最近,RTX4070发布,早就听闻RTX40系在Ai算力上的提升,所以问DIY大佬借了20系到40系的主流显卡,来让它们华山论剑,看看谁在Ai绘画上的能力更强。
Ai作品
首先介绍一下出战的选手们,老当益壮组的20系显卡:RTX2070、RTX2070S、RTX2080。正值壮年的30系显卡:RTX3050、RTX306012GB、RTX3060Ti、RTX3070 、RTX3070Ti、RTX3080、RTX3080Ti、RTX3090Ti。青春无限的40系显卡:RTX4070、RTX4070Ti、RTX4080、RTX4090。
赛前首先是选手们的身份信息大公布:
对于本次的Ai绘画能力对决,区别选手们的主要点是显卡的架构、CUDA核心数量、显存与Tensor核心。其中Tensor核心是NVIDIA部分显卡中专门用于加速深度学习任务的处理单元。Tensor核心针对深度学习中的矩阵运算进行了优化,能够显著提高神经网络模型的训练和推理速度。在后续的对比中,我们也能看出Tensor核心的代数与核心数与成绩的关系。
第一代Tensor核心首次出现在Volta架构显卡中,针对混合精度矩阵乘法进行优化。第二代Tensor核心引入Turing架构显卡,增加了对INT8和INT4整数精度的支持,并引入了RT核心用于实时光线追踪计算。第三代Tensor核心出现在Ampere架构显卡,提高了FP16混合精度矩阵乘法的FLOPs,并支持稀疏性计算。
而第四代Tensor核心随着RTX40系的发布而更新,在全新的NVIDIAAda架构中,通过引入DLSS技术和OpticalFlowAccelerator等新技术,为Ai提供了显著的性能提升。并通过TensorCores加速器(专门用于深度学习任务的硬件加速器)大幅提高深度学习模型训练和推理性能,并且支持FP16、BF16和TF32精度。此外,AdaGPU架构还支持CUDA-XAI软件库,这是一套用于加速AI应用的软件工具包。CUDA-XAI包括TensorRT、cuDNN、cuBLAS等组件,可以提高深度学习推理性能和训练速度。
好的,简单介绍完参战选手们的基本信息,就来到本次比赛的第一关,基础性能参数对比,将由“AIDA64GPGPU”考官出题,考察选手们的综合实力。想看Ai美女的观众先别急,先放出一张美女垫胃口。
stablediffusionAi绘画;来自RTX2080显卡,1024*1024分辨率,单张耗时:1.14分钟
第一道题是Single-Precision,这个测试项目评估显卡在单精度浮点数运算(32位浮点数)上的性能,单精度浮点数通常用于表示小数,以GFLOPS为单位,其表示每秒千亿次浮点运算。
第二道题是Double-Precision,评估显卡处理另一种称为"双精度浮点数"的数据时的计算能力。双精度浮点数比单精度浮点数更精确,常用于科学计算等要求高精度的场景。以GFLOPS为单位,其表示每秒千亿次浮点运算。
第三道题是24-BitInteger,这个测试项目评估显卡在24位整数运算上的性能。整数是没有小数部分的数字,如1、2、3等。以GFLOPS为单位,其表示每秒千亿次浮点运算。IOPS表示每秒整数运算次数,GIOPS表示每秒千亿次整数运算(GigaIOPS),以GIOPS为单位。
第四道题和第五道题分别是32-BitInteger、64-BitInteger,聪明的小伙伴都知道这是跟上面24-BitInteger是一组组合题,考察显卡32位整数运算、64位整数运算能力。
第六题是AES-256计算能力,评估显卡处理一种名为AES-256的加密任务时的性能。加密是为了保护数据安全而对数据进行编码的过程。
第七题是SHA-1Hash编码能力,这个可能很多玩家都比较熟悉,这就是挖矿佬喜欢的哈希算力,哈希算法是一种将数据转换成固定长度的唯一字符串的过程,通常用于校验数据完整性和安全应用,常用于区块链应用中。
第八题是Single-Precisionjulia,这个测试项目评估显卡在渲染单精度Julia分形图像时的性能。Julia分形是一种复杂数学对象,需要大量计算资源进行渲染。测试结果以FPS表示。
最后一题便是Double-PrecisionMandel;双精度Mandelbrot分形渲染,评估显卡渲染一种名为Mandelbrot分形的复杂数学图形时的性能。类似于Julia分形渲染,但使用更高精度的数据进行计算。
对于AIDA64GPGPU的测试,我们可以看出,除了顶级的RTX4090外,剩下显卡之间都存在着明显的递进关系,等级森严,与售价与定位严格挂钩,此外,数据测试仅能作为Ai制图的一个参考项目,旨在对比不同显卡之间的数据。
参战选手的首发价格对比
接下来就进入正式的Ai绘画环节,首先是画NVIDIA官方指定的小房子,看看效果。画图的参数是:使用v2-1768-emapruned模型;768*768的尺寸;Steps:50;CFGscale:7.5,共画10组,每组2张。
Ai作品
Ai作品
从测试结果来看,各位参战选手的Ai绘画表现与他们在AIDA64GPGPU中的各项考试表现类似,柱状图的分布几乎一致,其中低于5张/min的选手有RTX2070、RTX3050、RTX3060,虽然RTX3060配有12GB的大显存,但在Ai画图所需要的高算力面前还是只能甘拜下风,112核心的第三代Tensor没能让它在Ai画图中继续“甜品”下去。
而超过了优秀水平10张/min的选手就比较多了,RTX3080Ti、RTX3090Ti、RTX4070Ti、RTX4080、RTX4090,以及两个9张/min的差点成为优秀水平的RTX3080和RTX4070,这两位选手的用时几乎一致,但RTX4070只搭载了184核心的第四代Tensor,而RTX3080则是使用了272核心的第三代Tensor,这33%的核心数差距,就是通过技术迭代来弥补的。
接下来看一下选手们在画NVIDIA小屋时的显存占用情况,为了方便比赛公平起见,我们按照显存容量进行了分组:
8GB显存组
12GB显存组
其他显存组
整体表现情况
通过图表与数据情况可知,在画NVIDIA小屋的时候,面对768*768分辨率的Ai画图情况,显卡的显存普遍占用都在8GB左右,如果只是搭载了8GB显存的显卡,就会有跑满的风险,从而拖累运算速度。
接下来就是大家期待的画Ai小姐姐,在画小姐姐的选择上,我们使用了chilloutmixNiPrunedFp32Fix模型,匹配3个不同的LORA人体素材库,调整了各素材的比重,最终绘制出独一无二的小姐姐,单幅尺寸为1024*1024,一组5张。
首先来欣赏一下小姐姐的美貌:
stablediffusionAi绘画
stablediffusionAi绘画
stablediffusionAi绘画
stablediffusionAi绘画
stablediffusionAi绘画
具体的Prompt以及模型配置如图,喜欢的小伙伴可以直接Copy,把小姐姐带回家
由于画小姐姐的模型和配置以及尺寸较大,对各位选手也造成了巨大的考验,就连算力最为强劲的RTX4090,也只保持不到3张每分钟的成绩,可见对于画高清人像来说,游戏显卡还是有着较高的压力,来看一下各位选手们的成绩吧。
面对巨大的算力挑战,各位参赛选手出现了明显的性能吃紧,不少选手们的绘画时间只能保持在一分钟一张左右,而特别出色的旗舰选手们才能碰到2张每分钟的门槛。甚至还有的选手(RTX3050)只能维持2分钟画一张的水平。
在画NVIDIA小屋时旗鼓相当的RTX3080和RTX4070终于在这轮拉开了差距,RTX3080以近20%的实力差距绝杀了RTX4070,也以10%的优势超过了RTX4070Ti,稳住了80显卡的尊严与威望。
而在显存占用上,NVIDIA小屋比赛时还有能漏网之鱼的8GB显存组,在本轮测试中,无一例外,全部显存跑满,集体出现显存不足的情况。
在12GB显存组选手中,虽然没有跑满显存,但是在RTX40系显卡中也出现了显存吃紧的情况,RTX40系两兄弟显存都被Ai吃掉了95%左右。
与RTX3090Ti同样使用24GB显存的RTX4090,在Ai画图时就比前者多占用了17%左右的显存空间,让Ai引擎吃到了17GB左右的显存空间,配合一骑绝尘的512核心第四代Tensor核心,无疑问鼎了本次Ai绘画算力对比之巅。
整体表现情况
显卡Ai绘图最大功耗一览
显卡能耗比情况一览
总结:显卡与AI绘画的关系就像是画家的手与画笔之间的紧密配合,在这个关系中,显卡是高效处理大量并行计算任务的关键硬件,而AI绘画则是依赖显卡强大计算能力实现的一种先进的艺术形式。AI绘画技术通常采用生成对抗网络(GANs)或变分自编码器(VAEs)等深度学习模型来生成具有特定风格或特征的图像。而显卡也已经从单纯的图像处理器,逐渐演变成了复杂的计算平台。二者相辅相成,相互促进Ai生成、深度学习、显卡领域的不断发展,成为硬件市场上为数不多仍然焕发活力的领域。
Ai算力服务器-Ai绘画
在本期的【AI时刻】中,我们对15款NVIDIA显卡的stablediffusionAI绘画能力进行了深入评测。从测试结果中,我们明显看到显卡在AI和深度学习算力上的持续进步。尤其是在RTX40系列显卡中,得益于全新的架构和更加先进的Tensor核心技术,使得RTX4070不仅能与前代RTX3080在AI算力上一较高下,同时在保持中上游AI性能的情况下,功耗更加优越。
因此,如果你对AI计算(如画AI小姐姐)感兴趣,并希望拥有一款性能与功耗兼顾的显卡,那么RTX4070无疑是一个理想的选择。而如果你打算通过游戏显卡(由于各种原因,NVIDIAA100/H100难以购买)来搭建一个小型AI服务器,那么选择多张RTX4090则毫无疑问是最佳方案。无论是从性能、功耗还是扩展性的角度,RTX40系列显卡为游戏玩家、AI领域的开发者提供了更多可能性,展示了显卡技术在未来的发展潜力。