大家好,欢迎来到IT知识分享网。
AI“Stable Diffusion”只需输入提示就能生成高精度图像,但由于Stable Diffusion基本上是基于使用NVIDIA制造GPU而设计的,所以执行速度会因使用的不同GPU而变化。因此,在技术媒体Tom’s Hardware担任撰稿人的Jarred Walton就“哪个GPU最快能运行Stable Diffusion?”进行了调查。
Stable Diffusion Benchmarked: Which GPU Runs AI Fastest (Updated) | Tom’s Hardware
https://www.tomshardware.com/news/stable-diffusion-gpu-benchmarks
创建训练复杂的 AI 需要具有大量硬件的服务器,但如果您使用的是经过培训的 AI,则消费类 PC 上的通用 GPU 也是可能的。 虽然这基本上是指的使用NVIDIA制造的GPU的Stable Diffusion,但Walton指出,“这并不意味着除了 NVIDIA 之外,其他 GPU 无法执行Stable Diffusion。”
目前,已经公开了在Intel制造的GPU“Intel Arc”中和在搭载M1·M2芯片的Mac上运行Stable Diffusion的方法。
GitHub – rahulunair/stable_diffusion_arc: Stable Difussion inference on Intel Arc dGPUs
https://github.com/rahulunair/stable_diffusion_arc
Run Stable Diffusion on your M1 Mac’s GPU – Replicate – Replicate
https://replicate.com/blog/run-stable-diffusion-on-m1-mac
Walton测试了在各种 GPU 上运行Stable Diffusion的速度,在NVIDIA制GPU的测试中使用了“AUTOMATIC1111版Stable Diffusion web UI”,为了测试AMD的GPU使用了“Nod.ai’s Shark version”,在Intel制GPU的Intel Arc的测试中使用了“Stable Diffusion OpenVINO”。
测试参数对于所有GPU都是相同的,基准测试是生成 512×512 像素图像 10 次,每个 GPU 每秒迭代一次 ,图表采用以下平均数量。 NVIDIA RTX 30/40 系列以绿色显示,AMD RX 30/7000 系列显示为红色,英特尔 Arc 系列以蓝色显示,NVIDIA GPU 具有常规计算模型版本和库“xFormers”,可实现更快的图像生成 包含使用 的版本的结果。 总体而言,正如预期的那样,英伟达的GPU与AMD或Intel的任何产品相比,都能提供卓越的性,使用 xFormers 可以提高数几十%的性能。
在这项研究中,NVIDIA的RTX40系列带来了最快的结果,其次是AMD7900系列,NVIDIA的RTX30系列,与这些相比,Intel Arc相当慢。但是,适当的优化充分保留了AMD和Intel GPU上的Stable Diffusion运行速度更快的可能性,Walton认为出现在AMD和Intel GPU上表现更好的版本只是时间问题。
另外,以下的图表排列了作为各GPU的性能指标的FLOPS的理论上的最大性能。该图表也突出了NVIDIA的GPU,但实际运行Stable Diffusion时,性能差比理论上的性能差小。另外,Intel Arc在理论上也是拥有与NVIDIA制造的GPU匹敌的性能,但遗憾的是在实际的基准测试上拉开了很大的差距。
Walton还发布了2048×1152像素高分辨率图像的生成和测试结果。 通过查看下图,您可以看到 xFormers 对高分辨率图像的影响更大。 此外,由于 AMD GPU 无法运行,因此没有对其进行测试。
另外,提供机器学习训练用系统的云企业的MosaicML报告说,关于从零开始训练Stable Diffusion的时间和成本,使用本公司系统的话13天不到16万美元就可以进行训练。另外,该成本比Stable Diffusion的开发企业StabilityAI报告的低了了2.5倍。
Training Stable Diffusion from Scratch Costs <$160k
https://www.mosaicml.com/blog/training-stable-diffusion-from-scratch-costs-160k
GitHub – mosaicml/diffusion-benchmark
https://github.com/mosaicml/diffusion-benchmark
免责声明:本站所有文章内容,图片,视频等均是来源于用户投稿和互联网及文摘转载整编而成,不代表本站观点,不承担相关法律责任。其著作权各归其原作者或其出版社所有。如发现本站有涉嫌抄袭侵权/违法违规的内容,侵犯到您的权益,请在线联系站长,一经查实,本站将立刻删除。 本文来自网络,若有侵权,请联系删除,如若转载,请注明出处:https://yundeesoft.com/109103.html