
新闻资讯
拥抱变化,赋能产业互联时代
UL Procyon图像生成基准测试的安装与使用
2024-04-29
Procyon 是来自UL的一款全新的基准测试套装,专为来自行业、企业、政府、零售和媒体的专业人士所设计。每个 Procyon 基准测试将通过共享通用的设计和功能集提供熟悉的一致体验。这款软件是付费的,可以通过企业邮箱向该公司申请软件测试,测试时间为2-3周。申请成功后该公司工作人员会通过邮箱发送一个procyon_license_key文件,访问Download Procyon-v2-7-1108.zip (ul.com),导入该文件即可下载。
Procyon文件有15GB,安装后更达到38GB,并且在后续的图像生成基准测试中需要频繁的加载模型,因此作者建议使用M.2的硬盘安装该软件,能为测试节省不少时间。OK,那接下来我们来介绍一下Procyon中的AI图像生成基准测试。
首先,AI图像生基准测试中使用了两个模型,stable-diffusion-v1-5和stable-diffusion-xl-base-1.0,模型精度均为fp16。其次,每个模型可以运行在三种模式下,NVIDIA TensorRT、ONNX Runtime和Intel OpenVINO,值得注意的是Intel OpenVINO模式仅在Intel CPU存在集显时才能使用。最后,你不会以为这样就能直接运行了吧,没有错到这里只是简单安装了软件,软件内部并没有stable-diffusion-v1-5和stable-diffusion-xl-base-1.0模型文件,因此在运行过程中会开始漫长的在线下载模型的过程,并且需要科学上网,否者软件将会报错,就像下面这样。
接下,你可能会联系其工作人员,其会给你一个连接,让你直接下载模型文件,在下载的时候你就会发现还是需要科学上网……!
当你真的能够下载上面的模型压缩包的时候,就会发现下载到80%左右的时候,就会出现问题,还是下载不了,嗯……!
最好的办法就是在运行该软件的时候,让其在线下载,前提是能科学上网,好家伙又回来了。
作者还有一个最最好的办法就是白嫖别人Procyon下好的模型,拷贝一份就行。将对方电脑%ProgramData%\UL\Procyon\chops\dlc\ai-imagegeneration-benchmark\models文件目录下的红色框框内的模型文件拷贝到你电脑%ProgramData%\UL\Procyon\chops\dlc\ai-imagegeneration-benchmark\models的文件目录下就能解决问题了。
这里解释一下,pytorch文件内是stable-diffusion-v1-5和stable-diffusion-xl-base-1.0模型的原始文件,onnx_olive_optimized文件内保存的是模型转换后的ONNX格式,就是ONNXRuntime模式下的运行的ONNX格式的模型文件。ovir文件内保存的OpenVINO模式下运行的模型文件。而NVIDIA TensorRT模式下运行的模型则保存在tensorrt_engine文件下。
在进行显卡性能测试时,每更换一张不同芯片型号的显卡,在NVIDIA TensorRT模式下都会重新生成一个对应的模型文件,如stable-diffusion-v1-5测试就会生成2GB模型文件,stable-diffusion-xl-base-1.0测试会生成6GB模型文件,因此当你测试的显卡数量多了,硬盘空间容易不足,这时候只要删除整个tensorrt_engine文件夹就行,世界就清爽了。
接下来只要直接运行程序就行,在经过一段时间的测试后,软件就会根据生成图像的时间给出对应的分数结果,以及在软件运行过程中的对GPU和CPU的温度,频率,负载的监控。