文章

在PVE虚拟机里运行ollama出现不支持AVX2指令集错误

在PVE虚拟机中安装了ollama然后运行的时候,出现了下面错误:

1
CPU does not have minimum vector extensions, GPU inference disabled. Required:avx Detected:no vector extensions

导致GPU无法使用,只能在CPU上龟速运行。

打开PVE的控制台执行grep -o 'avx[^ ]*' /proc/cpuinfo,查看到是支持AVX2的,那就是PVE虚拟机的原因了。

我的CPU果然是支持的,然后搜索了下 pve enable avx ,看到有人提到:

img

然后看了下我的虚拟机,果然是默认的选择的是kvm64,

img

将这个处理器类型改成 Host

img

重启即可。

QQ_1732181756571

本文由作者按照 CC BY 4.0 进行授权