在PVE虚拟机里运行ollama出现不支持AVX2指令集错误
在PVE虚拟机中安装了ollama然后运行的时候,出现了下面错误:
1
CPU does not have minimum vector extensions, GPU inference disabled. Required:avx Detected:no vector extensions
导致GPU无法使用,只能在CPU上龟速运行。
打开PVE的控制台执行grep -o 'avx[^ ]*' /proc/cpuinfo
,查看到是支持AVX2的,那就是PVE虚拟机的原因了。
我的CPU果然是支持的,然后搜索了下 pve enable avx ,看到有人提到:
然后看了下我的虚拟机,果然是默认的选择的是kvm64,
将这个处理器类型改成 Host
重启即可。
本文由作者按照
CC BY 4.0
进行授权