ollama安装

简介一键运行开源大模型，非常的方便。 github：https://github.com/ollama/ollama 官网：https://ollama.com/ 安装部署推荐使用docker运行，先开启GPU的docker支持，然后直接运行： mkdir /app/ollama -p && \ docker run -d \ --gpus=all \ -v ...

2024/11/20 NOTES

无法加载内核模块nvidia-modeset.ko

问题 RHEL9上安装NVIDIA驱动的时候，总是出现这个问题：解决方案确认安装了正确的内核头文件和开发包我的解决方案是内核版本较低，建议更新系统的内核： sudo yum install kernel-devel-$(uname -r) kernel-headers-$(uname -r) 或者是安装最新的： sudo yum update kernel kern...

2024/11/20 锦囊妙计

PVE设置显卡直通

使用PVETOOLS export LC_ALL=en_US.UTF-8 && apt install git -y && git clone https://github.com/ivanhao/pvetools.git && cd pvetools && ./pvetools.sh 配置PCI硬件直通-...

2024/11/20 锦囊妙计

RHEL9安装NVIDIA显卡驱动

一键脚本 sudo dnf install epel-release -y \ sudo dnf groupinstall "Development Tools" -y \ sudo dnf install kernel-devel kernel-headers dkms -y \ cd /tmp && wget https://cn.download.nvidia.com...

2024/11/20 NOTES

openssl-lib和openssl-fips-provider冲突

原因在一次写脚本的时候，突然发现rhel9.4采用rocky9.4源后，openssl安装的东西经常性的报错。一开始到处去查也没有先例和解释。然后到了rocky论坛的一个帖子(https://forums.rockylinux.org/t/issue-with-openssl-fips-provider-during-migration-from-rhel-9/15290/4)里面找到了...

2024/11/20 锦囊妙计

基础对话

cow配置配置/chatgpt-on-wechat/config.json文件中： { "open_ai_api_base": "https://api.302ai.cn/v1", "bot_type": "chatGPT", "model": "gpt-3.5-turbo" } "bot_type"为"chatGPT"，模型为默认模型。可用模型添加可用模...

2024/11/20 302AI