周杰伦的这首歌用在现在火爆的AI身上,还挺合适的:AI像一阵风,吹完他就走,这样的节奏,谁都无可奈何。
每次有新的AI工具出来,都是一阵暴吹,直到出现下一个。
今天我也说说最近火热的deepseek。角度比较清奇,补充一下网上到处都是的本地化部署教程的细节。
1,安装ollama本身没啥好说的,添加ollama_models的环境变量是为了把下载或者导入的模型文件不放在默认的目录里,不然C盘分分钟就红了。
2,使用ollama的模型库固然很方便,但是对网络要求较高。我试了试自己的网络,下载32b的模型大概要8个小时。emmmm,所以还是使用离线文件导入吧,网上有热心网友提供了很多下载。如果使用在线安装的方式,网上教程有个细节没说,在模型库选择的地方,旁边有个“tags”链接,点击后可以选择更详细的模型文件。
3,实测我的4060TI 16G的显卡,跑32b问题不大,跑70b基本不能用。比网上那些教程对硬件的要求小多了。
4,如果没有特别的需求,还是用官方的在线版本吧,本地部署版本还是差一些。
往年今天...
- 农历计时结束 - 2011