美文网首页简友广场
2025-02-04 终于布署了本地的DS模型

2025-02-04 终于布署了本地的DS模型

作者: 不停的追梦人 | 来源:发表于2025-02-04 05:15 被阅读0次

花两天时间研究了一下安装本地的大语言模型,花了大量时间。

1,一方面这些数据大,几G,十几G耗时。由于体积大还把系统盘重新扩展了一下,花了一些时间。

2,此外,下载数据也花了大量时间,最快时有10M/秒,到后来是几k/秒,不恒定,也很耗时。

3,由于数据大,电脑的硬件要优化,也费时间,那些显卡驱动需要重装,Cuda驱动,CuDNN神经网络程序。也花时间,而且这些程序体积都大。

4,有些内容不会,去消化也花时间。有些python也不太会,优化需要它,自己也不太会。就让Deepseek帮忙几个写个bat文件,执行,安装了pip,不懂也没关系。执行了就行了。

4,还装了多个版本Deepseek -r1, 8b(4.9G) 32b(19G),qwen2.5 3b(1.9G)

5,还有个认识是错的,就是不像普通文件,可以随意变换文件夹,这样操作导致上面的文件不能注册,都要重新下载,又耽误了时间。

研究需要花时间,希望装上这些能发挥些用处。

相关文章

网友评论

    本文标题:2025-02-04 终于布署了本地的DS模型

    本文链接:https://www.haomeiwen.com/subject/hevmujtx.html