美文网首页
本地部署大模型

本地部署大模型

作者: 芒藤 | 来源:发表于2025-02-09 22:13 被阅读0次

目标

  • 利用LM Studio本地部署DS
  • 利用Ollama本地部署DS

LM Studio

要解决的问题

  • 下载LM Studio

    • LM Studio设置:界面右下角设置,改为简体中文
  • 下载DS

    • 网站首页 · 魔搭社区或者HF-Mirror,格式GGUF

    • 模型推荐

      • DeepSeek-R1

      • 下载小于显存的模型

        • 查看显存:任务管理器=>性能=>GPU
    • 载入模型

Ollama

相关文章

网友评论

      本文标题:本地部署大模型

      本文链接:https://www.haomeiwen.com/subject/ppqxpjtx.html