找回密码
 立即注册
搜索
查看: 151|回复: 1

[讨论] 本地部署免费开源DeepSeek-R1大模型

[复制链接]
发表于 2025-2-2 15:39 | 显示全部楼层 |阅读模式

1、本地部署

我们这里使用Ollama来进行模型部署,安装你的系统对应的客户端

安装Ollama

Ollama 官方版:ollama.com/

安装模型

如果使用 4-bit 量化,显存需求:

  • 1.5B:约 1 GB

  • 7B:约 4 GB

  • 8B:约 4.5 GB

  • 14B:约 8 GB

  • 32B:约 18 GB

  • 70B:约 40 GB

对于资源有限的用户,推荐使用 1.5B 或 7B 模型,它们可以在单张消费级显卡上运行。
如果需要更高的性能,可以选择 14B 或 32B 模型,但需要多 GPU 配置。
70B 模型适合高端计算环境,需要多张高端 GPU 支持。


各个模型及对应下载命令:

1.5B Qwen DeepSeek R1

ollama run deepseek-r1:1.5b

7B Qwen DeepSeek R1

ollama run deepseek-r1:7b

8B Llama DeepSeek R1

ollama run deepseek-r1:8b

14B Qwen DeepSeek R1

ollama run deepseek-r1:14b

32B Qwen DeepSeek R1

ollama run deepseek-r1:32b

70B Llama DeepSeek R1

ollama run deepseek-r1:70b

安装完就可以使用终端去聊天了

deepseek-r1:1.5B交流图

参考网址:
1、https://blog.quickso.cn/2025/01/27/%E6%9C%AC%E5%9C%B0%E9%83%A8%E7%BD%B2%E5%85%8D%E8%B4%B9%E5%BC%80%E6%BA%90DeepSeek-R1%E5%A4%A7%E6%A8%A1%E5%9E%8B/
2、https://www.oschina.net/news/331471
3、https://segmentfault.com/a/1190000046068080


注:

Windows:从ollama上下载的win安装包,双击直接安装只能安装在C盘(C:\Users\weijian\AppData\Local\Programs\Ollama),没有选择安装路径的选项。
windows 的安装默认不支持修改程序安装目录,
①默认安装后的目录:C:\Users\username\AppData\Local\Programs\Ollama,但是在cmd下可以指定安装路径: D:\Program Files>OllamaSetup.exe /dir="D:\Program Files\Ollama” 
②默认安装的模型目录:C:\Users\username\ .ollama,但可以通过修改系统环境变量改变安装位置:变量名:OLLAMA_MODELS 变量值:F:\LLM\ollama(添加自己电脑的文件目录即可)
③默认的配置文件目录:C:\Users\username\AppData\Local\Ollama
 
Linux:Ollama 默认的模型存储路径如下:/usr/share/ollama/.ollama/models (Linux)
  • 设置新的下载路径
    • 关闭Ollama进程:sudo systemctl stop ollama
    • 打开终端,编辑Shell配置文件(如.bashrc、.zshrc):
      • nano ~/.bashrc # 或使用其他编辑器
    • 在文件末尾添加:
      • export OLLAMA_MODELS="/data/ollama"
    • 保存文件后,执行 source ~/.bashrc 使配置生效。
    • 重启Ollama服务:sudo systemctl enable ollama
    • 自定完如上目录后,启动ollama会失败,具体的原因为:ollama 用户和用户组对于/data/ollama目录没有访问权限,使用如下指令使能其权限。

      # sudo chown -R ollama:ollama /data/ollama

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

×
 楼主| 发表于 2025-2-19 12:18 | 显示全部楼层

DeepSeek使用小技巧,会提问才会用AI

在DeepSeek的测试日志中,研发人员发现一个规律:当用户提问的精细度每提升10%,AI的智慧输出价值就会产生300%的跃升。这印证了控制论之父维纳的预言:"人与机器的对话质量,将成为信息时代的新摩尔定律。"

笔者为大家写了正面和反面不同的提问效果,大家可以复制到deepseek中验证效果。

1 从机械问答到思维共振

反面案例:某高校研究生小王试图用DeepSeek辅助论文写作,连续输入:"帮我写文献综述""分析这个数据""改得更专业些"。结果获得的回复要么流于表面,要么偏离研究方向,最终耗时3小时仍未完成基础章节。

正面案例:同课题组的李教授示范高效提问:

"请基于近五年SCI收录的‘纳米药物靶向输送’文献,按①肿瘤微环境响应型载体②外泌体载药技术③临床转化瓶颈三个维度,制作对比分析表格,重点标注各技术路线的载药效率与毒性数据。"

DeepSeek在12分钟内输出结构清晰的文献地图,并附上关键论文索引编号,为研究节省了80%的文献筛选时间。

对比启示:

模糊提问如同让AI在迷雾中射击,命中率不足30%

结构化指令则像为AI装配激光制导,命中精度超90%

2 五维提问优化体系(强化案例对比)

1. 需求锚定术:从混沌到精准

反面案例(教育行业):

"设计在线课程方案"→ 获得泛泛而谈的通用模板,包含"明确教学目标""设计互动环节"等空洞建议。

正面案例:

"为二三线城市K12教培机构设计初中物理线上小班课方案,要求:

①匹配‘双減’政策后每周2课时限制

②融合AR虚拟实验与生活场景案例

③包含分层作业智能推送机制

④预算控制在传统面授课的60%"

DeepSeek输出包含课程结构图、技术实现路径、成本效益分析表的完整方案,直接进入原型开发阶段。

2. 思维脚手架构建:从碎片到系统

反面案例(电商运营):

"分析618促销失败原因"→ 获得12条可能因素清单,缺乏逻辑关联与优先级判断。

正面案例:

"请用鱼骨图分析法,从①流量获取(站内外推广对比)②转化漏斗(详情页跳出率异常点)③供应链(爆款缺货影响)④竞品策略(TOP3对手的满减设计)四个维度,定位本次促销未达目标的核心问题,按影响权重排序。"

AI不仅给出问题树状图,还自动生成各环节的改进ROI预测。

3. 上下文赋能:从孤立到协同

反面案例(法律咨询):

"合同有哪些风险"→ 获得通用风险提示清单,未考虑具体业务场景。

正面案例:

"我们是为东南亚跨境电商提供物流服务的初创企业,拟与印尼本地仓储公司签订对赌协议。请结合:

印尼《投资法》第22条关于外资持股限制

2023年雅加达商事仲裁典型案例

对赌条款中的汇率波动风险

输出协议审查要点清单,用红色标注必须修改的条款。"

DeepSeek结合地域法律特征输出定制化风控方案,规避了潜在的国际仲裁风险。

4. 动态校准机制:从单次到迭代

反面案例(广告创意):

用户连续提问:"写汽车广告文案"→ "不够震撼"→ "再改改",导致AI在低质量循环中反复试错。

正面案例(智能调优):

第一轮:"为新能源SUV创作slogan,突出空间优势,避免技术术语"

→输出"移动的家,装满远方"

第二轮:"需强化‘家庭出行’场景,增加情感共鸣,参考‘蔚来’系列广告的叙事风格"

→优化为"第二客厅,载得下三代人的笑声"

第三轮:"将‘客厅’改为‘生活舱’,保持中文韵律"

→终版"自由生活舱,装下2㎡的童年与2000公里的向往"

5. 高阶能力解锁:从单一到融合

反面案例(医疗咨询):

"解释糖尿病治疗方案"→ 输出教科书式内容,未考虑个体差异。

正面案例(多模态协同):

"患者男性58岁,BMI28,空腹血糖9.8mmol/L,合并高血压。请:

①用通俗语言解释血糖异常机制

②制作可视化饮食控制指南(文字描述+可编辑表格)

③生成7日运动计划(附心率监测建议)

④模拟三种用药方案的成本/效果对比雷达图"

DeepSeek输出包含医学插画、动态表格、交互式图表的患者教育套装,被三甲医院采纳为标准化工具。

3 智能协作的升维实践(新增行业对比)

反面典型:某传统制造企业

提问模式:"预测明年销量""优化生产成本"

结果:获得宏观趋势预测与通用降本建议,未能解决产线具体问题

损失:因未发现某精密部件合格率下降的深层原因,导致季度亏损1200万元

正面典范:新能源电池研发团队

提问演进路径:

1.初级:"解释固态电池原理"

2.进阶:"对比硫化物/氧化物/聚合物电解质的离子电导率衰减曲线(附实验数据格式要求)"

3.高阶:"模拟2025年量产环境下,三种技术路线的良品率与经济性预测,需考虑:

日本专利壁垒对氧化物路线的制约

美国IRA法案对本土化生产的补贴影响

欧盟电池护照的碳足迹追踪成本"

通过精准提问,该团队提前6个月锁定最优技术路线,获得国家重大专项支持。

4智能进化的双向革命(新增数据支撑)

失败者画像:

提问字数<20字的用户,任务完成率仅17%

缺乏上下文描述的咨询,答案错误率高达43%

单次对话轮次<3次的场景,需求匹配度不足30%

成功者特征:

使用结构化模版的用户,任务完成率达89%

添加数据附件的提问,解决方案可行性提升65%

实施动态校准的对话,输出质量平均提升4.2个等级(按7分量表)

行业变革数据:

深圳某咨询公司将提问能力纳入晋升考核后,人效提升210%

杭州跨境电商团队使用标准提问模板,选品决策速度提升6倍

北京某三甲医院通过AI对话质量管理系统,误诊率下降38%

5 实战工具箱(新增资源)

1.提问自检清单:

是否包含背景约束?

是否有明确输出格式?

是否设定了思维框架?

是否预留了校准空间?

2.经典模版库:

【学术研究型】

领域:______

矛盾:现有研究在______方面存在不足

需求:请构建______分析模型,重点突破______

输出:①理论框架图②实验设计矩阵 ③成果评价指标

【商业决策型】

市场:______

痛点:______

约束:预算/时间/资源______

交付物:SWOT分析(含量化权重)+风险评估雷达图+ 执行甘特图

3.错误案例集(节选):

致命模糊:"分析市场" → 修正为"用PESTEL模型分析2024年中国预制菜市场,重点关注冷链物流覆盖率对区域扩张的影响"

信息过载:在未提供行业背景的情况下,要求AI"设计颠覆式创新方案"

逻辑混乱:同时要求"详细展开"和"精简概括"而未设定优先级

6 结语:提问即生产力

掌握提问艺术的企业,正在将AI对话转化为战略资产——某头部券商的数据显示,其投研团队通过优化提问策略,使得DeepSeek输出的投资建议组合年化收益率达34.7%,超越人类分析师平均水平22个百分点。这场静默的认知革命,终将重塑每个行业的竞争格局。

源文地址:https://mobile.zol.com.cn/950/9506037.html
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|学习笔记

GMT+8, 2025-6-2 20:42 , Processed in 0.034786 second(s), 13 queries , APCu On.

Powered by Discuz! X3.5

© 2001-2025 Discuz! Team.

快速回复 返回顶部 返回列表