●新闻多一点

如何快速部署Deepseek-R1?

其实部署Deepseek-R1并不难,普通人在个人电脑上也可以实现,但对于设备硬件有一定的门槛要求——

CPU:建议使用Intel Xeon系列或AMD EPYC系列等多核处理器,至少4核。

GPU:如果你需要进行高效的推理,推荐使用NVIDIA GeForce RTX 30系列或NVIDIA A100等,显存至少8GB。

内存:至少16GB的系统内存,如果你部署的是大规模模型,建议使用32GB及以上。

存储:准备足够的磁盘空间来存储模型文件和相关数据,根据不同的模型版本,可能需要几十GB到上百GB的存储空间。

操作系统:目前推荐的是buntu 20.04或更高版本的Linux系统。如果是苹果MacOS系统,则选择M4以上的配置。目前,Deepseek-R1在Windows环境下并不是特别稳定。

硬件准备完成后,就可进行以下简单操作:

一是,下载并安装工具箱Ollama。

无论是通义千问、Kim还是Deepseek,都是工具,要在本地运行,需要一个工具箱,Ollama就是放工具的工具箱。

二是,安装Deepseek-R1。

在Ollama的搜索框中输入Deepseek-R1,找到“Deepseek-R1”,点击进入详情页。

Deepseek-R1有诸多类型,每个类型的名称后跟随1.5B、7B、14B等,这里的B就是billion(十亿),表示模型的参数数量。大家可根据自身电脑的硬件配置情况选择参数。

调出电脑的“启动台”,搜索“终端”并点击进入,将命令粘贴到“终端”窗口,按下回车键,等待安装完成。

三是,下载并安装可视化界面。

安装后,与模型交互的界面还是“命令”界面,是个代码框。要获得一个可视化界面,还需要安装工具——如Chatbox等智能对话工具。安装后就可以像QQ聊天一样和Deepseek-R1聊天了。

2025-02-15 2 2 宁波晚报 content_198827.html 1 3 ●新闻多一点 /enpproperty-->