Java开发者必看！每月10000分钟免费GPU，用DeepSeek搭建大模型

Cloud Studio是一个强大的云端开发平台，能够帮助我们快速创建GPU加速的开发环境，特别适合进行深度学习和AI相关的任务。无论是初学者还是资深开发者，都可以在这里轻松搭建自己的大模型。

真心喜欢你吖

1259人浏览 · 2025-03-02 11:47:31

真心喜欢你吖 · 2025-03-02 11:47:31 发布

Java开发者必看！每月10000分钟免费GPU，用DeepSeek搭建大模型

在人工智能的浪潮中，大模型已经成为技术领域的热门话题。然而，对于许多新手开发者来说，高昂的硬件成本和复杂的搭建过程往往是进入这个领域的最大障碍。今天，我要给大家介绍一个超级友好的平台——Cloud Studio，它不仅提供了每月10000分钟的免费GPU资源，还能让你轻松搭建大模型！
在这里插入图片描述

一、什么是Cloud Studio？

在这里插入图片描述

二、免费GPU资源：新手的福音

Cloud Studio为每个用户提供了每月10000分钟的免费GPU资源，这台机器拥有16GB显存和32GB内存，足以应对大多数机器学习任务。这意味着，即使你没有自己的GPU设备，也可以在这里尽情地进行模型训练和数据处理。

在这里插入图片描述

三、如何搭建大模型？

接下来，我将手把手教你如何在Cloud Studio上搭建大模型。我们会以Ollama为例，一步步完成整个过程。

（一）第一步：创建云端开发环境

访问Cloud Studio
- 首先，访问Cloud Studio的产品页面（点击这里），然后创建一个开发环境。创建完成后，进入控制台并启动你选择的实例。
进入控制台
- 在控制台中，你可以通过Web终端直接连接到云端服务器。这就像你拥有了一个远程的超级计算机，随时可以开始你的开发之旅！

（二）第二步：安装Ollama环境

连接到服务器
- 在控制台创建并启动实例后，通过Web终端直接连接到云端服务器。
安装Ollama
- 在终端中运行以下命令来安装Ollama环境：
```
pip install ollama
```
- 安装完成后，你就可以通过Ollama的Python API与模型进行交互啦！

（三）第三步：配置Python环境

统一Python解释器路径
- 由于在终端中和编辑器中使用的Python解释器路径可能不同，我们需要统一它们。运行以下命令：
```
rm -f /bin/python3
ln -s /root/miniforge3/bin/python3 /bin/python3
```
- 这样，Python解释器就会指向我们安装的环境，避免了路径冲突的问题。

（四）第四步：运行一个简单的代码

编写代码

在你的代码编辑器中输入以下代码：

from ollama import chat
from ollama import ChatResponse

response: ChatResponse = chat(
    model='qwen2.5:0.5b',
    messages=[
        {'role': 'user', 'content': '你是什么模型？'},
    ]
)

print(response['message']['content'])

运行代码
- 运行后，你应该会看到模型返回的回答，例如：“我是一个基于qwen2.5:0.5b的模型。”这说明你的模型已经可以正常工作啦！

（五）第五步：将模型端口暴露出来

开启Ollama Web端口
- 运行以下命令，将Ollama服务绑定到0.0.0.0:12345：
```
echo 'export OLLAMA_HOST="0.0.0.0:12345"' >> ~/.bashrc
source ~/.bashrc
```
杀掉已有的Ollama进程
- 如果之前已经启动过Ollama服务，需要先杀掉已有的进程。运行以下命令：
```
ps -ef | grep ollama
kill -9 [进程号]
```
启动Ollama服务
- 重新启动Ollama服务：
```
/usr/local/bin/ollama serve
```
验证服务是否启动成功
- 运行以下命令来验证服务是否启动成功：
```
curl localhost:12345
```
- 如果返回“Ollama is running”，说明服务已经成功启动。