本文记录了“书生大模型实战营”第4关的学习过程,主要内容包括模型下载、上传和部署。通过Hugging Face平台下载指定模型文件,并上传至个人仓库,最后在Spaces中部署成功。文章详细步骤清晰,适合初学者学习和参考,建议结合官方文档深入学习,提高实战能力。

前排提示,文末有大模型AGI-CSDN独家资料包哦!

我目前正在参加“书生大模型实战营”。这是一个旨在帮助学员掌握大模型开发和应用的实战课程。

为了更好地记录完成过程,我根据官方提供的教程文档提取了核心步骤,并去掉了详细的背景知识介绍和说明,这样后续一个手册查找起来会更加直观。

但建议大家在实际学习过程中还是多看看原文,因为原文档确实非常的详细和完整,方便了解每一步的具体原因和背后的原理,这样有助于更牢固地掌握知识,提高实战能力。

入门岛-第4关

本地环境:Win11。

原文:github.com/InternLM/Tu…

完成任务步骤记录

任务一:模型下载

目标:使用Hugging Face平台下载文档中提到的模型(至少需要下载 config.json 文件、model.safetensors.index.json 文件),并在必要步骤及结果中截图。

完成所需时间:20分钟,大概花了15分钟,前提是准备好上网工具。

步骤

  1. 准备事项

  2. 开发环境

    • 打开 GitHub CodeSpace , 创建Jupyter Notebook环境,类似网页版VSCode。
    • 启动好后,在Terminal选项卡中安装环境
    # 安装transformers
    pip install transformers==4.38
    pip install sentencepiece==0.1.99
    pip install einops==0.8.0
    pip install protobuf==5.27.2
    pip install accelerate==0.33.0
    

  1. 模型文件下载到本地

    • 新建hf_download_josn.py 文件,并运行,该文件是为了下载模型文件。
    touch hf_download_josn.py
    
    import os
    from huggingface_hub import hf_hub_download
    
    # 指定模型标识符repo_id = "internlm/internlm2_5-7b"# 指定要下载的文件列表files_to_download = [
        {"filename": "config.json"},
        {"filename": "model.safetensors.index.json"}
    ]
    
    # 创建一个目录来存放下载的文件local_dir = f"{repo_id.split('/')[1]}"
    os.makedirs(local_dir, exist_ok=True)
    
    # 遍历文件列表并下载每个文件
    for file_info in files_to_download:
        file_path = hf_hub_download(
            repo_id=repo_id,
            filename=file_info["filename"],
            local_dir=local_dir
        )
        print(f"{file_info['filename']} file downloaded to: {file_path}")
    
    python hf_download_josn.py
    

任务二:模型上传

目标:将下载好的 config.json 文件上传到Hugging Face平台,并截图。

完成所需时间:10分钟,注意push前设置token。

步骤

  1. 环境准备
  • 提前安装Hugging Face CLI方便后续上传。
curl -s https://packagecloud.io/install/repositories/github/git-lfs/script.deb.sh | sudo bash
# sudo apt-get install git-lfs # CodeSpace里面可能会有aptkey冲突且没有足够权限
git lfs install # 直接在git环境下配置git LFS
pip install huggingface_hub
  • 准备Hugging Face Token方便后续登录,记得存好Token。


  • 登录Hugging Face CLI
git config--global credential.helper store
huggingface-cli login

登录过程中需要使用上一步的Token。

  1. 建立模型仓库
cd /workspaces/codespaces-jupyter

#intern_study_L0_4就是model_name
huggingface-cli repo create intern_study_L0_4

# 克隆到本地 your_github_name 注意替换成你自己的# git clone https://huggingface.co/{your_github_name}/intern_study_L0_4
git clone https://huggingface.co/flyfive0315/intern_study_L0_4
  • 然后将“任务一”中的config.json复制到CodeSpace的intern_study_L0_4文件夹中
  • 再创建一个README.md文件,内容如下:
# 书生浦语大模型实战营camp4
- hugging face模型上传测试
- 更多内容请访问 https://github.com/InternLM/Tutorial/tree/camp4
  1. 上传模型文件:
cd intern_study_L0_4
git add .
git commit -m "add:intern_study_L0_4"# 注意设置这一步git remote set-url origin https://<user_name>:<token>@huggingface.co/<repo_path>
git remote set-url origin https://flyfive0315:xxxxxx@huggingface.co/flyfive0315/intern_study_L0_4
git push
  1. 结果:
  • 直接访问以下地址
https://huggingface.co/flyfive0315/intern_study_L0_4


任务三:Space上传

目标:在Hugging Face平台上使用Spaces并把 intern_cobuild 部署成功,关键步骤截图。

完成所需时间:10分钟,几分钟应该就差不多。

步骤

  1. Hugging Face Spaces创建项目:

  1. CodeSpace 中检出项目并修改代码:
  • 检出上一步创建的项目
cd /workspaces/codespaces-jupyter
# 请将<your_username>替换你自己的username
git clone https://huggingface.co/spaces/flyfive0315/intern_cobuild
cd /workspaces/codespaces-jupyter/intern_cobuild
  • 修改index.html代码
<!doctype html><html><head><metacharset="utf-8" /><metaname="viewport"content="width=device-width" /><title>My static Space</title><style>html, body {
      margin: 0;
      padding: 0;
      height: 100%;
    }
    body {
      display: flex;
      justify-content: center;
      align-items: center;
    }
    iframe {
      width: 430px;
      height: 932px;
      border: none;
    }
  </style></head><body><iframesrc="https://colearn.intern-ai.org.cn/cobuild"title="description"></iframe></body></html>
  1. 推送代码:
  • 推送代码到仓库
git add .
git commit-m "update: colearn page"
# 注意设置这一步 git remote set-url origin https://<user_name>:<token>@huggingface.co/<repo_path>
git remote set-url origin https://flyfive0315:xxxxxx@huggingface.co/spaces/flyfive0315/intern_cobuild
git push
  1. 结果
  • 再次进入Space界面。

读者福利:倘若大家对大模型感兴趣,那么这套大模型学习资料一定对你有用。

针对0基础小白:

如果你是零基础小白,快速入门大模型是可行的。
大模型学习流程较短,学习内容全面,需要理论与实践结合
学习计划和方向能根据资料进行归纳总结

包括:大模型学习线路汇总、学习阶段,大模型实战案例,大模型学习视频,人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型!

😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

请添加图片描述

👉AI大模型学习路线汇总👈

大模型学习路线图,整体分为7个大的阶段:(全套教程文末领取哈)

第一阶段: 从大模型系统设计入手,讲解大模型的主要方法;

第二阶段: 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用;

第三阶段: 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统;

第四阶段: 大模型知识库应用开发以LangChain框架为例,构建物流行业咨询智能问答系统;

第五阶段: 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型;

第六阶段: 以SD多模态大模型为主,搭建了文生图小程序案例;

第七阶段: 以大模型平台应用与开发为主,通过星火大模型,文心大模型等成熟大模型构建大模型行业应用。

👉大模型实战案例👈

光学理论是没用的,要学会跟着一起做,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。

在这里插入图片描述

👉大模型视频和PDF合集👈

这里我们能提供零基础学习书籍和视频。作为最快捷也是最有效的方式之一,跟着老师的思路,由浅入深,从理论到实操,其实大模型并不难

在这里插入图片描述

👉学会后的收获:👈

• 基于大模型全栈工程实现(前端、后端、产品经理、设计、数据分析等),通过这门课可获得不同能力;

• 能够利用大模型解决相关实际项目需求: 大数据时代,越来越多的企业和机构需要处理海量数据,利用大模型技术可以更好地处理这些数据,提高数据分析和决策的准确性。因此,掌握大模型应用开发技能,可以让程序员更好地应对实际项目需求;

• 基于大模型和企业数据AI应用开发,实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能, 学会Fine-tuning垂直训练大模型(数据准备、数据蒸馏、大模型部署)一站式掌握;

• 能够完成时下热门大模型垂直领域模型训练能力,提高程序员的编码能力: 大模型应用开发需要掌握机器学习算法、深度学习框架等技术,这些技术的掌握可以提高程序员的编码能力和分析能力,让程序员更加熟练地编写高质量的代码。

👉获取方式:

😝有需要的小伙伴,可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

Logo

有“AI”的1024 = 2048,欢迎大家加入2048 AI社区

更多推荐