OpenI x SCNet “智能超算”创新应用挑战赛:实践阶段1和阶段2 部署Deepseek推理模型
OpenI x SCNet “智能超算”创新应用挑战赛
文档:OpenI x SCNet “智能超算”创新应用挑战赛 - 飞书云文档
超算平台:超算互联网
启智平台:“智能超算”创新应用挑战赛 – 启智社区
一、💦参赛进度规划表
OpenI x SCNet “智能超算”创新应用挑战赛参赛进度表 | |||
Task | 挑战任务 | 权益 | 官方安排 |
Task 1 7月10日~8月10日 | 打怪难度:⭐️
|
| 开赛直播 (7月25日) |
Task 2 7月10日~8月10日 | 打怪难度:⭐️
|
| |
Task 3 7月15日~8月31日 | 打怪难度:⭐️⭐️
|
| 技术分享交流会 (待定) |
Task 4 8月31日之前 | 打怪难度:⭐️⭐️
| ||
祝大家比赛顺利,学习愉快~ 多在群里提问和交流哟! |
———>>>阶段二:模型开发阶段<<<————
参赛选手基于OpenI社区【调试】服务创建云脑任务,根据选题报告技术路线,使用异构加速卡AI部署开源大模型创建为API服务。(支持使用预置镜像,镜像内已经预装环境,可直接调试)完成提交后经由专家评审团验证后即可参与应用开发阶段,前50名有机会获得100元入围奖。(须在2025年8月10日之前完成)。
打怪难度:⭐️
🚩完成标志:在容器内构建模型服务,基于AI框架搭建为API在线接口服务,并基于容器内部环境,调用成功,完成后截图,并保存镜像,填写以下链接提交信息,完成比赛。
3
👀参赛服务链接:🔗https://git.openi.org.cn/cloudbrains
👀参赛提醒:【调试任务】最大可使用2张k100_AI加速卡(单张显存64GB),推荐使用32B及其以下大小或32B以上模型的量化版
👀算力发放:赛事方收到报名信息后,审核发放参赛所需算力积分(发放周期1天),300积分对应100卡时,请合理安排算力消耗。完成此阶段后,即可获得下阶段参赛所需的500卡时算力。
实践
根据快速通关指引,快速完成任务。
先创建调试环境
在【AI协作平台】创建【云脑任务】
选择【计算资源】为⏰【海光DCU】,资源规格选择【DCU:1*K100_AI显存(64GB,CPU:7,内存:110GB)】,选择镜像:image.ac.com:5000/dcu/admin/base/jupyterlab-deepseek-r1-0528-qwen3-8b-api:pytorch2.4.1-py3.10-dtk25.04-model
这个镜像里面有全套的推理环境,非常方便使用。
运行推理
点击运行预置脚本,即可快速启动模型服务,文件夹内已经包含了模型权重文件。
先打开服务
run app.py
然后验证一下
import subprocess
command = '''curl -X POST http://localhost:8000/v1/chat/completions \-H "Content-Type: application/json" \-d '{"model": "DeepSeek-R1-0528-Qwen3-8B","messages": [{"role": "user","content": [{"type": "text","text": "你好"}]}],"temperature": 0.7,"top_p": 0.9,"stream": false,"max_tokens": 1024}''''
result = subprocess.run(command, shell=True, capture_output=True, text=True)
print(result.stdout)
输出:
提交调试环境
直接点击“提交镜像”
阶段二任务完成!