登录
注册
开源
企业版
高校版
搜索
帮助中心
使用条款
关于我们
开源
企业版
高校版
私有云
模力方舟
AI 队友
登录
注册
代码拉取完成,页面将自动刷新
开源项目
>
人工智能
>
机器学习/深度学习
&&
捐赠
捐赠前请先登录
取消
前往登录
扫描微信二维码支付
取消
支付完成
支付提示
将跳转至支付宝完成支付
确定
取消
Watch
不关注
关注所有动态
仅关注版本发行动态
关注但不提醒动态
188
Star
1.1K
Fork
295
MindSpore
/
community
代码
Issues
506
Pull Requests
6
Wiki
统计
流水线
服务
JavaDoc
PHPDoc
质量分析
Jenkins for Gitee
腾讯云托管
腾讯云 Serverless
悬镜安全
阿里云 SAE
Codeblitz
SBOM
我知道了,不再自动展开
更新失败,请稍后重试!
移除标识
内容风险标识
本任务被
标识为内容中包含有代码安全 Bug 、隐私泄露等敏感信息,仓库外成员不可访问
【开源实习】联手书生社区,将Intern-S1接入vllm-mindspore插件,支持通过vllm进行推理服务化部署
TODO
#ICY3VD
Intern
杨宇澄
创建于
2025-09-15 20:12
【任务分值】30分 【任务背景】 Intern-S1融合了书生大模型家族的优势,在同一模型内实现了语言和多模态性能的高水平均衡发展,并富集多学科专业知识,重点强化了科学能力,为首个融合专业科学能力的开源通用模型,其综合性能为当前开源多模态大模型中最优。 【需求描述】 1.将Intern-S1接入vllm-mindspore插件,支持通过vllm进行推理服务化部署,脚本参考vllm-mindspore中Qwen2.5;(需要提交文档,代码,推理加载权重,测试用例等); 2.实现vllm-mindspore和OpenCompass中的VLMEvalKit数据集进行评测,在精度误差内,推理时间优于Huggingface标准,形成完善的样例,文档等(包含代码,环境等); 【验收标准】 1.提交应用的代码至 https://gitee.com/mindspore/vllm-mindsporer分支 2.提交代码到Intern代码仓上或者文档上; 3.提供1个推理案例; 【任务技术要求】 硬件:Atlas 800I A2推理服务器,或Atlas 800T A2推理服务器,已安装必要的驱动程序,并可连接至互联网 操作系统:openEuler或Ubuntu Linux 软件: Python >= 3.11.4 CANN >= 8.2.RC1 MindSpore:2.7.0 MindSpore Transformers=1.6.0 vLLM:0.9.1 【任务成果仓库】 vllm-mindspore (master):https://gitee.com/mindspore/vllm-mindspore 【导师邮箱】 翟老师:zhaizhiqiang@huawei.com **请认领任务的同学先发简历给任务导师,谢谢合作**
【任务分值】30分 【任务背景】 Intern-S1融合了书生大模型家族的优势,在同一模型内实现了语言和多模态性能的高水平均衡发展,并富集多学科专业知识,重点强化了科学能力,为首个融合专业科学能力的开源通用模型,其综合性能为当前开源多模态大模型中最优。 【需求描述】 1.将Intern-S1接入vllm-mindspore插件,支持通过vllm进行推理服务化部署,脚本参考vllm-mindspore中Qwen2.5;(需要提交文档,代码,推理加载权重,测试用例等); 2.实现vllm-mindspore和OpenCompass中的VLMEvalKit数据集进行评测,在精度误差内,推理时间优于Huggingface标准,形成完善的样例,文档等(包含代码,环境等); 【验收标准】 1.提交应用的代码至 https://gitee.com/mindspore/vllm-mindsporer分支 2.提交代码到Intern代码仓上或者文档上; 3.提供1个推理案例; 【任务技术要求】 硬件:Atlas 800I A2推理服务器,或Atlas 800T A2推理服务器,已安装必要的驱动程序,并可连接至互联网 操作系统:openEuler或Ubuntu Linux 软件: Python >= 3.11.4 CANN >= 8.2.RC1 MindSpore:2.7.0 MindSpore Transformers=1.6.0 vLLM:0.9.1 【任务成果仓库】 vllm-mindspore (master):https://gitee.com/mindspore/vllm-mindspore 【导师邮箱】 翟老师:zhaizhiqiang@huawei.com **请认领任务的同学先发简历给任务导师,谢谢合作**
评论 (
4
)
登录
后才可以发表评论
状态
TODO
TODO
ACCEPTED
WIP
VALIDATION
DONE
CLOSED
REJECTED
负责人
未设置
标签
intern
intern-task-assign
未设置
项目
未立项任务
未立项任务
里程碑
未关联里程碑
未关联里程碑
Pull Requests
未关联
未关联
关联的 Pull Requests 被合并后可能会关闭此 issue
分支
未关联
未关联
master
revert-merge-293-master
开始日期   -   截止日期
-
置顶选项
不置顶
置顶等级:高
置顶等级:中
置顶等级:低
优先级
不指定
严重
主要
次要
不重要
预计工期
(小时)
参与者(1)
1
https://gitee.com/mindspore/community.git
git@gitee.com:mindspore/community.git
mindspore
community
community
点此查找更多帮助
搜索帮助
Git 命令在线学习
如何在 Gitee 导入 GitHub 仓库
Git 仓库基础操作
企业版和社区版功能对比
SSH 公钥设置
如何处理代码冲突
仓库体积过大,如何减小?
如何找回被删除的仓库数据
Gitee 产品配额说明
GitHub仓库快速导入Gitee及同步更新
什么是 Release(发行版)
将 PHP 项目自动发布到 packagist.org
仓库举报
回到顶部
登录提示
该操作需登录 Gitee 帐号,请先登录后再操作。
立即登录
没有帐号,去注册