【开源实习】基于MindSpore迁移Evo2 7b推理到MindScience仓库，实现性能提升FlashFFTConv函数

【任务分值】15分

【任务背景】
Evo 2作为目前最大的开源生物学AI模型，其优势主要体现在数据规模、架构创新、功能预测与生成能力等方面，与AlphaFold 3（AF3）在DNA/RNA结构预测上的能力形成互补。Evo 2采用StripedHyena 2架构，结合卷积与注意力机制，支持100万碱基对的上下文窗口，能高效处理长序列中的远距离依赖关系。相比传统Transformer，其训练速度提升3倍，且参数规模扩展至400亿。
价值：
1、该模型为MindScience生物领域需要支持的首个基因组学大模型，客户诉求多，业务合作价值高
2、Evo2涉及技术点难，最高支持40b，需支持长序列推理，涉及多卡并行，且evo2中使用910b不兼容fp8等优化技术，需要规避。
难点：
昇腾上重新实现由于与GPU架构上有差异，导致卷积等优化操作效率不高（与大语言模型transformer不同），需要重新调整和优化。需要确保模型中的算子能够被昇腾芯片高效支持，或者需要自定义算子。

【任务需求】
基于MindSpore框架迁移Evo2到MindScience MindSPONGE上，实现关键性能提升FlashFFTConv函数。
难点：
昇腾上重新实现由于与GPU架构上有差异，导致卷积等优化操作效率不高（与大语言模型transformer不同），需要重新调整和优化。需要确保模型中的算子能够被昇腾芯片高效支持，或者需要自定义算子。

【参考资料】
Evo2 github: https://github.com/ArcInstitute/evo2
vortex: https://github.com/Zymrael/vortex
FlashFFTConv: https://github.com/HazyResearch/flash-fft-conv/tree/main/csrc/flashfftconv

【验收标准】
1、提交应用的代码至 https://gitee.com/mindspore/mindscience/tree/master/MindSPONGE
2、补充对应ST用例并上库
3、满足cleancode编码规范

【任务技术要求】
硬件：Atlas 800I A2推理服务器，或Atlas 800T A2推理服务器，已安装必要的驱动程序，并可连接至互联网
操作系统：openEuler或Ubuntu Linux
软件：
Python >= 3.11.4
CANN >= 8.2.RC1
MindSpore = 2.7.0

【任务成果仓库】
MindSpore Science(master):
https://gitee.com/mindspore/mindscience/tree/master/MindSPONGE

【导师邮箱】
龙老师：longyangyang1@huawei.com
 **请认领任务的同学先发简历邮件给导师，谢谢合作**

MindSpore/community

内容风险标识

评论 (3)

MindSpore/community .gitee-modal { width: 500px !important; }

内容风险标识