登录
注册
开源
企业版
高校版
搜索
帮助中心
使用条款
关于我们
开源
企业版
高校版
私有云
模力方舟
AI 队友
登录
注册
12月21日就在北京,来看大模型推理 + 国产硬件生态 + 开源社区分享,一起搞技术、聊开源、领福利~~
代码拉取完成,页面将自动刷新
开源项目
>
其他开源
>
操作系统
&&
捐赠
捐赠前请先登录
取消
前往登录
扫描微信二维码支付
取消
支付完成
支付提示
将跳转至支付宝完成支付
确定
取消
Watch
不关注
关注所有动态
仅关注版本发行动态
关注但不提醒动态
170
Star
435
Fork
1.6K
openEuler
/
community
代码
Issues
660
Pull Requests
15
Wiki
统计
流水线
服务
质量分析
Jenkins for Gitee
腾讯云托管
腾讯云 Serverless
悬镜安全
阿里云 SAE
Codeblitz
SBOM
我知道了,不再自动展开
更新失败,请稍后重试!
移除标识
内容风险标识
本任务被
标识为内容中包含有代码安全 Bug 、隐私泄露等敏感信息,仓库外成员不可访问
申请创建OmniOperator仓
待办的
#ICNT1F
任务
hyy_cyan
创建于
2025-07-21 19:14
本PR申请创建openeuler/OmniOperator仓库,归属于bigdata SIG下管理。 简介: 大数据主流计算引擎以Java/Scala高级编程语言为主,算子是访存密集型的计算类型,其有很大的不足之处。首先,Java的本身的性能还是弱于Native Code,JVM一层的开销依然存在。其次,由于Java的语义的限制,对于整体的类SIMD指令支持较弱,无法完全发挥CPU的算力。此外,大数据现有引擎以行式内存数据结构进行内存计算,无法充分利用芯片的向量化指令,执行效率有待提升。 OmniOperator算子加速采用Native Code(C/C++)实现大数据SQL算子。首先,以列式内存数据格式OmniVec进行内存计算,同列数据内存连续,提升数据访问性能,充分利用向量化加速。其次,向量化算子采用C++实现,使用向量化执行思想,算子在进行处理时从逐行处理变为逐批处理,更好利用现代CPU的能力。向量化算子拥有更多机会利用CPU中SIMD指令(单指令多数据)和提高CPU Cache命中率进行向量化执行,提升查询性能和有效提升CPU利用率。此外,算子在核心功能处理,如Hash计算以及聚合值计算时,显式调用SVE、NEON指令以及鲲鹏加速库进行加速,能够基于单条指令对多个数据同时进行操作,进一步提升算子处理性能。
本PR申请创建openeuler/OmniOperator仓库,归属于bigdata SIG下管理。 简介: 大数据主流计算引擎以Java/Scala高级编程语言为主,算子是访存密集型的计算类型,其有很大的不足之处。首先,Java的本身的性能还是弱于Native Code,JVM一层的开销依然存在。其次,由于Java的语义的限制,对于整体的类SIMD指令支持较弱,无法完全发挥CPU的算力。此外,大数据现有引擎以行式内存数据结构进行内存计算,无法充分利用芯片的向量化指令,执行效率有待提升。 OmniOperator算子加速采用Native Code(C/C++)实现大数据SQL算子。首先,以列式内存数据格式OmniVec进行内存计算,同列数据内存连续,提升数据访问性能,充分利用向量化加速。其次,向量化算子采用C++实现,使用向量化执行思想,算子在进行处理时从逐行处理变为逐批处理,更好利用现代CPU的能力。向量化算子拥有更多机会利用CPU中SIMD指令(单指令多数据)和提高CPU Cache命中率进行向量化执行,提升查询性能和有效提升CPU利用率。此外,算子在核心功能处理,如Hash计算以及聚合值计算时,显式调用SVE、NEON指令以及鲲鹏加速库进行加速,能够基于单条指令对多个数据同时进行操作,进一步提升算子处理性能。
评论 (
1
)
登录
后才可以发表评论
状态
待办的
待办的
进行中
已完成
已拒绝
负责人
未设置
标签
sig/TC
未设置
项目
未立项任务
未立项任务
里程碑
未关联里程碑
未关联里程碑
Pull Requests
未关联
未关联
关联的 Pull Requests 被合并后可能会关闭此 issue
分支
未关联
未关联
master
revert-merge-6093-master
revert-merge-6149-master
revert-merge-2745-master
revert-merge-2733-master
revert-merge-2642-master
revert-merge-1991-master
feature/test_branch
开始日期   -   截止日期
-
置顶选项
不置顶
置顶等级:高
置顶等级:中
置顶等级:低
优先级
不指定
严重
主要
次要
不重要
预计工期
(小时)
参与者(1)
Go
1
https://gitee.com/openeuler/community.git
git@gitee.com:openeuler/community.git
openeuler
community
community
点此查找更多帮助
搜索帮助
Git 命令在线学习
如何在 Gitee 导入 GitHub 仓库
Git 仓库基础操作
企业版和社区版功能对比
SSH 公钥设置
如何处理代码冲突
仓库体积过大,如何减小?
如何找回被删除的仓库数据
Gitee 产品配额说明
GitHub仓库快速导入Gitee及同步更新
什么是 Release(发行版)
将 PHP 项目自动发布到 packagist.org
仓库举报
回到顶部
登录提示
该操作需登录 Gitee 帐号,请先登录后再操作。
立即登录
没有帐号,去注册