登录
注册
开源
企业版
高校版
搜索
帮助中心
使用条款
关于我们
开源
企业版
高校版
私有云
模力方舟
AI 队友
登录
注册
轻量养虾,开箱即用!低 Token + 稳定算力,Gitee & 模力方舟联合出品的 PocketClaw 正式开售!点击了解详情
代码拉取完成,页面将自动刷新
仓库状态说明
开源项目
>
其他开源
>
操作系统
&&
捐赠
捐赠前请先登录
取消
前往登录
扫描微信二维码支付
取消
支付完成
支付提示
将跳转至支付宝完成支付
确定
取消
Watch
不关注
关注所有动态
仅关注版本发行动态
关注但不提醒动态
458
Star
1.7K
Fork
1.9K
GVP
openEuler
/
kernel
关闭
代码
Issues
1271
Pull Requests
991
Wiki
统计
流水线
服务
质量分析
Jenkins for Gitee
腾讯云托管
腾讯云 Serverless
悬镜安全
阿里云 SAE
Codeblitz
SBOM
开发画像分析
我知道了,不再自动展开
更新失败,请稍后重试!
移除标识
内容风险标识
本任务被
标识为内容中包含有代码安全 Bug 、隐私泄露等敏感信息,仓库外成员不可访问
解决多队列块设备,在使用 mq-deadline 调度器的场景下,机器卡死的问题
待办的
#I7QFJD
缺陷
chenlei0x
创建于
2023-08-03 22:25
【标题描述】 解决多队列块设备,在使用 mq-deadline 调度器的场景下,机器卡死的问题。 主要原因在于 mq-deadline 是针对 multi queue 的,这种做法会造成 blk_mq_run_hw_queues 中实际会针对每个 hctx 进行唤醒,导致在某些设备的中断上下文中耗时很久。我们在 PM8222 raid 卡上实测的调用路径如下: ``` pqi_irq_handler scsi_io_completion # 这里会做io 聚合,一次 irq 可能会处理多个 scsi cmd,调用多次该函数 scsi_run_queue_async blk_mq_run_hw_queues blk_mq_run_hw_queue need_run = xxxx && blk_mq_hctx_has_pending(hctx) if need_run __blk_mq_delay_run_hw_queue(hctx, async, 0); # 由于此处 async = 0,所以会向 hctx 对应的 cpu 的 workqueue 加入 work,并通过 ipi 唤醒对应的 CPU 等一系列操作。 ``` 上述代码中通过调用 blk_mq_hctx_has_pending 判定是否 need_run。 该函数的调用流程如下: ``` blk_mq_hctx_has_pending blk_mq_sched_has_work(hctx); e->type->ops.mq.has_work(hctx); ``` 当调度器为 mq—deadline 时,会调用该调度器的回调函数 `dd_has_work`。由于 mq_deadline 并非面向 multiqueue的,`dd_has_work` 实际并不关系 hctx 是谁,大概率都会返回 true。 上述的代码会造成一个问题,`pqi_irq_handler` 中每次完成一个 scsi cmd,都会把该块设备的每个 hctx 都唤醒一遍,在 PM8222 raid 卡上,每个块设备有 64 个 hctx,在实际的浪费了大量的 CPU 资源,造成性能过差。 【环境信息】 硬件信息: 1) 多队列块设备,比如浪潮的 PM8222 raid 卡 软件信息: 1) fio 版本任意 2) fio 配置如下 ``` [global] name=fiotest ioengine=libaio direct=1 iodepth=128 group_reporting runtime=1000 [random-rw-test1] rw=randread bs=4k size=100Gb numjobs=1 filename=/dev/sdd # 该设备挂载于 pm8222 raid 卡上 ``` 【预期结果】 ssd 性能能达到正常水平,大约 80k iops 【实际结果】 7k iops,且内核会产生 softlockup
【标题描述】 解决多队列块设备,在使用 mq-deadline 调度器的场景下,机器卡死的问题。 主要原因在于 mq-deadline 是针对 multi queue 的,这种做法会造成 blk_mq_run_hw_queues 中实际会针对每个 hctx 进行唤醒,导致在某些设备的中断上下文中耗时很久。我们在 PM8222 raid 卡上实测的调用路径如下: ``` pqi_irq_handler scsi_io_completion # 这里会做io 聚合,一次 irq 可能会处理多个 scsi cmd,调用多次该函数 scsi_run_queue_async blk_mq_run_hw_queues blk_mq_run_hw_queue need_run = xxxx && blk_mq_hctx_has_pending(hctx) if need_run __blk_mq_delay_run_hw_queue(hctx, async, 0); # 由于此处 async = 0,所以会向 hctx 对应的 cpu 的 workqueue 加入 work,并通过 ipi 唤醒对应的 CPU 等一系列操作。 ``` 上述代码中通过调用 blk_mq_hctx_has_pending 判定是否 need_run。 该函数的调用流程如下: ``` blk_mq_hctx_has_pending blk_mq_sched_has_work(hctx); e->type->ops.mq.has_work(hctx); ``` 当调度器为 mq—deadline 时,会调用该调度器的回调函数 `dd_has_work`。由于 mq_deadline 并非面向 multiqueue的,`dd_has_work` 实际并不关系 hctx 是谁,大概率都会返回 true。 上述的代码会造成一个问题,`pqi_irq_handler` 中每次完成一个 scsi cmd,都会把该块设备的每个 hctx 都唤醒一遍,在 PM8222 raid 卡上,每个块设备有 64 个 hctx,在实际的浪费了大量的 CPU 资源,造成性能过差。 【环境信息】 硬件信息: 1) 多队列块设备,比如浪潮的 PM8222 raid 卡 软件信息: 1) fio 版本任意 2) fio 配置如下 ``` [global] name=fiotest ioengine=libaio direct=1 iodepth=128 group_reporting runtime=1000 [random-rw-test1] rw=randread bs=4k size=100Gb numjobs=1 filename=/dev/sdd # 该设备挂载于 pm8222 raid 卡上 ``` 【预期结果】 ssd 性能能达到正常水平,大约 80k iops 【实际结果】 7k iops,且内核会产生 softlockup
评论 (
2
)
登录
后才可以发表评论
状态
待办的
待办的
已挂起
修复中
已确认
已完成
已验收
已取消
负责人
未设置
标签
sig/Kernel
未设置
项目
未立项任务
未立项任务
Pull Requests
未关联
未关联
关联的 Pull Requests 被合并后可能会关闭此 issue
分支
未关联
分支 (
-
)
标签 (
-
)
开始日期   -   截止日期
-
置顶选项
不置顶
置顶等级:高
置顶等级:中
置顶等级:低
优先级
不指定
严重
主要
次要
不重要
预计工期
(小时)
参与者(3)
C
1
https://gitee.com/openeuler/kernel.git
git@gitee.com:openeuler/kernel.git
openeuler
kernel
kernel
点此查找更多帮助
搜索帮助
Git 命令在线学习
如何在 Gitee 导入 GitHub 仓库
Git 仓库基础操作
企业版和社区版功能对比
SSH 公钥设置
如何处理代码冲突
仓库体积过大,如何减小?
如何找回被删除的仓库数据
Gitee 产品配额说明
GitHub仓库快速导入Gitee及同步更新
什么是 Release(发行版)
将 PHP 项目自动发布到 packagist.org
评论
仓库举报
回到顶部
登录提示
该操作需登录 Gitee 帐号,请先登录后再操作。
立即登录
没有帐号,去注册