PYPTO_LAUNCH_SCHED_SAME_CLUSTER#
功能描述#
控制是否强制在同一Cluster内分配调度线程(AICPU)。在同一Cluster分配调度线程能够获得更好的核间流水性能,但在整网场景中,除PyPTO外还有其他组件使用AICPU,强制同Cluster可能因AICPU资源不足导致执行超时。
类型:字符串
取值范围:
true(默认,同Cluster分配)、false(不强制同Cluster)
配置示例#
# 整网场景下关闭同Cluster约束,避免AICPU资源不足
export PYPTO_LAUNCH_SCHED_SAME_CLUSTER=false
使用约束#
设置为
false时,可以配合launch_sched_aicpu_num(通过runtime_options配置)指定可用的AICPU数量。开启同Cluster分配时,
launch_sched_aicpu_num配置不生效。
支持的型号#
Ascend 950PR
Atlas A2训练系列产品 / Atlas A2推理系列产品
Atlas A3训练系列产品 / Atlas A3推理系列产品