PYPTO_LAUNCH_SCHED_SAME_CLUSTER#

功能描述#

控制是否强制在同一Cluster内分配调度线程(AICPU)。在同一Cluster分配调度线程能够获得更好的核间流水性能,但在整网场景中,除PyPTO外还有其他组件使用AICPU,强制同Cluster可能因AICPU资源不足导致执行超时。

  • 类型:字符串

  • 取值范围:true(默认,同Cluster分配)、false(不强制同Cluster)

配置示例#

# 整网场景下关闭同Cluster约束,避免AICPU资源不足
export PYPTO_LAUNCH_SCHED_SAME_CLUSTER=false

使用约束#

  • 设置为false时,可以配合launch_sched_aicpu_num(通过runtime_options配置)指定可用的AICPU数量。

  • 开启同Cluster分配时,launch_sched_aicpu_num配置不生效。

支持的型号#

  • Ascend 950PR

  • Atlas A2训练系列产品 / Atlas A2推理系列产品

  • Atlas A3训练系列产品 / Atlas A3推理系列产品