本项目是CANN的算子模板库,提供NPU上高性能矩阵乘及其相关融合类算子模板样例。
| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
feat: integrate examples 15-18 (gemm, group_gemm, gemv_aiv, gemv_aic) into optest framework Co-authored-by: yuantao<taoyuan18@huawei.com> # message auto-generated for no-merge-commit merge: !750 merge feat_gemm_test into master feat: integrate examples 15-18 (gemm, group_gemm, gemv_aiv, gemv_aic) into optest framework Created-by: nunnons2 Commit-by: majiajian_hw;yuantao Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> feat: integrate examples 15-18 (gemm, group_gemm, gemv_aiv, gemv_aic) into optest framework ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> https://gitcode.com/cann/catlass/issues/273 ## 原因 <!--说明此次改动的目的、解决的问题等,应与类型标签匹配 --> 接入torch_catlass接口方便测试。 ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> 15:  16:  17:  18:  ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> NA ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/catlass!750 | 14 天前 | |
style: format all markdown files with prettier Co-authored-by: Yuan Tao<yuantao313@outlook.com> # message auto-generated for no-merge-commit merge: !766 merge format/md-docs into master style: format all markdown files with prettier Created-by: yuantao_ Commit-by: Yuan Tao Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 用prettier格式化所有md文件,以解决在某些编辑器下的显示问题 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> ## 原因 <!--说明此次改动的目的、解决的问题等,应与类型标签匹配 --> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/catlass!766 | 12 天前 | |
增加unittest单元测试 Co-authored-by: yuantao<taoyuan18@huawei.com> # message auto-generated for no-merge-commit merge: !449 merge unittest into master 增加unittest单元测试 Created-by: yuantao_ Commit-by: yuantao Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #123--> ## 原因 <!--说明此次改动的目的、解决的问题等,应与类型标签匹配 --> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/catlass!449 | 3 个月前 | |
版本相关代码与文档优化 Co-authored-by: yuantao<taoyuan18@huawei.com> # message auto-generated for no-merge-commit merge: !572 merge feat/cmake-cann-version-detect into master 版本相关代码与文档优化 Created-by: yuantao_ Commit-by: yuantao_;yuantao Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 1. 版本获取使用C接口编译一个可执行文件获取,规避pyacl的ops依赖 2. 更新一些由于版本变更导致不全面的文档 3. 删除tla中一个常量的HOST DEVICE前缀,这是不必要的,新版本编译器给出WARNING ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> ## 原因 <!--说明此次改动的目的、解决的问题等,应与类型标签匹配 --> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/catlass!572 | 2 个月前 | |
删除样例39_big_matmul_tla Co-authored-by: longjihui<longjihui@huawei.com> # message auto-generated for no-merge-commit merge: !788 merge delete_big_matmul into master 删除样例39_big_matmul_tla Created-by: longjihui Commit-by: longjihui Merged-by: cann-robot Description: ## 描述 39_big_matmul_tla无实际使用场景,评估后删除 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> ## 原因 <!--说明此次改动的目的、解决的问题等,应与类型标签匹配 --> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/catlass!788 | 11 天前 | |
feat: mla算子优化 — KV-split均衡分核调度和精度修复 + cpu_low.bin读取修复 Co-authored-by: xlinn<2083236231@qq.com> # message auto-generated for no-merge-commit merge: !794 merge merge2 into master feat: mla算子优化 — KV-split均衡分核调度和精度修复 + cpu_low.bin读取修复 Created-by: xlinn Commit-by: xlinn Merged-by: cann-robot Description: ## 描述 本PR恢复此前被回退的mla算子优化(aff5c9c),并在此基础上叠加两项改进: 1. **KV-split均衡分核调度(common路径)** - GetKVSplitParam:当decode任务数(batch × head-split)不足以填满所有核时,贪心地将KV切分配额分配给负载最重的任务(q==1场景),发布CUTASK_START_OFFSET前缀和表与TILING_PROCESSNUM,使kernel能致密地将process映射到(batch, head-split, kv-split)三元组,消除空转核。 - mla_kernel.cpp:当TILING_PROCESSNUM != 0时走致密前缀和映射;否则回退到原始back-and-forth(kerFlag)调度,保持非切K场景的行为不变。 2. **cpu_low.bin读取修复** - gen_data.py以fp16格式写入cpu_low.bin(与result.bin一致),但mla.cpp按fp32格式读取(qoSize*2字节,与golden.bin一致),导致ReadFile静默失败、cpulowHost未初始化,ComputeErrorMetrics报告错误的MARE/MERE/RMSE比值(NPU_MARE / ~1.0 而非 NPU_MARE / CPU_MARE)。 - 修复为:先读fp16临时buffer,再逐元素转float用于比对。 ## 关联的Issue 无 ## 原因 - upstream在f8eab68中回退了此前的mla算子优化(aff5c9c),本PR恢复该优化并修正其遗留问题。 - cpu_low.bin读取bug导致精度验证结果与compare_test.py不一致,影响CI判定。 ## 测试 - 使用batch_acc.sh对4种场景(q=1+kv等长、q=1+kv随机、q随机+kv等长、q随机+kv随机)各跑50轮,头数覆盖16/32/64,全部PASS。 - 使用run_dataset_acc.sh遍历19_result.csv数据集(含batch 1~16、q 1~4、kv 128~9216、heads 16/32/64/128),精度与Python compare_test.py结果一致。 - 手工验证 1 "3" "511" 32 64 128 等边界shape,修复后MARE ratio从52.95降至与CPU baseline一致的比值。 ## 文档更新 - 更新了examples/19_mla/README.md中的示例参数(numBlocks: 16→64),确保默认示例有足够的KV cache容量。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [x] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/catlass!794 | 4 天前 | |
部分样例移至experimental Co-authored-by: longjihui<longjihui@huawei.com> # message auto-generated for no-merge-commit merge: !786 merge experimental into master 部分样例移至experimental Created-by: longjihui Commit-by: longjihui Merged-by: cann-robot Description: ## 描述 部分样例暂未经过完整测试,先移至experimental ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> ## 原因 <!--说明此次改动的目的、解决的问题等,应与类型标签匹配 --> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/catlass!786 | 11 天前 | |
feat: mla算子优化 — KV-split均衡分核调度和精度修复 + cpu_low.bin读取修复 Co-authored-by: xlinn<2083236231@qq.com> # message auto-generated for no-merge-commit merge: !794 merge merge2 into master feat: mla算子优化 — KV-split均衡分核调度和精度修复 + cpu_low.bin读取修复 Created-by: xlinn Commit-by: xlinn Merged-by: cann-robot Description: ## 描述 本PR恢复此前被回退的mla算子优化(aff5c9c),并在此基础上叠加两项改进: 1. **KV-split均衡分核调度(common路径)** - GetKVSplitParam:当decode任务数(batch × head-split)不足以填满所有核时,贪心地将KV切分配额分配给负载最重的任务(q==1场景),发布CUTASK_START_OFFSET前缀和表与TILING_PROCESSNUM,使kernel能致密地将process映射到(batch, head-split, kv-split)三元组,消除空转核。 - mla_kernel.cpp:当TILING_PROCESSNUM != 0时走致密前缀和映射;否则回退到原始back-and-forth(kerFlag)调度,保持非切K场景的行为不变。 2. **cpu_low.bin读取修复** - gen_data.py以fp16格式写入cpu_low.bin(与result.bin一致),但mla.cpp按fp32格式读取(qoSize*2字节,与golden.bin一致),导致ReadFile静默失败、cpulowHost未初始化,ComputeErrorMetrics报告错误的MARE/MERE/RMSE比值(NPU_MARE / ~1.0 而非 NPU_MARE / CPU_MARE)。 - 修复为:先读fp16临时buffer,再逐元素转float用于比对。 ## 关联的Issue 无 ## 原因 - upstream在f8eab68中回退了此前的mla算子优化(aff5c9c),本PR恢复该优化并修正其遗留问题。 - cpu_low.bin读取bug导致精度验证结果与compare_test.py不一致,影响CI判定。 ## 测试 - 使用batch_acc.sh对4种场景(q=1+kv等长、q=1+kv随机、q随机+kv等长、q随机+kv随机)各跑50轮,头数覆盖16/32/64,全部PASS。 - 使用run_dataset_acc.sh遍历19_result.csv数据集(含batch 1~16、q 1~4、kv 128~9216、heads 16/32/64/128),精度与Python compare_test.py结果一致。 - 手工验证 1 "3" "511" 32 64 128 等边界shape,修复后MARE ratio从52.95降至与CPU baseline一致的比值。 ## 文档更新 - 更新了examples/19_mla/README.md中的示例参数(numBlocks: 16→64),确保默认示例有足够的KV cache容量。 ## 类型标签 - [x] Bug修复 - [ ] 新特性 - [x] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/catlass!794 | 4 天前 | |
Add catlass_cppgen into main repo, a tool for generating catlass template code. Co-authored-by: init__zhb__<zhanghaobo6@huawei.com> # message auto-generated for no-merge-commit merge: !817 merge br.cppgen into master 补充cppgen框架 Created-by: init__zhb__ Commit-by: init__zhb__ Merged-by: cann-robot Description: ## 描述 catlass_cppgen 是一个基于 Python 的代码生成框架,用于构建和生成 CATLASS 高性能算子。该框架提供接口以定义算子参数、选择优化策略,并自动生成对应的 C++ 核函数代码。 本次补充的内容结构如下: plain ./catlass_cppgen ├── catlass_cppgen │ ├── __init__.py │ ├── catlass # CATLASS 相关特性组件 │ │ ├── __init__.py │ │ ├── arch # 代际声明 │ │ ├── evg # EVG 特性承载 │ │ ├── evg_extension.py │ │ ├── gemm │ │ ├── gemm_coord.py │ │ ├── layout │ │ └── library.py │ ├── common # 通用组件 │ │ ├── __init__.py │ │ ├── data_type.py │ │ ├── op_tensor.py │ │ ├── typing.py │ │ └── utils.py │ ├── kernel │ │ ├── __init__.py │ │ ├── gemm # GEMM 类算子特化类 │ │ ├── group_gemm # Group GEMM 类算子特化类 │ │ ├── kernel_base.py │ │ └── visitor_kernel_base.py │ ├── op # 算子Kernel基类 │ │ ├── __init__.py │ │ ├── gemm.py │ │ ├── group_gemm.py │ │ └── op.py │ └── _version.py ├── docs # API 文档 │ ├── evg_api.md │ ├── kernel_api.md │ └── optensor_api.md ├── pyproject.toml ├── README.md # 主README文档 └── uv.lock 相关的测试路径: plain ./ ├── catlass │ ├── test_arch.py │ ├── test_dispatch_policy.py │ ├── test_gemm_coord.py │ └── test_layout.py ├── common │ ├── test_data_type.py │ └── test_op_tensor.py └── op ├── assertion_helper.py ├── test_evg.py ├── test_gemm.py └── test_group_gemm.py ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> ## 原因 演进与完善 ## 测试 **gen-match 测试(UT-level)** 执行tests/run_cppgen.sh测试<span style="color:green">PASS</span>。 plain ============================================ Step 3: Preparing test all testcases... ============================================ --- catlass/test_arch.py --- ... ---------------------------------------------------------------------- Ran 3 tests in 0.000s OK --- catlass/test_dispatch_policy.py --- ....... ---------------------------------------------------------------------- Ran 7 tests in 0.001s OK --- catlass/test_gemm_coord.py --- .... ---------------------------------------------------------------------- Ran 4 tests in 0.000s OK --- catlass/test_layout.py --- ......................... ---------------------------------------------------------------------- Ran 25 tests in 0.001s OK --- common/test_data_type.py --- ........................ ---------------------------------------------------------------------- Ran 24 tests in 0.001s OK --- common/test_op_tensor.py --- ....... ---------------------------------------------------------------------- Ran 7 tests in 0.001s OK --- op/test_evg.py --- ............ ---------------------------------------------------------------------- Ran 12 tests in 0.030s OK --- op/test_gemm.py --- ............. ---------------------------------------------------------------------- Ran 13 tests in 0.014s OK --- op/test_group_gemm.py --- ........ ---------------------------------------------------------------------- Ran 8 tests in 0.003s OK ============================================ Step 4: Cleaning and uninstalling catlass_cppgen... ============================================ Found existing installation: catlass-cppgen 0.1.0+20260706144530 Uninstalling catlass-cppgen-0.1.0+20260706144530: Successfully uninstalled catlass-cppgen-0.1.0+20260706144530 Found existing installation: build 1.5.0 Uninstalling build-1.5.0: Successfully uninstalled build-1.5.0 ============================================ All steps completed successfully! SUMMARY: 9 passed, 0 failed ============================================ ## 文档更新 更新下述文档: - python/catlass_cppgen/README.md - python/catlass_cppgen/docs/evg_api.md - python/catlass_cppgen/docs/kernel_api.md - python/catlass_cppgen/docs/optensor_api.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/catlass!817 | 1 天前 | |
update: 更新文件 oat_check.sh Co-authored-by: zhangfands<18768316492@163.com> # message auto-generated for no-merge-commit merge: !640 merge master into master update: 更新文件 oat_check.sh Created-by: zhangfands Commit-by: zhangfands Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> ## 原因 <!--说明此次改动的目的、解决的问题等,应与类型标签匹配 --> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/catlass!640 | 1 个月前 | |
Add catlass_cppgen into main repo, a tool for generating catlass template code. Co-authored-by: init__zhb__<zhanghaobo6@huawei.com> # message auto-generated for no-merge-commit merge: !817 merge br.cppgen into master 补充cppgen框架 Created-by: init__zhb__ Commit-by: init__zhb__ Merged-by: cann-robot Description: ## 描述 catlass_cppgen 是一个基于 Python 的代码生成框架,用于构建和生成 CATLASS 高性能算子。该框架提供接口以定义算子参数、选择优化策略,并自动生成对应的 C++ 核函数代码。 本次补充的内容结构如下: plain ./catlass_cppgen ├── catlass_cppgen │ ├── __init__.py │ ├── catlass # CATLASS 相关特性组件 │ │ ├── __init__.py │ │ ├── arch # 代际声明 │ │ ├── evg # EVG 特性承载 │ │ ├── evg_extension.py │ │ ├── gemm │ │ ├── gemm_coord.py │ │ ├── layout │ │ └── library.py │ ├── common # 通用组件 │ │ ├── __init__.py │ │ ├── data_type.py │ │ ├── op_tensor.py │ │ ├── typing.py │ │ └── utils.py │ ├── kernel │ │ ├── __init__.py │ │ ├── gemm # GEMM 类算子特化类 │ │ ├── group_gemm # Group GEMM 类算子特化类 │ │ ├── kernel_base.py │ │ └── visitor_kernel_base.py │ ├── op # 算子Kernel基类 │ │ ├── __init__.py │ │ ├── gemm.py │ │ ├── group_gemm.py │ │ └── op.py │ └── _version.py ├── docs # API 文档 │ ├── evg_api.md │ ├── kernel_api.md │ └── optensor_api.md ├── pyproject.toml ├── README.md # 主README文档 └── uv.lock 相关的测试路径: plain ./ ├── catlass │ ├── test_arch.py │ ├── test_dispatch_policy.py │ ├── test_gemm_coord.py │ └── test_layout.py ├── common │ ├── test_data_type.py │ └── test_op_tensor.py └── op ├── assertion_helper.py ├── test_evg.py ├── test_gemm.py └── test_group_gemm.py ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> ## 原因 演进与完善 ## 测试 **gen-match 测试(UT-level)** 执行tests/run_cppgen.sh测试<span style="color:green">PASS</span>。 plain ============================================ Step 3: Preparing test all testcases... ============================================ --- catlass/test_arch.py --- ... ---------------------------------------------------------------------- Ran 3 tests in 0.000s OK --- catlass/test_dispatch_policy.py --- ....... ---------------------------------------------------------------------- Ran 7 tests in 0.001s OK --- catlass/test_gemm_coord.py --- .... ---------------------------------------------------------------------- Ran 4 tests in 0.000s OK --- catlass/test_layout.py --- ......................... ---------------------------------------------------------------------- Ran 25 tests in 0.001s OK --- common/test_data_type.py --- ........................ ---------------------------------------------------------------------- Ran 24 tests in 0.001s OK --- common/test_op_tensor.py --- ....... ---------------------------------------------------------------------- Ran 7 tests in 0.001s OK --- op/test_evg.py --- ............ ---------------------------------------------------------------------- Ran 12 tests in 0.030s OK --- op/test_gemm.py --- ............. ---------------------------------------------------------------------- Ran 13 tests in 0.014s OK --- op/test_group_gemm.py --- ........ ---------------------------------------------------------------------- Ran 8 tests in 0.003s OK ============================================ Step 4: Cleaning and uninstalling catlass_cppgen... ============================================ Found existing installation: catlass-cppgen 0.1.0+20260706144530 Uninstalling catlass-cppgen-0.1.0+20260706144530: Successfully uninstalled catlass-cppgen-0.1.0+20260706144530 Found existing installation: build 1.5.0 Uninstalling build-1.5.0: Successfully uninstalled build-1.5.0 ============================================ All steps completed successfully! SUMMARY: 9 passed, 0 failed ============================================ ## 文档更新 更新下述文档: - python/catlass_cppgen/README.md - python/catlass_cppgen/docs/evg_api.md - python/catlass_cppgen/docs/kernel_api.md - python/catlass_cppgen/docs/optensor_api.md ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [x] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/catlass!817 | 1 天前 | |
english integration Co-authored-by: y60124828<yanglou1@h-partners.com> # message auto-generated for no-merge-commit merge: !718 merge master into master english integration Created-by: yanglu-1 Commit-by: y60124828 Merged-by: cann-robot Description: ## 描述 英文合入 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> ## 原因 <!--说明此次改动的目的、解决的问题等,应与类型标签匹配 --> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/catlass!718 | 19 天前 | |
add precommit scripts Co-authored-by: yuantao<taoyuan18@huawei.com> # message auto-generated for no-merge-commit merge: !557 merge pre_commit into master add precommit scripts Created-by: yuantao_ Commit-by: yuantao Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> ## 原因 <!--说明此次改动的目的、解决的问题等,应与类型标签匹配 --> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/catlass!557 | 2 个月前 | |
补充23,43 torch_catlass接口 Co-authored-by: CheaterAbec<niyuhao2@huawei.com> # message auto-generated for no-merge-commit merge: !652 merge FA into master 补充23,43 torch_catlass接口 Created-by: CheaterAbec Commit-by: CheaterAbec Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 新增23_flash_attention_infer以及43_ascend950_basic_matmul接口和相关测试 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> ## 原因 <!--说明此次改动的目的、解决的问题等,应与类型标签匹配 --> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/catlass!652 | 1 个月前 | |
增加unittest单元测试 Co-authored-by: yuantao<taoyuan18@huawei.com> # message auto-generated for no-merge-commit merge: !449 merge unittest into master 增加unittest单元测试 Created-by: yuantao_ Commit-by: yuantao Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #123--> ## 原因 <!--说明此次改动的目的、解决的问题等,应与类型标签匹配 --> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/catlass!449 | 3 个月前 | |
update: 更新文件 .pre-commit-config.yaml Co-authored-by: yuantao_<taoyuan18@huawei.com> # message auto-generated for no-merge-commit merge: !562 merge master into master update: 更新文件 .pre-commit-config.yaml Created-by: yuantao_ Commit-by: yuantao_ Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> github改为gitcode ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> ## 原因 <!--说明此次改动的目的、解决的问题等,应与类型标签匹配 --> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/catlass!562 | 2 个月前 | |
style: format all markdown files with prettier Co-authored-by: Yuan Tao<yuantao313@outlook.com> # message auto-generated for no-merge-commit merge: !766 merge format/md-docs into master style: format all markdown files with prettier Created-by: yuantao_ Commit-by: Yuan Tao Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 用prettier格式化所有md文件,以解决在某些编辑器下的显示问题 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> ## 原因 <!--说明此次改动的目的、解决的问题等,应与类型标签匹配 --> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/catlass!766 | 12 天前 | |
新增v1.6.0版本的changeLog并更新README Co-authored-by: sunhao_hw<sunhao203@huawei.com> # message auto-generated for no-merge-commit merge: !800 merge changelog into master 新增v1.6.0版本的changeLog并更新README Created-by: sunhao_hw Commit-by: sunhao_hw Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> v1.6.0版本的ttag已拉取,现更新相关changeLog和Readme的Latest News ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> ## 原因 <!--说明此次改动的目的、解决的问题等,应与类型标签匹配 --> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/catlass!800 | 5 天前 | |
style: format all markdown files with prettier Co-authored-by: Yuan Tao<yuantao313@outlook.com> # message auto-generated for no-merge-commit merge: !766 merge format/md-docs into master style: format all markdown files with prettier Created-by: yuantao_ Commit-by: Yuan Tao Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 用prettier格式化所有md文件,以解决在某些编辑器下的显示问题 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> ## 原因 <!--说明此次改动的目的、解决的问题等,应与类型标签匹配 --> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/catlass!766 | 12 天前 | |
新增算子级测试框架 Co-authored-by: yuantao<taoyuan18@huawei.com> # message auto-generated for no-merge-commit merge: !610 merge optest into master 新增算子级测试框架 Created-by: yuantao_ Commit-by: yuantao Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> ## 原因 <!--说明此次改动的目的、解决的问题等,应与类型标签匹配 --> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/catlass!610 | 1 个月前 | |
style: format all markdown files with prettier Co-authored-by: Yuan Tao<yuantao313@outlook.com> # message auto-generated for no-merge-commit merge: !766 merge format/md-docs into master style: format all markdown files with prettier Created-by: yuantao_ Commit-by: Yuan Tao Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 用prettier格式化所有md文件,以解决在某些编辑器下的显示问题 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> ## 原因 <!--说明此次改动的目的、解决的问题等,应与类型标签匹配 --> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/catlass!766 | 12 天前 | |
style: format all markdown files with prettier Co-authored-by: Yuan Tao<yuantao313@outlook.com> # message auto-generated for no-merge-commit merge: !766 merge format/md-docs into master style: format all markdown files with prettier Created-by: yuantao_ Commit-by: Yuan Tao Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 用prettier格式化所有md文件,以解决在某些编辑器下的显示问题 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> ## 原因 <!--说明此次改动的目的、解决的问题等,应与类型标签匹配 --> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/catlass!766 | 12 天前 | |
增加dockerfile Co-authored-by: yuantao<taoyuan18@huawei.com> # message auto-generated for no-merge-commit merge: !551 merge master into master 增加dockerfile Created-by: yuantao_ Commit-by: yuantao Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> ## 原因 <!--说明此次改动的目的、解决的问题等,应与类型标签匹配 --> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/catlass!551 | 2 个月前 | |
增加dockerfile Co-authored-by: yuantao<taoyuan18@huawei.com> # message auto-generated for no-merge-commit merge: !551 merge master into master 增加dockerfile Created-by: yuantao_ Commit-by: yuantao Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> ## 原因 <!--说明此次改动的目的、解决的问题等,应与类型标签匹配 --> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/catlass!551 | 2 个月前 | |
更新许可证到CANN2.0版本 Co-authored-by: init__zhb__<zhanghaobo6@huawei.com> | 9 个月前 | |
文档新增中英文目录、低错整改,及代码实践类文档更新 Co-authored-by: sunhao_hw<sunhao203@huawei.com> # message auto-generated for no-merge-commit merge: !555 merge docs into master 文档新增中英文目录、低错整改,及代码实践类文档更新 Created-by: sunhao_hw Commit-by: sunhao_hw Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> - docs下新增zh和en目录,原始文档迁移到zh下 - 仓内文档的批量低错整改 - docs/zh/01_Practice下补充完善部分文档 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> ## 原因 <!--说明此次改动的目的、解决的问题等,应与类型标签匹配 --> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/catlass!555 | 2 个月前 | |
update owners Co-authored-by: chenma<chenminan@hisilicon.com> # message auto-generated for no-merge-commit merge: !512 merge br_owner into master update owners Created-by: chenma Commit-by: chenma Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> update owners ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> ## 原因 <!--说明此次改动的目的、解决的问题等,应与类型标签匹配 --> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [x] 其他,请描述:update owners See merge request: cann/catlass!512 | 3 个月前 | |
新增v1.6.0版本的changeLog并更新README Co-authored-by: sunhao_hw<sunhao203@huawei.com> # message auto-generated for no-merge-commit merge: !800 merge changelog into master 新增v1.6.0版本的changeLog并更新README Created-by: sunhao_hw Commit-by: sunhao_hw Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> v1.6.0版本的ttag已拉取,现更新相关changeLog和Readme的Latest News ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> ## 原因 <!--说明此次改动的目的、解决的问题等,应与类型标签匹配 --> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [x] 文档更新 - [ ] 其他,请描述: See merge request: cann/catlass!800 | 5 天前 | |
style: format all markdown files with prettier Co-authored-by: Yuan Tao<yuantao313@outlook.com> # message auto-generated for no-merge-commit merge: !766 merge format/md-docs into master style: format all markdown files with prettier Created-by: yuantao_ Commit-by: Yuan Tao Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 用prettier格式化所有md文件,以解决在某些编辑器下的显示问题 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> ## 原因 <!--说明此次改动的目的、解决的问题等,应与类型标签匹配 --> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/catlass!766 | 12 天前 | |
style: format all markdown files with prettier Co-authored-by: Yuan Tao<yuantao313@outlook.com> # message auto-generated for no-merge-commit merge: !766 merge format/md-docs into master style: format all markdown files with prettier Created-by: yuantao_ Commit-by: Yuan Tao Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 用prettier格式化所有md文件,以解决在某些编辑器下的显示问题 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> ## 原因 <!--说明此次改动的目的、解决的问题等,应与类型标签匹配 --> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/catlass!766 | 12 天前 | |
style: format all markdown files with prettier Co-authored-by: Yuan Tao<yuantao313@outlook.com> # message auto-generated for no-merge-commit merge: !766 merge format/md-docs into master style: format all markdown files with prettier Created-by: yuantao_ Commit-by: Yuan Tao Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 用prettier格式化所有md文件,以解决在某些编辑器下的显示问题 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> ## 原因 <!--说明此次改动的目的、解决的问题等,应与类型标签匹配 --> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/catlass!766 | 12 天前 | |
new: 新建文件 Third_Party_Open_Source_Software_List.yaml Co-authored-by: huangxin361<huangxin36@huawei.com> # message auto-generated for no-merge-commit merge: !460 merge master into master new: 新建文件 Third_Party_Open_Source_Software_List.yaml Created-by: huangxin361 Commit-by: huangxin361 Merged-by: cann-robot Description: ## 描述 新增Third_Party_Open_Source_Software_List.yaml文件,当前尚未引入三方依赖,新增预留空白文件 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。例如:关联Issue #123--> ## 原因 <!--说明此次改动的目的、解决的问题等,应与类型标签匹配 --> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [.] 文档更新 - [x] 其他,请描述:三方引用文件更新 See merge request: cann/catlass!460 | 5 个月前 | |
添加 OAT.xml 及 Third_Party_Open_Source_Software_Notice Co-authored-by: zhanghaobo<zhanghaobo6@huawei.com> | 8 个月前 | |
增加依赖描述文件 Co-authored-by: yuantao<taoyuan18@huawei.com> # message auto-generated for no-merge-commit merge: !609 merge dep into master 增加依赖描述文件 Created-by: yuantao_ Commit-by: yuantao Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> ## 原因 <!--说明此次改动的目的、解决的问题等,应与类型标签匹配 --> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/catlass!609 | 1 个月前 | |
增加依赖描述文件 Co-authored-by: yuantao<taoyuan18@huawei.com> # message auto-generated for no-merge-commit merge: !609 merge dep into master 增加依赖描述文件 Created-by: yuantao_ Commit-by: yuantao Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> ## 原因 <!--说明此次改动的目的、解决的问题等,应与类型标签匹配 --> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/catlass!609 | 1 个月前 | |
增加依赖描述文件 Co-authored-by: yuantao<taoyuan18@huawei.com> # message auto-generated for no-merge-commit merge: !609 merge dep into master 增加依赖描述文件 Created-by: yuantao_ Commit-by: yuantao Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> ## 原因 <!--说明此次改动的目的、解决的问题等,应与类型标签匹配 --> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/catlass!609 | 1 个月前 | |
增加依赖描述文件 Co-authored-by: yuantao<taoyuan18@huawei.com> # message auto-generated for no-merge-commit merge: !609 merge dep into master 增加依赖描述文件 Created-by: yuantao_ Commit-by: yuantao Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> ## 原因 <!--说明此次改动的目的、解决的问题等,应与类型标签匹配 --> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/catlass!609 | 1 个月前 | |
增加依赖描述文件 Co-authored-by: yuantao<taoyuan18@huawei.com> # message auto-generated for no-merge-commit merge: !609 merge dep into master 增加依赖描述文件 Created-by: yuantao_ Commit-by: yuantao Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> ## 原因 <!--说明此次改动的目的、解决的问题等,应与类型标签匹配 --> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/catlass!609 | 1 个月前 | |
修复获取socName时的分支错误 Co-authored-by: yuantao_<taoyuan18@huawei.com> # message auto-generated for no-merge-commit merge: !677 merge fix-stderr into master 修复获取socName时的分支错误 Created-by: yuantao_ Commit-by: yuantao_ Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> 将err打印移动到else分支之中 ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> ## 原因 <!--说明此次改动的目的、解决的问题等,应与类型标签匹配 --> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [x] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/catlass!677 | 1 个月前 | |
补充python依赖 Co-authored-by: yuantao<taoyuan18@huawei.com> # message auto-generated for no-merge-commit merge: !742 merge dep into master 补充python依赖 Created-by: yuantao_ Commit-by: yuantao Merged-by: cann-robot Description: ## 描述 <!--在这里详细描述你的改动,包括改动的原因和所采取的方法。--> ## 关联的Issue <!-- 如果这个PR是为了解决特定的Issue,请在这里提供Issue链接。--> ## 原因 <!--说明此次改动的目的、解决的问题等,应与类型标签匹配 --> ## 测试 <!--描述进行了哪些测试来验证你的改动。包括但不限于二级冒烟、算子泛化等。--> ## 文档更新 <!--如果这个PR包含文档的更新,请在这里指出。例如:更新了README.md文件。--> ## 类型标签 <!-- [x] 表示选中 --> - [ ] Bug修复 - [ ] 新特性 - [ ] 性能优化 - [ ] 文档更新 - [ ] 其他,请描述: See merge request: cann/catlass!742 | 17 天前 |
CATLASS
⚠ 重要变更
我们于2026年3月第一次社区会议正式确定CATLASS社区主线将开始新增对下一代昇腾硬件Ascend 950PR/Ascend 950DT的支持。为在不同平台区分底层接口的实现,该新增支持将引入新的编译宏,用户需要注意在对应编译命令中进行相应适配。
-
新增宏:
CATLASS_ARCH,用于指定目标架构。其取值可在SIMD BuiltIn关键字中查询(__NPU_ARCH__列)。Atlas A2 训练系列产品 / Atlas A2 推理系列产品:2201Atlas A3 训练系列产品 / Atlas A3 推理系列产品:2201Ascend 950PR/Ascend 950DT:3510
-
相关场景说明:
bisheng命令行场景:bisheng ... -DCATLASS_ARCH=2201 ...cmake场景:add_compile_definitions(CATLASS_ARCH=2201)msopgen/aclnn工程场景:- 旧写法:
add_ops_compile_options(ALL OPTIONS -DCATLASS_ARCH=2201 ...) - 新写法:
npu_op_kernel_options(ascendc_kernels ALL OPTIONS -DCATLASS_ARCH=2201)(msopgen工程中,第一个参数默认为ascendc_kernels,可根据实际情况进行调整)
- 旧写法:
- CATLASS源码仓:
bash scripts/build.sh -DCATLASS_ARCH=2201 ... - 库上代码参考:examples/CMakeLists.txt
Latest News
-
[2026/06] 社区版 v1.6.0 发布:新增 MXFP8 / MXFP4 量化模板、EVG 声明式后处理框架、基于 Mutex 同步原语的 BlockMmad;新增 Ascend950 Tile 层组件 及全量 单元测试;新增 算子级测试框架(optest);新增 16 个Ascend950算子样例(如 StreamK Matmul、Flash Attention Chunk Prefill、Conv2d 等)。
-
[2026/04] 社区版 v1.5.0 发布:新增 Ascend950 系列样例(如 基础 Matmul、Flash Attention 推理、Per-Group & Per-Block Quant Matmul TLA 等)、TLA 能力增强(含
origin_shape、TileView等);Matmul 泛化工程 新增 103 动态 W8A8 Per-Token 量化。 -
[2026/03] 社区主线正式开始新增对下一代昇腾硬件Ascend 950PR/Ascend 950DT的支持
-
[2026/02] 社区版v1.4.0发布,新增 StreamK Matmul、W4A4 Matmul、Sparse Matmul等示例
-
[2025/12] 社区版v1.3.0发布,支持
FixPipe随路量化,Matmul泛化工程新增多个模板,并新增INT4反量化、2D卷积等示例 -
[2025/10] 社区版v1.2.0发布,新增Matmul算子泛化等示例
-
[2025/09] CATLASS模板库正式开源
请参阅CHANGELOG以查看当前及历史版本的详细更新内容。
📌 简介
CATLASS(CANN Templates for Linear Algebra Subroutines),中文名为昇腾算子模板库,是一个聚焦于提供高性能矩阵乘类算子基础模板的代码库。
通过抽象分层的方式将矩阵类算子代码模板化,从而实现算子计算逻辑的白盒化组装,让算子代码可复用,可替换,可局部修改。针对昇腾硬件特点进行设计,可以支持复杂场景流水排布,如Flash Attention等算子。在上层代码逻辑共享的同时,支持底层硬件差异特化。
模板库针对定制场景使能快速开发能力,提供不同场景下的性能优化模块供开发者组装定制,在定制shape下的性能能达到相应算子标杆性能的0.98~1.2倍。
本代码库为CATLASS联创代码仓。结合昇腾生态力量,共同设计研发算子模板,并提供典型算子的高性能实现代码样例,概述详情参考这里。
⚡️ 快速上手
为快速体验CATLASS的算子开发与使用,请参考下述内容。
-
快速入门:快速上手模板库使用,编译执行已有的算子样例。
-
基础开发指南:以基础Matmul算子为例,介绍基于CATLASS的算子开发实践;
-
开发者实践: 从算子各层代码编写至编译测试,再到Tiling调优与算子优化,从新手到进阶的实践示例。
📚 进阶参考
下述资料可助力您深入开展CATLASS算子的开发与调优,实现更优性能的GEMM类算子。
-
CATLASS API: 介绍CATLASS的分层特征与通用矩阵乘法GEMM API。
-
CATLASS设计总结: 汇总CATLASS工程的样例算法设计、swizzle策略、TLA设计等文档。
📁 目录结构说明
关键目录如下,详细目录参见项目目录。
catlass
├── cmake # cmake工程文件
├── docs # 文档存放目录
├── examples # kernel算子样例总目录
| ├── 00_basic_matmul # 单算子样例
| | ├── basic_matmul.cpp # Host侧算子调用
| | ├── CMakeLists.txt
| | └── README.md # 算子说明示例
| ├── ...
| └── python_extension # Python调用CATLASS算子的工程组件
├── include # 模板头文件集
| ├── catlass # 不同层级的算子实现逻辑
| └── tla # 计算关联的基础数据结构
├── scripts # 编译脚本
| └── build.sh # 算子样例编译脚本
├── tests # 测试用例
└── tools # 相关工具
└── tuner # Tiling自动寻优工具
💻 软硬件配套说明
CATLASS所需的软硬件环境依赖如下:
- 昇腾产品:
- Atlas A2 训练系列产品 / Atlas A2 推理系列产品
- Atlas A3 训练系列产品 / Atlas A3 推理系列产品
- Ascend 950PR/Ascend 950DT
- CPU架构:
aarch64/x86_64 - 系统:CANN支持的Linux(进行兼容性查询)
- 软件依赖:
gcc>= 7.5, < 13.0cmake>= 3.16python>= 3.8, < 3.12
不同CATLASS发行版可支持的硬件平台及所需的最低CANN版本如下表:
| CATLASS社区版本 | 最低支持CANN包版本 | 支持昇腾产品 |
|---|---|---|
| 当前 | 8.5.0 9.0.0(Ascend 950PR/Ascend 950DT) |
Atlas A2 训练系列产品 / Atlas A2 推理系列产品 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 Ascend 950PR/Ascend 950DT |
| v1.5.0 | 8.2.RC1 9.0.0(Ascend 950PR/Ascend 950DT) |
Atlas A2 训练系列产品 / Atlas A2 推理系列产品 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 Ascend 950PR/Ascend 950DT |
| v1.4.0~v1.2.2 | 8.2.RC1 | Atlas A2 训练系列产品 / Atlas A2 推理系列产品 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 |
| v1.2.1~v1.0.0 | 8.2.RC1.alpha002 | Atlas A2 训练系列产品 / Atlas A2 推理系列产品 Atlas A3 训练系列产品 / Atlas A3 推理系列产品 |
- 若您需要使用
pytorch进行精度测试等辅助开发,需要安装cann-ops包(如cann-910b-ops/cann-a3-ops/cann-950-ops以调用其中的算子实现。在Ascend 950PR/Ascend 950DT系列产品中,cann-950-ops仅在CANN 9.0.0正式版提供。 - 为保证使用体验,请优先使用CANN正式版,beta版本可能存在兼容性问题。
下述环境经测试支持当前CATLASS构建:
| 系统 | CANN |
gcc |
cmake |
python |
|---|---|---|---|---|
| Ubuntu 20.04.5 | 8.5.0 | 9.3 | 3.16 | 3.10 |
| Ubuntu 22.04.5 | 8.5.0 | 11.3 | 3.22 | 3.10 |
| openEuler 22.03 SP4 | 8.5.0 | 10.3 | 3.22 | 3.10 |
| Ubuntu 22.04.5 (编译950样例) | 9.0.0.beta2 | 11.3 | 3.22 | 3.10 |