TileLang получил открытый бэкенд для нейропроцессоров Huawei Ascend 950

Разработчики DeepSeek при поддержке Huawei добавили в открытый язык TileLang официальный бэкенд для нейропроцессоров Ascend 950. Он поддерживает генерацию кода, автоматическое планирование и синхронизацию вычислений, а также векторное программирование SIMD и SIMT.

Открытый проект TileLang получил поддержку нейропроцессоров Huawei Ascend 950. Основную версию бэкенда разработали специалисты китайской компании DeepSeek в тесном сотрудничестве с командой Huawei.

TileLang — предметно-ориентированный язык для разработки высокопроизводительных вычислительных ядер на GPU, CPU и нейропроцессорах. Новый диалект Ascend включает архитектурно-зависимую генерацию кода, планирование операций и передач данных, автоматическую расстановку синхронизаций, а также совместное использование вычислительных блоков Cube и Vector.

В репозитории опубликованы инструкции по сборке и примеры матричного умножения, FlashAttention, FP8-квантования и других операций. Бэкенд не заменяет программный стек Huawei: для работы необходимы драйвер Ascend, инструментарий CANN, PyTorch и расширение torch_npu.

Документация бэкенда Ascend 950 также описывает перенос данных между уровнями памяти и автоматическое распределение задач между матричными и векторными ядрами процессора.