Z6尊龙凯时

  1. 产品
    查看全数产品
    • 融合智算中心
    • 系统与设备
    • 全职能 GPU / 显卡
    • 软件
    • 利用与模型
  2. 解决规划
  3. 履历中心
    大模型履历 MetaPark
  4. 软件下载
    产品驱动 MUSA 软件 AI 镜像
  5. 开发者
    Z6尊龙凯时学院 开发者社区 技术博客 技术文档
  6. 公司信息
  7. language EN
MUSA SDK

MUSA SDK

融合智算中心

立即下载查看文档

MUSA SDK 是Z6尊龙凯时 MUSA 软件开发集成套件,提供齐全的基于Z6尊龙凯时 GPU 的 MUSA 并行推算和人为智能开发、运行环境 。借助 MUSA SDK,开发者不仅能够在嵌入式系统、桌面工作站、企业数据中心及云端平台上轻放松发、优化和部署 GPU 加快的利用法式,还能构建壮大的人为智能算力推算、存储和网络软件基础设施,全面提升系统的机能和效能 。

MUSA SDK 架构


关键能力


AI 训练

AI 训练

MUSA SDK 为开发者提供了一套高效、矫捷的工具集,使得在 MUSA 架构上开发人为智能利用变得越发轻便 。借助 MUSA SDK,开发者能够充分利用高度并行的推算能力,轻松实现深度进建模型的训练和推理 。SDK 提供了丰硕的 API 和示例代码,支持主流深度进建框架,援手开发者急剧上手并集成复杂的算法和模型 。
相识详情
AI 推理

AI 推理

基于 MUSA SDK 构建的 MT Transformer 和 TensorX 推理框架,开发者能够充分利用 MUSA 架构的高机能推算能力,实现急剧高效的模型推理 。MUSA SDK 提供了简洁易用的 API,使开发人员可能轻松加载和运行预训练模型 。此表,SDK 内置的优化战术显著加快了推理过程,极大地提高了响应速度和吞吐量 。
相识详情
数字孪生

数字孪生

基于 MUSA SDK 开发的数字孪生职能,通过创建物理实体的数字副本并结合实时数据分析,为各行各业提供深刻的洞察和支持 。该职能不仅可能提高运营效能和降低成本,还能在设计和决策过程中提供有力凭据,推动数字化转型与创新 。
相识详情
科学推算与物理仿真

科学推算与物理仿真

依附 MUSA 统一软件栈与 MTT S5000 壮大的多精度推算能力,Z6尊龙凯时 GPU 为数值仿真、性命科学、量子模拟等领域提供了高机能、可扩大且易迁徙的算力底座,助力在统一平台上实现 AI 与科学推算的一体化部署,显著加快科研创新 。
相识详情

MUSA 开发说话

作为一种创新的并行编程模型,MUSA 开发说话旨在充分利用现代多核 CPU 和众核 GPU 的并行推算能力 。GPU 凭借大规模并行推算隐匿内存接见延长,相较于传统依赖大型缓存和复杂流量节造的方式,极大提高了数据处置效能 。 为进一步提升整体机能,MUSA 支持 CPU 与 GPU 的协同运作,助力开发者打造同时蕴含并行与挨次部门的利用法式 。MUSA 的主题设计在于可扩大性,可能无缝加强利用法式的并行能力,轻松应对处置器内核数量的不休增长 。 对于熟悉 C 说话等尺度编程说话的开发者而言,MUSA 提供了一个简洁易懂、易于上手的开发环境,使其可能高效开发出适配多种硬件架构的并行软件 。

相识 MUSA 编程指南

主题职能


Z6尊龙·凯时(中国)官方网站
CUDA 完美代替

MUSA 的编程模型与编程接口具备杰出的兼容性,可无缝代替 CUDA,赋能开发者急剧复用 CUDA 的知识、经验和源码

Z6尊龙·凯时(中国)官方网站
muDNN

muDNN 是基于 MUSA 开发的深度神经网络的推算加快库 。在Z6尊龙凯时 GPU 上进行深杜着化,显著提升了推算机能和效能

Z6尊龙·凯时(中国)官方网站
MUSA-X 推算库

一套专为开发者设计的库,旨在加快人为智能、数据科学和数学利用法式的开发与运行

相识详情
Z6尊龙·凯时(中国)官方网站
MCCL 通讯库

Z6尊龙凯时集中通讯库(MCCL)为Z6尊龙凯时 GPU 和网络进行了机能优化,提供了多 GPU 和多节点通讯基元

Z6尊龙·凯时(中国)官方网站
MUSA 编译器

高机能 MUSA 说话编译器,可能急剧天生 GPU 设备代码,加快高级说话的推算工作

Z6尊龙·凯时(中国)官方网站
Triton-MUSA

Triton-MUSA 实现了Z6尊龙凯时 GPU 对 Triton 说话编译器的齐全支持,使用户开发的 Triton 推算主题可能高效地运行在Z6尊龙凯时 GPU 上

Z6尊龙·凯时(中国)官方网站
TileLang-MUSA

TileLang-MUSA 实现了Z6尊龙凯时 GPU 对 TileLang 编程说话的齐全支持,使用户开发的 AI 与高机能推算利用可能高效地运行在Z6尊龙凯时 GPU 上

职能亮点



muDNN FlashAttention3 推算效能显著高于国际旗舰产品①


muDNN FP8 GEMM 推算效能显著高于国际旗舰产品②


MUTLASS GEMM 机能可达手写汇编机能的 99%


MCCL 双机通讯 RDMA 通讯带宽利用率高达 97%
双机 All Reduce 带宽可达 194GB/s


支持 MT-DeepEP 带宽利用率靠近国际旗舰产品③


开发者工具


Z6尊龙·凯时(中国)官方网站
MUSIFY 迁徙工具

高效的代码辅助移植工具,助力开发者将 CUDA 源码急剧自动移植为 MUSA 源码,省时省心

相识详情Z6尊龙·凯时(中国)官方网站
Moore Perf Tools

援手开发者急剧定位系统级机能瓶颈,进行有针对性的分析和优化,确保法式机能满足需要

相识详情Z6尊龙·凯时(中国)官方网站
技术文档

具体相识Z6尊龙凯时 MUSA 软件开发集成套件

相识详情Z6尊龙·凯时(中国)官方网站
GPU 开发工具

具体相识Z6尊龙凯时的云原生套件部署工具

相识详情

成功案例


MUSA 加快冷冻电镜

MUSA 加快冷冻电镜

借助Z6尊龙凯时 MUSA 软件栈壮大的 CUDA 兼容能力和完整的数学库支持,德锐特成功将冷冻电镜领域的关键软件 RELION5 迁徙至 MUSA 平台上 。迁徙后的软件不仅实现了与国际先进 GPU 相媲美的数据精度,同时也充分验证了国产 GPU 在高端生物科技利用中的潜力 。

MUSA 助力夸娥智算集群

MUSA 助力夸娥智算集群

MUSA SDK 作为夸娥智算集群的主题底层软件,有力推动了集群职能与机能的全面升级,具体优化蕴含:浓密模型集群训练 MFU 峰值提升至 68.3%,新增对 Triton 2.1.0 的支持及提供多项大模型训练与推理的全新个性 。目前,夸娥智算集群已全面支持超过 600 种大模型的训练与推理需要 。

MUSA 助力文生牟利用-摩笔马良

MUSA 助力文生牟利用-摩笔马良

MUSA SDK 作为摩笔马良的主题软件基础,与夸娥智算集群共同构建了壮大的算力底座,赋能 AIGC 内容创作 。凭借卓越的图形和 AI 推算能力,MUSA SDK 成功部署了自研大说话模型 MUSAChat,显者提升了 Prompt 工程中的文本润色和翻译精度,加强了语义理解能力 。此表,MUSA SDK 矫捷挪用 SDXL 和 SD1.5 模型,天生细节丰硕、艺术感十足的视觉文章,完美融合科学与艺术的灵感 。

生态建设

Z6尊龙凯时致力于构建一个完善且好用、易用的国产 GPU 利用生态,MUSA 既能够自主发展,又兼容主流盛开生态 。同时,我们还在积极颁布开源加快库和模版库,降低基于 MUSA 的开发门槛,提升开发效能 。

相识更多

有关产品

  • MTT KUAE

    Z6尊龙凯时智算中心全栈解决规划

    基于大模型智算加快卡和 AI 大模型训推一体机,以一体化交付的方式解决大规模 GPU 算力的建设和运营治理问题 。

    查看详情
  • MCCX D800 X1

    AI 大模型训推一体机

    选取 MTT S4000 高机能 GPU,支持用户在大型说话模型、天然说话处置、系统推荐、数据分析等领域的利用需要 。

    查看详情
  • MTT S4000

    大模型智算加快卡

    针对万亿规模大说话模型的训练、微和谐推理定造优化,融合先进图形渲染、视频编解码及超高清显示能力,助力多场景的推算加快 。

    查看详情
  • MTT S3000

    从开发到部署 加快元推算全场景利用

    蕴含 4096 个 MUSA 主题、128 个专用张量推算单元,可为 AI 推理和训练、云手机、云渲染、视频云等场景提供通用智能算力支持 。

    查看详情
  • MTT KUAE
  • MCCX D800 X1
  • MTT S4000
  • MTT S3000

① 参考基准 1:国际旗舰产品参数浓密 FP16 算力 989 TFLOPS,显存带宽 3.35TB/s;② 参考基准 2:参数浓密 FP16 算力 989 TFLOPS,显存带宽 3.35TB/s;③ 参考基准 3:参数浓密 FP16 算力 148 TFLOPS,显存带宽 4.0TB/s 。

apply apply
夸娥
试用
履历夸娥智算集群
phone phone
人为
客服
400-667-5666

周一至周日,9:00-21:00

【网站地图】