AI加速服务 TI-ACC

产品简介

AI 加速服务(TI-ACC)为企业提供 AI 模型训练、推理加速服务,支持多种框架和场景,显著提高模型训练推理效率,降低成本。

1


产品优势

高性能

基于业界领先的 AI 加速技术,提供高性能模型训练、推理加速服务,可提升100%性能。

技术强大

训练加速实现计算优化、通信优化、并行训练、显存优化功能,推理加速提供通用模型转换、深层性能优化、低精度加速支持。

支持多平台框架

支持移动端、桌面端、后台端全平台,并可针对 TensorFlow、PyTorch 等多框架进行统一加速。



应用场景

AI 模型训练

TI-ACC 在推荐、CV、NLP 等模型训练场景中,实现计算优化、通信优化、并行训练、显存优化等功能,帮助客户在进行模型训练时,显著节省训练时间和计算成本。

AI 模型推理

TI-ACC 在推荐、CV、NLP 等模型推理场景中,实现通用模型转换、深层性能优化、低精度加速等功能,帮助客户在进行模型推理时,显著降低推理时延和计算成本。


常见问题

1、AI 加速服务包含哪些产品功能?

AI 模型训练加速、AI 模型推理加速。

2、AI 加速服务适用于哪些业务场景?

如下使用场景可以使用 AI 加速服务能力:

场景一:AI 模型训练加速

TI-ACC 在推荐、CV、NLP 等模型训练场景中,实现计算优化、通信优化、并行训练、显存优化等功能,帮助客户在进行模型训练时,显著节省训练时间和计算成本。

场景二:AI 模型推理加速

TI-ACC 在推荐、CV、NLP 等模型推理场景中,实现通用模型转换、深层性能优化、低精度加速等功能,帮助客户在进行模型推理时,显著降低推理时延和计算成本。

3、AI 推理加速服务支持的硬件平台?

AI 推理加速服务对主流硬件平台:ARMv7、ARMv8、X86架构的 CPU,以及Mali、Adreno、Apple、NV 的 GPU 都做过深度优化。


如果您还不明白,欢迎关注右侧二维码了解更多...

扫一扫 添加客服微信

评论

cache
Processed in 0.028362 Second.
cache
Processed in 0.028362 Second.