燧原科技加入人工智能开放计算体系-DeepLink,共建AI软硬件生态

2023-07-07 16:12   来源: 环球新闻网    阅读次数:3927

  燧原科技与上海人工智能实验室合作,基于人工智能开放计算体系-DeepLink共建AI软硬件生态,当前双方的合作主要基于燧原科技已量产的第二代训练产品云燧T20和第二代推理产品云燧i20。

  2022年11月,燧原科技与上海人工智能实验室就云燧T20、云燧i20和深度学习框架的适配开始进行深入合作,逐步在人工智能开放计算体系(DeepLink)上实现接入T20和i20,共同打造人工智能软硬件生态。

  目前,T20和i20已基于DeepLink实现多个模型的训练和推理的适配,支持CV、NLP 等核心领域以及开源LLaMA大模型。双方的合作降低了硬件接入AI 模型训练和推理的门槛,为大模型的发展提供强劲算力保证。

  燧原科技同时参与了DeepLink芯片评测工作,DeepLink评测体系针对送测芯片进行多维度测试并提供季度评测报告,其评测结论为各类加速卡提供优化参考,推动AI芯片技术规范的标准建设。

  DeepLink作为连接硬件芯片与深度学习软件框架间适配的"桥梁",厂商可基于DeepLink一次适配即接入广泛的算法生态,根本性实现软硬件解耦。目前DeepLink已提供200余个标准算子接口,支持超过5000个算子测例,同时支持大语言模型和视觉模型。遵循DeepLink标准可以实现主流框架与AI芯片高效适配,极大降低算力使用门槛,节省适配时间,更容易实现算力对模型的使能。同时通过编译的优化,系统性提升整体训练效率。

  人工智能开放计算体系 (DeepLink)

  云燧T20是面向数据中心的第二代人工智能训练加速卡,具有模型覆盖面广、性能强、软件生态开放等特点,可支持多种人工智能训练场景。同时具备灵活的可扩展性,提供业界领先的人工智能算力集群方案。

  云燧T20

  云燧i20是面向数据中心的第二代人工智能推理加速卡,具有高性能高能效、模型覆盖面广、易部署易运维等特点,已广泛应用于计算机视觉、语音识别与合成、自然语言处理、搜索与推荐等推理场景。

  云燧i20

  燧原科技相关负责人表示:"DeepLink可以让上游芯片和下游框架两层在适配工程实施时能有效地解耦,并复用到不同的训练框架适配中去,从而降低芯片和框架的适配成本,同时保障算子实现正确性。燧原科技将与上海人工智能实验室合作,在算力和算法上进行深度融合,为业界构建软硬一体、更加优化的计算解决方案,为产业赋能,共建软硬协同生态,推动中国数字化产业转型和升级。"

  更多DeepLink信息详见:https://deeplink.org.cn/home

  关于燧原科技

  燧原科技专注人工智能领域云端和边缘算力产品,致力为通用人工智能打造算力底座,提供原始创新、具备自主知识产权的AI加速卡、系统集群和软硬件解决方案。凭借其高算力、高能效比的创新架构和高效易用的软件平台,产品可广泛应用于泛互联网、智算中心、智慧城市,智慧金融、科学计算、自动驾驶等多个行业和场景。

  燧原科技秉承开源开放的宗旨,携手产业伙伴共创生态,成为通用人工智能时代产业的驱动力。


责任编辑:赵硕
分享到:
0
【慎重声明】凡本站未注明来源为"时尚界"的所有作品,均转载、编译或摘编自其它媒体,转载、编译或摘编的目的在于传递更多信息,并不代表本站赞同其观点和对其真实性负责。如因作品内容、版权和其他问题需要同本网联系的,请在30日内进行!