三年两代AI训练芯片，燧原科技凭什么

　　机器之心发布
　　机器之心编辑部
　　燧原科技完成对AI训练芯片的二次迭代，仅用了三年时间。
　　7月7日，燧原科技在上海发布第二代人工智能训练产品邃思2。0芯片、基于邃思2。0的云燧T20训练加速卡和云燧T21训练OAM模组，以及全新升级的驭算TopsRider软件平台，成为国内首家发布第二代人工智能训练产品的公司。
　　燧原科技CEO赵立东（左）与燧原科技COO张亚林（右）共同发布云燧T20训练加速卡和邃思2。0芯片
　　燧原有产品，AI有力量。从2018年3月成立，到2019年12月推出第一款云端训练芯片邃思和第一代训练产品云燧T10，再到如今的邃思2。0和云燧T20。也就是说，燧原科技完成对AI训练芯片的二次迭代，仅用了三年时间。
　　燧原科技第二代通用人工智能训练芯片邃思2。0
　　志存高远，脚踏实地，燧原科技COO张亚林在接受采访时，用这短短的八个字总结了公司过去三年来的变化。
　　跟进国际创新步伐，加速普惠算力落地
　　燧原科技的第二代AI训练芯片邃思2。0一经推出，便受到了业界的关注，并作为2021世界人工智能大会十大镇馆之宝之一，亮相于本次盛会当中。
　　燧原科技的第二代人工智能训练产品在多个技术层面实现了突破，其设计研发到流片成功的速度更是惊人。2020年1月，燧原科技启动了二代训练产品计划，2020年11月6日，即进行了流片，2021年3月9日，新产品成功被点亮。张亚林说道。
　　从这样的计划上看，其实燧原科技对其训练芯片的更新速度已经到达了一年半即推出一代产品。这样的产品迭代速度已经处于业内顶尖水准。
　　拥有15年以上的高端芯片及相关软件生态系统的开发及量产经验，成功开发并量产过多颗大型芯片的研发老将们，为燧原科技实现产品的快速迭代提供了坚实的基础。
　　负责人工智能服务器大芯片的架构定义、逻辑和物理设计，功能验证和可测性方案的芯片硬件团队；负责打造基于自研人工智能训练和推理芯片的产品硬件设计、系统验证和测试、功耗和性能优化，以及最后产品化的完整过程，为云端人工智能产品提供完整的芯片到系统级解决方案的产品系统团队；负责打造基于自研人工智能训练和推理芯片的软件栈，包括驱动、编译器（自研指令集），中间件SDK，分布式训练推理框架等，针对各种人工智能应用场景为客户提供易用的开发环境的软件研发团队，共同构建了燧原科技的硬实力。
　　凭借他们在技术方面的实力，和对市场的敏锐洞察之下，燧原科技的第二代训练芯片产品也应运而生。
　　燧原科技第二代通用人工智能训练加速卡云燧T20
　　张亚林表示，从2020年燧原科技公布第一个客户落地开始，就一直深耕泛互联网、传统行业和新基建三大业务线。正是在这三个业务线上的建设，使燧原科技更加深刻地了解市场痛点，客户对产品的反馈催化第二代产品的诞生。
　　据资料显示，燧原科技的二代训练芯片在算力规格方面有了全面提升，尤其是训练场景高度依赖的单精度浮点有了极大地提升，这也是中国第一个支持TF32数据精度的AI芯片。
　　需要注意的是，TF32数据精度由英伟达于去年发布其新一代旗舰产品A100时推出，并大力推广应用。而随着邃思2。0的推出，也表示燧原科技持续紧跟国际的创新步伐。
　　不同于业内企业的战略布局，燧原科技的愿景是为业界提供普惠算力，即用具有性价比的算力，以及及时的客户响应、客户价值，实现AI商用落地。
　　基于这种愿景和市场需求，燧原科技相信，TF32数据精度能够真正让用户使用更低的数据带宽、更小的能耗，通过获得更有效的计算力，来实现同等业务，从而进一步拓展燧原科技普惠算力的愿景。
　　燧原科技的二代训练产品无论是在单卡、单机多卡、还是大规模集群等不同规模下，其模型性能相对第1代训练产品得到大幅度提升。
　　张亚林认为，大芯片革新的意义已经不仅仅拘泥于芯片本身的升级，而是芯片能为AI系统的提升所带来的价值，软件、硬件、互联，以及整体解决方案。
　　因此，邃思2。0还搭载4颗三星HBM2E（高带宽内存），支持最高64GB内存，内存带宽高达1。8TBs，也是中国第一个支持世界最先进内存HBM2E的产品。他们认为，这样的升级，能够为国内数据中心和云计算提供更好的底层技术和可靠的算力。
　　在互联方面，第2代云燧训练加速卡强大的互联能力让邃思2。0能以更高的集群性能提供更快的数据处理能力，支持多样化模型训练，并有效降低基础设施系统的整体复杂度和成本。
　　在软件方面，燧原科技的驭算2。0可以提供高度契合业界标准的编程接口以支持高性能自定义算子开发，并全面优化动态性模型支持，从而实现绝大多数模型可无缝迁移到燧原的平台，对开发者非常友好。
　　据张亚林介绍，随着燧原科技二代训练产品的发布，公司将推出从芯片到系统集群的解决方案。公司将会以整个多机、多卡、多互联分布式软件、云端部署一套交钥匙的方案，并结合低碳绿色化的集群，来赋能AI训练系统。
　　从展露头角到星火燎原
　　2018年，师出AMD的赵立东和张亚林携手创办了燧原科技。本着以做大芯片，拼硬科技的初心，燧原科技从成立之初就选择了高举高打的路线：瞄准数据中心，做AI训练加速芯片。
　　放眼整个AI芯片市场，据研究机构赛迪顾问报告显示，从2019年到2021年三年中国AI芯片市场规模仍将保持50以上的增长速度，到2021年，市场规模将达到305。7亿元。其中，从2019年到2024年，云端训练芯片的年复合增长率达到32。在这一片具有诱惑性的蓝海中，国内外企业几乎同时发力。挑战与机遇并存，燧原高举高打的战略，吸引了资本的关注。
　　2018年8月，燧原科技由腾讯领投获得PreA轮融资3。4亿元人民币。2019年5月，燧原科技完成3亿人民币A轮融资，领投方为红点创投中国。2020年5月，燧原科技完成7亿人民币B轮融资，领投方为半导体产业基金武岳峰资本，老股东腾讯继续跟投。2021年1月，燧原科技完成18亿人民币C轮融资。
　　燧原科技的产品研发，也快得有些出乎意料。
　　燧原科技CEO赵立东介绍公司发展历程
　　2019年12月，在燧原科技第一代产品发布会当中，邃思1。0和基于邃思1。0的云端训练加速卡云燧T10，让业界看到了这家初创公司的实力。
　　一年后，燧原科技宣布，第一代人工智能训练加速卡云燧T10和由其组成的多卡分布式训练集群已在云数据中心落地，正式进入商用阶段。由此，燧原科技也开始迈进2。0时代，即建立市场销售和服务支持体系、加强学术交流、拓展业务，以实现产品的规模化落地。这个过程也被公司称为是从1到N的进程。
　　在2021年芯云长天产品发布会上，燧原科技对2。0时代有了更明确的规划。他们将围绕异构计算生态施行燎原计划。
　　燧原科技CEO赵立东表示，坚持原始创新、共建标准、以及携手合作伙伴建立生态是燎原计划的三大核心。以燎原计划为基础，除了赋能深度学习计算、通用人工智能之外，公司还将用异构计算赋能科学计算、工程计算、视觉计算等多应用领域。
　　从训练产品的商用化落地，再到如今产品升级，燧原科技的星星之火已然为中国AI市场点燃了希望，未来可期。
　　打造标杆产品，赋能绿色智能数据中心
　　根据赛迪顾问发布的报告显示，未来三年，随着各地数据中心的持续建设，以及大数据、云计算等技术的持续发展，部署于服务器的AI芯片的需求量得到提升，云端训练芯片市场将依然保持快速增长的态势。预计到2021年，市场规模将增长52。5，达到139。3亿元。
　　这样的市场环境为燧原科技提供了发展的土壤，但要想赢得更多市场的青睐，还需要面对英伟达这样的对手。
　　张亚林表示：燧原处在天时地利人的好时候，虽然是后发，但也有机会。
　　燧原科技作为一个追赶者，差异化竞争是赢得市场的关键之一，张亚林坦言道，在差异化竞争方面，燧原科技主要聚焦于三个方面，一是为业界提供普惠算力，让AI成为一种‘用得起’的技术；其二是深入到细分AI场景当中，在一些传统领域，打造泛化性，实现端对端场景的价值；其三是在本土化、定制化的服务方面建立优势，赋能国内AI企业。
　　与此同时，在国家政策和市场发展的双重驱动之下，也出现了本土众多厂商在云端AI芯片市场进行竞速，而谁能够成为最后的赢家则需要时间和市场的考验。
　　燧原在技术上不断追求突破，保持产品迭代升级的同时，把未来的发展重心由点及面拓展到构建智能数据中心解决方案，旨在打造中国智能计算中心的标杆产品。未来，燧原科技将立足智能数据中心和云计算，建设低碳的绿色智能数据中心，推动普惠算力的实现，助力中国发展新基建。
　　燧原科技创始人兼COO张亚林
　　据悉，燧原科技已经开始打造从国家层面出发的，低碳的绿色智能数据中心，充分符合国家关于碳中和、碳达峰的政策导向，是IDC的未来发展趋势。
　　路虽远行则将至，事虽难不做不成。通过以上种种，可以看到，发生在燧原科技身上的传奇，或许才刚刚开始。。。。。