一、公司情况介绍
二、Q&A
1、请介绍一下公司芯片的相关情况
答:Deep Edge10芯片是云天励飞自主研发的面向边缘AI的高性能SoC芯片,采用国产14nm Chiplet工艺,内含国产RISC-V核。
基于DeepEdge10芯片平台打造的DeepEdge10 Max拥有32核64位通用处理器内核,单芯片可提供64Tops算力,32GB DDR容量和120GB/s的内存带宽,能高效支持Transformer模型中的矩阵乘法运算,可为大模型推理提供强大动力。
基于自主研发的“算力积木”AI芯片架构,通过D2D Chiplet技术、C2C Mesh技术和C2C Mes Torus技术,云天励飞将标准计算单元像搭积木一样,封装成不同算力的芯片,覆盖8T-256T算力应用,可实现7B、14B、130B等不同参数量大模型在边缘端的高效推理。
目前,DeepEdge10系列芯片已完成Deep Seek R1系列模型适配、Flash MLA适配和国产鸿蒙操作系统的适配,可支持包括Transformer模型、BEV模型、CV大模型、LLM大模型等各类不同架构的主流模型,并在机器人、边缘网关、服务器等领域实现商业化应用,为深空探测实验室的自主可控星载计算提供支撑。未来,云天励飞将持续加大研发力度,推动芯片在国产化领域取得更大突破,为国产AI生态建设贡献更多力量。
2、公司大模型训推一体机的业务情况如何?
答:在大模型领域,云天励飞与华为的合作起步较早。在2023年,云天励飞就联合华为推出了大模型训推一体化产品——云天天书大模型训推一体机。在DeepSeek获得大规模关注之前,云天励飞已经基于华为昇腾AI基础软硬件平台,在深圳等地的打造了一系列“AI+”标杆项目,为国产AI生态构建树立典范。双方基于昇腾AI在多地打造了边缘智算中心,为产业数智化发展提供澎湃国产算力支持,加速边缘AI向全场景渗透。2024年9月的华为全联接大会上,云天励飞与华为共同发布了多项行业智能化解决方案。这些方案包括数字政务、深智AI视频分析、深海警务大数据、电动车治理等,涵盖数字政务、城市管理、公共安全等领域,方案已在深圳、成都等多地落地应用,充分展现了昇腾技术在助力行业转型中的广泛适配性和深度赋能能力。
在近期的案例中,公司联合华为,基于昇腾服务器实现DeepSeek-R1全尺寸模型(6710亿参数)FP16精度的本地化部署,并配合客户实现了相关应用,应用包含但不限于湛江市政务云平台、龙岗区政务平台、“南山通”小程序等。云天天书大模型训推一体机成功适配DeepSeek后,双方将合力推动一体机在政务、交通、教育、城市治理等多个领域的应用。
3、公司去年签署的智算业务合同进展如何?未来是否会有新增订单?
答:公司与德元方惠签署的合同目前在有序推进中,客户已按照合同条款按时付款,预计将持续为公司提供稳定的收入来源,同时,公司中标的天府智算中心等相关项目合同也正在有序推进中。公司自研千亿级大模型“云天天书”,并在大模型的研发过程中积累了一系列算力调优、提升模型训练效率的技术平台和相应工具。将上述技术沉淀运用在AI算力服务中,可帮助客户提升模型训练及算力利用效率。此外,公司将持续投入自研大模型研发及优化工作,并持续看好大模型进入成熟商业化阶段后推理需求的爆发,在公司大规模异构高性能算力集群中将其自研推理卡与高性能训练算力相结合,为自研推理卡落地打开场景触角、搭建生态。