云天励飞：公司Deep Edge 10是国内首创的国产14nm Chiplet大模型推理芯片

2025-01-08 15:33:07 来源：同花顺iNews

　　同花顺（300033）金融研究中心01月08日讯，有投资者向云天励飞提问，贵司的推理芯片产品（ASIC芯片），属于通用型？还是专业线，专门应用场景的？和寒武纪的相关产品对比有什么优劣势？

　　公司回答表示，尊敬的投资者，您好！公司Deep Edge 10是国内首创的国产14nm Chiplet大模型推理芯片，采用自主可控的国产工艺，内含国产RISC-V核，可广泛应用于大模型推理服务器、AIoT边缘视频、移动机器人等场景。 Deep Edge10系列芯片基于标准化的大模型计算单元打造，通过D2D Chiplet技术、C2C Mesh技术和C2C Mes Torus技术，云天励飞将标准计算单元以类似于“搭积木”的方式封装成不同算力的芯片，并针对大模型的Transformer架构进行优化，可实现7B、14B、130B等不同参数量大模型的高效推理。公司于2024年推出IPU-X6000加速卡，其内置高效大模型推理Deep Edge200芯片，具有256T大算力、486GB/s超高带宽、128GB大显存、C2C mesh互联，由多张加速卡构成的一体机，在多卡互联时可实现存储共享、最大化发挥带宽优势，从而提升大模型推理效率，可应用于语言大模型、视觉大模型、多模态大模型等各类大模型推理加速领域，目前已经支持适配云天书、通义千问、百川智能、智谱清言、Meta等30+开源大模型，涵盖1.5B参数到70B参数量，预期能使大模型推理成本大幅度下降。关于公司芯片产品的具体情况，请您持续关注公司披露的定期报告等公开信息，谢谢！

点击进入交易所官方互动平台查看更多

关注同花顺财经（ths518），获取更多机会

0人