云天励飞：IPU-X6000加速卡已适配超过30个开源大模型，预期能使大模型推理成本大幅度下降

2025-12-25 19:37:25来源：[db:来源]作者： [db:作者]阅读量：

（原标题：云天励飞：IPU-X6000加速卡已适配超过30个开源大模型，预期能使大模型推理成本大幅度下降）

经济观察网讯 7月24日，云天励飞在上证e互动平台表示，公司2024年推出的IPU-X6000加速卡主要用于大模型云端推理，其内置高效大模型推理DeepEdge200芯片，具有256T大算力、486GB/s超高带宽、128GB大显存、c2c mesh互联，可应用于语言大模型、视觉大模型、多模态大模型等各类大模型推理加速领域。目前已经支持适配云天书、通义千问、百川智能、智谱清言、Meta等30+开源大模型，涵盖1.5B参数到70B参数量，预期能使大模型推理成本大幅度下降。（实习记者 李青阳 编辑 李仕静）

相关文章

  • 云天励飞：IPU-X6000加速卡已适配超过30个

    云天励飞：IPU-X6000加速卡已适配超过30个

    经济观察网讯 7月24日，云天励飞在上证e互动平台表示，公司2024年推出的IPU-X6000加速卡主要用于大模型云端推理，其内置高效大模型推理DeepEdge200芯片，具...

    阅读: 177

  • 北京大学刘若川获拉马努金奖

    北京大学刘若川获拉马努金奖

    经济观察网讯 7月24日，据北京大学微信公众号消息，2024年7月22日由国际理论物理中心（ICTP）和国际数学联盟（IMU）共同颁发的2024年度拉马努金奖（The R...

    阅读: 189

  • 中汽协：销量排名前十位的MPV生产企业共

    中汽协：销量排名前十位的MPV生产企业共

    经济观察网讯 7月24日，据中汽协会数据微信公众号消息，2024年1-6月，销量排名前十位的MPV生产企业共销售34.2万辆，占MPV销售总量的75.1%。在上述十家企业...

    阅读: 147

  • 英伟达携手Meta推出AI服务，引领生成式

    英伟达携手Meta推出AI服务，引领生成式

    经济观察网讯 据英伟达中国官网7月24日消息，英伟达推出NVIDIA AI Foundry服务和NIM推理微服务，与Meta新推出的Llama 3.1系列开源模型协同，为企业提供生成式...

    阅读: 185

  • 伟测科技：二季度稼动率逐月提升 目前上

    伟测科技：二季度稼动率逐月提升 目前上

    经济观察网讯 7月24日，伟测科技在上交所互动平台表示，公司第二季度稼动率逐月提升，目前上海厂及无锡厂中高端产品基本满产，南京厂新建厂房已投入...

    阅读: 111

更多栏目

热门文章

热门图文