电脑知识网 > 近期新闻 > 正文
云天励飞:IPU-X6000加速卡已适配超过30个开源大模型,预期能使大模型推理成本大幅度下降
网络整理 2024-09-18 00:41(原标题:云天励飞:IPU-X6000加速卡已适配超过30个开源大模型,预期能使大模型推理成本大幅度下降)
经济观察网讯 7月24日,云天励飞在上证e互动平台表示,公司2024年推出的IPU-X6000加速卡主要用于大模型云端推理,其内置高效大模型推理DeepEdge200芯片,具有256T大算力、486GB/s超高带宽、128GB大显存、c2c mesh互联,可应用于语言大模型、视觉大模型、多模态大模型等各类大模型推理加速领域。目前已经支持适配云天书、通义千问、百川智能、智谱清言、Meta等30+开源大模型,涵盖1.5B参数到70B参数量,预期能使大模型推理成本大幅度下降。(实习记者 李青阳 编辑 李仕静)
转载请标注:电脑技术网——云天励飞:IPU-X6000加速卡已适配超过30个开源大模型,预期能使大模型推理成本大幅度下降
- 上一篇:英伟达携手Meta推出AI服务,引领生成式AI企业应用新浪潮
- 下一篇:没有了
- 搜索
-
- 2024-09-18云天励飞:IPU-X6000加速卡
- 2024-09-18英伟达携手Meta推出AI服务
- 2024-09-18中汽协:销量排名前十位
- 2024-09-18北京大学刘若川获拉马努
- 2024-09-18伟测科技:二季度稼动率
- 2024-09-18一品红:一类创新药APH0
- 2024-09-18百利天恒:实控人增持公
- 2024-09-18慕思股份:首次回购公司
- 2024-09-18维康药业:转让全资孙公
- 2024-09-18英特集团:将投资建设浙
- 2024-09-17上市猪企上半年普遍大幅
- 2024-09-17发改委重磅发声!回应产
- 2024-09-17最新!澳门楼市拟全面“
- 2024-09-17湾区数字技术创新中心正
- 2024-09-17美国ISM非制造业连续15个月
- 2024-09-178.23万家定点医疗机构实现
- 2024-09-172023年我国实施汽车召回
- 2024-09-16打通金融最后一公里 “临
- 2024-09-16个人信息保护认证,这5家
- 2024-09-15新增专项债发行逾九成 未
- 2024-09-18云天励飞:IPU-X6000加速卡
- 2024-09-18全球脑机接口顶级学术会
- 2024-09-18英伟达携手Meta推出AI服务
- 2024-09-18中汽协:销量排名前十位
- 2024-09-18北京大学刘若川获拉马努
- 2024-09-18伟测科技:二季度稼动率
- 2024-09-18一品红:一类创新药APH0
- 2024-09-18百利天恒:实控人增持公
- 2024-09-18慕思股份:首次回购公司
- 2024-09-18维康药业:转让全资孙公
- 网站分类
- 标签列表