千帆平台:提供高效异构算力服务
千帆平台针对算力需求的客户,提供高效异构算力服务。
在大模型训练环节,通过分布式并行训练策略和微秒级互联能力,实现万卡规模集群训练的加速比达到95%。同时,通过事先防范、事中及时发现、定位、解决故障等原因,提高有效训练时间占比,万卡集群有效训练时间占比达到96%,降低客户算力与时间成本。
百度智能云千帆大模型平台
千帆平台兼容昆仑芯、昇腾、海光DCU、英伟达、英特尔等国内外主流AI芯片,支持客户以最小切换成本完成算力适配。
于百度智能云提供的AI算力集群,面壁智能携手知乎,基训练出“知海图AI”大模型和多模态大模型Luca,在千卡集群上的有效训练时间占比高达99%,实现模型训练效果的高效收敛。知乎、好未来、地平线等企业也正在使用百度智能云提供的AI算力服务,以稳定、高效和经济的方式实现大规模集群的训练和管理。
在模型层面,千帆平台纳管了42个国内外主流大模型,企业客户可以快速调用各种大模型的API,获取大模型能力。对于第三方大模型,千帆平台还进行了中文增强、性能增强、上下文增强等优化。目前千帆平台已经服务了超过17000家客户,大模型API调用量持续高速攀升。
对于希望基于现有大模型进行二次开发的客户,千帆平台为大模型的再训练、微调、评估和部署等环节提供全生命周期工具链、41个高质量行业数据集,帮助客户针对自身业务场景快速优化模型效果。包括中国邮政储蓄银行、度小满、金山办公、河北高速集团在内的诸多行业头部客户,都正在通过千帆平台提供的工具链服务开发出贴合业务需求的专属大模型。
在应用层面,一部分企业需要基于大模型服务去开发AI原生应用,千帆平台上提供的一系列能力组件与框架,可以帮助企业快速完成应用开发,灵活地响应用户与市场需求。
小编推荐:
本文由小熊AI网发布,不代表小熊AI网立场,转载联系作者并注明出处:https://www.xiaoxiong360.com/html/industry/1164.html