火山引擎不自研大模型，建算力底座引入第三方大模型

(资料图片)

6月28日，火山引擎发布了大模型服务平台“火山方舟”，面向企业提供模型精调、评测、推理等全方位的平台服务（MaaS，即Model-as-a-Service）。目前，“火山方舟”集成了百川智能、出门问问、复旦大学MOSS、IDEA研究院、澜舟科技、MiniMax、智谱AI等7家AI科技公司及科研院所的大模型，并已启动邀测。

数智前线获悉，火山引擎在大模型上采用了与其他大厂云平台不一样的市场策略，火山引擎并没有自建基础或者行业大模型，而是引入第三方的大模型来为企业提供服务，而火山引擎提供AI算力和大模型训练工具等服务。

火山引擎的策略背后，一方面是火山引擎有充裕的GPU资源，能给企业的大模型训练和推理提供算力服务，此前有消息称火山引擎囤积了大量英伟达的GPU卡；另一方面，火山引擎CEO谭待认为，未来的大模型市场一定是多云多模型，呈现“1+N”的模式：“1”是通过自研或深度合作，形成1个主力模型；由于成本和场景复杂多元等原因，在这个主力模型之外，还会有N个模型同时应用。这也意味着，企业的大模型需求并不会与单一的大模型产品绑定。

为此，火山方舟提供了丰富的模型精调和评测支持。吴迪介绍，企业可以用统一的工作流对接多家大模型，对于复杂需求可设置高级参数、验证集、测试集等功能，再通过自动化和人工评估直观对比模型精调效果，在不同业务场景里还可灵活切换不同的模型，实现最具性价比的模型组合。这些自定义指标和评估数据的积累，将成为企业在大模型时代宝贵的数据资产。

另外，在安全互信计算方面，“火山方舟”上线了基于安全沙箱的大模型安全互信计算方案，利用计算隔离、存储隔离、网络隔离、流量审计等方式，实现了模型的机密性、完整性和可用性保证，适用于对训练和推理延时要求较低的客户。

据吴迪透露，抖音集团内部已有十多个业务团队试用“火山方舟”，在代码纠错等研发提效场景，文本分类、总结摘要等知识管理场景，以及数据标注、归因分析等方面探索，利用大模型能力促进降本增效。这些内部实践在快速打磨“火山方舟”，推动平台能力的进一步完善。

“火山方舟”的首批邀测企业，还包括金融、汽车、消费等众多行业的客户。北京银行CIO龚伟华表示，大模型与客户营销、办公协同、数据智能的结合，在金融应用场景有巨大潜力。北京银行将与“火山方舟”合作，在算力优化、模型精调等方面展开研究，共同推动金融风控、营销等模型应用落地。（数智前线/周路平）

关键词：

(责任编辑：黄俊飞)

火山引擎不自研大模型，建算力底座引入第三方大模型

时间：2023-06-29 07:07:13来源 : 数智前线

推荐内容