字节跳动火山引擎官宣,旗下一站式大模型服务平台火山方舟将正式面向个人开发者提供服务,个人开发者可体验、应用包括豆包大模型家族在内的十数种大模型和其他平台功能。
火山方舟上的豆包全系模型都将为个人用户提供 50 万 tokens 的免费推理额度,此外豆包通用模型 pro 和豆包通用模型 lite 的 4K 和 32K 版本,也为用户提供了 1 万 RPM(每分钟请求数)和 80 万 TPM(每分钟 tokens 数)的流量额度。
免费额度用完后,以豆包通用模型 pro-32k 版为例,模型推理输入价格为 0.0008 元 / 千 tokens。IT之家附定价表如下:
个人开发者需要在火山引擎官网上完成个人实名认证。完成实名认证后就可以从火山方舟 / 豆包大模型官网进入到火山方舟控制台。
接下来就可以在模型广场中查看目前火山方舟所提供的各类大模型,个人开发者可通过模型卡片查看模型名称、简介、提供方、是否可体验以及应用场景。
在选定模型后,开发者还可以利用火山方舟所提供的控制台页面操作或通过 API 调用的方式进行模型体验及模型对比。具体方式如下:
在完成体验以后,个人开发者就可以根据自身的实际需求,调用相应的模型,并完成推理等工作:
此外,个人开发者还可以上传数据集,通过 SFT 精调(Supervised FineTuning)、继续预训练(Continue Pretraining)对模型进行精调。