近日消息,字节跳动旗下火山引擎部门宣布了一项重要进展,其旗舰级大模型服务平台——火山方舟,现已全面向个人开发者敞开大门。
此举意味着个人开发者群体将能直接接入并运用火山方舟的强大资源,探索包括豆包大模型系列在内的多样化的先进模型工具和技术解决方案,以及享受平台提供的其他一系列创新服务,标志着大模型技术的应用进入了一个更加开放和普及的新阶段。
火山方舟上的豆包全系模型都将为个人用户提供 50 万 tokens 的免费推理额度,此外豆包通用模型 pro 和豆包通用模型 lite 的 4K 和 32K 版本,也为用户提供了 1 万 RPM(每分钟请求数)和 80 万 TPM(每分钟 tokens 数)的流量额度。
免费额度用完后,以豆包通用模型 pro-32k 版为例,模型推理输入价格为 0.0008 元 / 千 tokens。
个人开发者需要在火山引擎官网上完成个人实名认证。完成实名认证后就可以从火山方舟 / 豆包大模型官网进入到火山方舟控制台。
接下来就可以在模型广场中查看目前火山方舟所提供的各类大模型,个人开发者可通过模型卡片查看模型名称、简介、提供方、是否可体验以及应用场景。
在选定模型后,开发者还可以利用火山方舟所提供的控制台页面操作或通过 API 调用的方式进行模型体验及模型对比。
在完成体验以后,个人开发者就可以根据自身的实际需求,调用相应的模型,并完成推理等工作。
此外,个人开发者还可以上传数据集,通过 SFT 精调(Supervised FineTuning)、继续预训练(Continue Pretraining)对模型进行精调。
文明上网,理性发言,共同做网络文明传播者