OpenAI Foundry 允许客户购买专用计算来运行 AI 模型
OpenAI 悄悄为开发人员推出了一个新平台,允许客户在专用容量上运行公司更新的机器学习模型,例如 GPT-3.5。 在早期访问用户发布在 Twitter 上的屏幕截图中,OpenAI 的 Foundry 被描述为“专为运行大量工作负载的尖端客户设计”。
文档指出“[Foundry] 允许] 在完全控制模型配置和配置文件的情况下进行大规模推理,”已联系 OpenAI 以确认此信息。
根据屏幕截图,Foundry 将在启动时提供专用于一个客户的“静态分配”(可能在 OpenAI 首选的公共云平台 Azure 上)。 OpenAI 用于优化和构建模型的相同仪表板和工具将可供用户监控各个实例。 Foundry 还提供一定程度的版本控制,允许客户决定是否升级到最新的模型版本。 它还将为 OpenAI 的最新模型提供“更强大”的微调。
来源和详细信息:
OpenAI’s Foundry will let customers buy dedicated compute to run its AI models