OpenAI Foundry 允许客户购买专用计算来运行 AI 模型

OpenAI 悄悄为开发人员推出了一个新平台,允许客户在专用容量上运行公司更新的机器学习模型,例如 GPT-3.5。 在早期访问用户发布在 Twitter 上的屏幕截图中,OpenAI 的 Foundry 被描述为“专为运行大量工作负载的尖端客户设计”。

文档指出“[Foundry] 允许] 在完全控制模型配置和配置文件的情况下进行大规模推理,”已联系 OpenAI 以确认此信息。

根据屏幕截图,Foundry 将在启动时提供专用于一个客户的“静态分配”(可能在 OpenAI 首选的公共云平台 Azure 上)。 OpenAI 用于优化和构建模型的相同仪表板和工具将可供用户监控各个实例。 Foundry 还提供一定程度的版本控制,允许客户决定是否升级到最新的模型版本。 它还将为 OpenAI 的最新模型提供“更强大”的微调。

来源和详细信息:

OpenAI’s Foundry will let customers buy dedicated compute to run its AI models

By lausm

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *