专用端点#

Ultralytics Platform 支持将 YOLO 模型部署到全球 42 个区域的专属端点。每个端点都是一个单租户服务，具备按需归零（scale-to-zero）行为、唯一的端点 URL 以及独立的监控。

创建端点#

通过“部署”（Deploy）选项卡#

从模型的 Deploy 标签页部署模型：

1. 导航到你的模型
2. 点击 Deploy 选项卡
3. 查看世界地图和区域表格，表格按你所在位置测得的延迟进行排序
4. 在你想使用的区域行中点击Deploy

部署会立即开始，无需命名步骤：名称由模型名称和区域城市组合生成（例如 yolo26n-iowa）。模型必须包含权重，否则标签页会显示空状态，而不是区域表格。

通过“部署”（Deployments）页面#

从侧边栏的全局 Deploy 页面创建部署：

1. 点击 New Deployment
2. 从模型选择器中选择一个模型，其中列出了你已完成的模型
3. 从小地图或延迟表格中选择一个区域
4. 检查自动生成的部署名称，你可以在此处对其进行编辑
5. 点击 Deploy Model

部署生命周期#

stateDiagram-v2
    [*] --> Creating: Deploy
    Creating --> Deploying: Service starting
    Deploying --> Ready: Service URL published
    Ready --> Stopping: Stop
    Ready --> Deploying: Replace model
    Stopping --> Stopped: Stopped
    Stopped --> Deploying: Start
    Deploying --> Stopped: Start failed
    Ready --> [*]: Delete
    Stopped --> [*]: Delete
    Creating --> Failed: Error
    Deploying --> Failed: Error
    Failed --> [*]: Delete

    classDef proc fill:#2196F3,color:#fff
    classDef out fill:#9C27B0,color:#fff
    classDef error fill:#F44336,color:#fff
    classDef extern fill:#607D8B,color:#fff
    class Creating,Deploying,Stopping proc
    class Ready out
    class Failed error
    class Stopped extern

连接 Slack 警报以便在部署就绪或启动失败时接收消息。

区域选择#

从全球 42 个区域中进行选择。交互式区域地图和表格显示了：

• 区域图钉：根据延迟以绿到红的渐变色标记（越快的区域越偏绿，越慢的区域越偏红）
• 已部署区域：在表格中带有“已部署”徽章高亮显示
• 正在部署的区域：图钉和表格行上带有动画脉冲指示器
• 双向高亮：在地图上悬停会高亮对应的表格行，反之亦然

模型 Deploy 标签页上的区域表格包含：

该表格支持按城市、国家和区域进行搜索，默认按延迟排序。

可用区域#

端点配置#

新部署对话框#

New Deployment 对话框收集三个输入：

在名称下方，一个只读的资源面板带有一个 Custom resources coming soon 徽章。目前资源不可配置：每个端点都作为一个单一实例运行，在闲置时会自动缩减为零。

部署选项卡（快速部署）#

从模型的 Deploy 标签页进行部署会使用相同的固定资源和自动生成的名称，无需对话框步骤。创建期间，部署会立即出现在区域表格下方的活动部署列表中。

管理端点#

视图模式#

部署列表支持三种视图模式：

部署卡片（卡片视图）#

卡片视图中的每个部署卡片显示：

• 表头：名称、区域旗帜、状态徽章，以及可用于当前状态的操作按钮——就绪时可进行替换和停止，已停止时可启动，随时可以删除
• 端点 URL：可复制的 URL，附带指向端点自身 API 参考的链接
• 指标：请求数（24小时）、P95 延迟、错误率，或“尚无流量”
• 健康检查：实时健康指示器，包含延迟和手动刷新功能
• 标签页：Logs、Code 和 Predict
• 页脚：绑定到该部署的 API 密钥前缀以及它变为就绪状态的日期
• 状态消息：部署失败时的失败原因

URL、指标、健康检查和标签页仅在部署处于就绪状态时才会显示。Logs 标签页显示包含严重性过滤（全部 / 错误）的最近日志条目。Code 标签页显示适用于 Python、JavaScript 和 cURL 且包含你的端点 URL 的现成代码示例，以及供工作区所有者使用的绑定 API 密钥（参见监控）。Predict 标签页提供了一个内联预测面板，用于直接在部署上进行测试。

替换模型#

替换就绪端点背后的模型而不改变其 URL：

1. 在卡片视图中打开部署
2. 点击替换模型
3. 从同一工作区选择另一个已完成的模型
4. 可选：编辑部署名称
5. 点击替换模型

当前模型在替换启动期间继续提供服务。替换就绪后，流量将转移到新模型。部署 ID、URL、区域和 API 密钥保持不变；其显示名称仅在你输入新名称时才会改变。如果替换失败，先前的模型和名称将保持活动状态。

替换需要满足以下所有条件，否则将被拒绝：

• 部署处于就绪状态，且没有其他生命周期操作正在进行
• 替换模型拥有权重，并且属于与部署相同的工作区
• 替换模型不是当前已部署的模型

部署状态#

端点 URL#

每个端点都有一个唯一的 URL，例如：

https://predict-<deployment-id>-<hash>-<region>.a.run.app

点击复制按钮以复制 URL。点击文档图标以打开端点自身的 API 参考。该端点提供以下路径：

生命周期管理#

控制你的端点状态：

graph LR
    R[Ready]:::out -->|Stop| S[Stopped]:::extern
    S -->|Start| R
    R -->|Delete| D[Deleted]:::error
    S -->|Delete| D

    classDef out fill:#9C27B0,color:#fff
    classDef error fill:#F44336,color:#fff
    classDef extern fill:#607D8B,color:#fff

停止端点#

当你不希望端点接受请求时，请停止该端点：

1. 点击部署卡片上的暂停图标
2. 端点状态更改为“正在停止”，然后变为“已停止”

已停止的端点：

• 不接受请求，并不报告任何指标或健康状态
• 保留其 URL、区域和绑定的 API 密钥，并且可以随时重新启动
• 仍会计入你的套餐部署配额 —— 删除端点以释放其名额

删除端点#

永久移除端点：

1. 点击部署卡片上的删除（垃圾桶）图标
2. 在对话框中确认删除

当模型或项目被永久删除，或者放入回收站的模型或项目达到保留期结束时，部署也会被移除。

使用端点#

身份验证#

每个部署都绑定到拥有该模型的单个工作区 API 密钥。请将其包含在请求中：

Authorization: Bearer YOUR_API_KEY

该端点仅接受在创建时绑定的密钥，因此没有其他密钥可以打开它 —— 甚至是同一工作区中的另一个活动密钥。要控制绑定哪个密钥，请使用经工作区所有者密钥认证的 API 进行部署：确切的该密钥会被绑定，并且你已经拥有它。通过任何其他方式创建的部署（平台 UI，或以团队成员身份认证的 API 调用）会自动绑定拥有工作区的一个活动密钥 —— 通过部署卡片页脚中显示的密钥前缀来识别它，并向工作区所有者询问其值，因为只有所有者才能查看密钥值（参见API 密钥）。没有绑定密钥的团队成员仍然可以通过浏览器中的平台预测代理运行推理。

直接端点请求#

将生产请求直接发送到部署卡片上显示的 URL。这些请求不通过平台 API 速率限制器，因此 20 个请求/分钟的预测限制不适用。该端点仍有其自身的容量上限：

• 单个实例为每个端点提供服务，一次处理有限数量的请求
• 无法及时服务的请求会返回 429 以及 Retry-After 标头
• 单个请求最多可以运行 1 小时，这允许视频推理完成
• 大于 1 KB 的响应会经过 gzip 压缩，并且允许跨域浏览器请求

请求示例#

import requests

# Deployment endpoint
url = "https://YOUR_DEPLOYMENT_URL.run.app/predict"

# Headers with your deployment API key
headers = {"Authorization": "Bearer YOUR_API_KEY"}

# Inference parameters
data = {"conf": 0.25, "iou": 0.7, "imgsz": 640}

# Send image for inference
with open("image.jpg", "rb") as f:
    response = requests.post(url, headers=headers, data=data, files={"file": f})

print(response.json())

请求参数#

请参阅深度响应了解 bits 如何更改返回的深度图以及如何对其进行解码。

响应格式#

与带有特定任务字段的共享推理相同。

常见问题解答#