如何使用具有1:N输入/输出的Triton服务器“集成模型”从大图像创建补丁?
我正在尝试将非常大的图像输入 Triton 服务器。我需要将输入图像分成补丁并将补丁一个一个地输入到张量流模型中。图像大小可变,因此每次调用的补丁数 N 都是可变的。
我认为调用以下步骤的 Triton 集成模型可以完成这项工作:
- 用于创建补丁的 Python 模型(预处理)
- 细分模型
- 最后另一个python模型(后处理)将输出补丁合并成一个大的输出掩码
但是,为此,我必须编写一个config. pbtxt具有1:N和N:1关系的文件,这意味着集成调度程序需要多次调用第二步,并使用聚合输出调用第三步。
这是可能的,还是我需要使用其他技术?
THE END
二维码