使用tenrorrt轉(zhuǎn)化為trt文件后,用如下代碼可以測試推理速度。
此處模型是多分類的圖像語義分割,測試數(shù)據(jù)是一張圖片,時間可以根據(jù)自己的需要決定起點(diǎn)在何處。
參考:
https://www.cnblogs.com/chentiao/p/16671459.html