Torchserve 佈署問題--為何執行prediction沒有回應？

torchserve pytorch deep learning deployment

sufish 2022-04-24 08:01:09 ‧ 641 瀏覽

分享至

大家好，我是機器學習的初學者！想請問關於佈署torchserve的問題。
我在時做https://ithelp.ithome.com.tw/articles/10256505 教學當中的程式碼時
一直到curl 127.0.0.1:8081/models的output是正常的，如文章當中的圖中所示
但在我執行到prediction的步驟時(也就是執行curl http://127.0.0.1:8080/predictions/resnet-18 -T ./serve/examples/image_classifier/kitten.jpg 這個指令時)無法有output，我等了很久也無回應。
最後只能切斷連線但cmd也只是跳出Recv failure:Connection was reset。
但是像pytorch tutorial中或是上面分享的文章中執行此行指令是會正常產出預測的結果。
所以想請問是否有人知道我在哪個環節有出錯或是沒有注意到哪裡的設定呢？謝謝！

登入發表討論

直播研討會

{{ item.channelVendor }} {{ item.webinarstarted }} |

直播中

1 個回答

I code so I am

iT邦高手 1 級 ‧ 2022-04-25 12:04:57

最佳解答

使用 post 試試看：
curl -X POST http://127.0.0.1:8080/predictions/densenet161 -T kitten.jpg

回應 2
分享
檢舉

sufish iT邦新手 5 級 ‧ 2022-05-02 16:54:30 檢舉

您好我照您的指令執行後，仍舊顯示以下錯誤。
curl: Can't open 'kitten.jpg'!
curl: try 'curl --help' or 'curl --manual' for more information
curl: (26) Failed to open/read local data from file/application
另外我利用"curl http://127.0.0.1:8080/ping" 確認torchserve是否有正常執行(一般若連接成功會顯示Healthy)，結果顯示是Unhealthy。我猜想可能也與我的問題有關，但不知如何解決，再麻煩您解答，謝謝！