iT邦幫忙

2021 iThome 鐵人賽

DAY 10
0
AI & Data

AI平台初學者工作坊: 從training、tracking到serving系列 第 10

使用Django部署模型

上一篇把Django的開發環境準備好了, 這一篇我們來寫程式將模型部署在Django專案並且可以提供endpoint可讓使用者(client)傳送一張手寫圖檔到endpoint後取得推論後的結果, 也就是會回傳這張圖片是數字0-9的哪一個數字.

建立Django專案

  • 開啟上一篇準備好的Django環境

    $cd ironman-workspace
    $source VENV/bin/activate
    
  • 建立專案
    專案名稱為mnistinfernce

    $django-admin startproject mnistinfernce
    

    https://ithelp.ithome.com.tw/upload/images/20210923/20140792ARBCedlasy.png

撰寫專案程式

接下來開啟vs code, 我們開始來寫程式
打開vs code之後會看到我們下列裡面, 一個具有基本程式框架的開發環境
https://ithelp.ithome.com.tw/upload/images/20210923/20140792W8BBROTrQs.png

  • 修改core/views.py
    我們先來寫第一支程式, 用來判斷推論結果的程式, 請打開core/views.py, 加入下列內容:
from django.shortcuts import render
from rest_framework.decorators import api_view
from django.http.response import JsonResponse
from rest_framework import status

from PIL import Image
from fastai.vision.all import *

@api_view(['GET', 'POST', 'DELETE'])
def predict(request):  
    if request.method == 'POST':
        # Read the image uploaded by the curl command
        requested_img = request.FILES['file']

        img = PILImage.create(requested_img)
        
        learn_inf = load_learner("pretrained_model/export.pkl")
        pred = learn_inf.predict(img)

        # Get the digit
        result = int(pred[0])

    # Return the JSON response
    return JsonResponse({"digit": result}, status=status.HTTP_201_CREATED) 
  • 放置訓練好的model
    我們在Day6 已使用fastai訓練好手寫辯識的model, model的名稱為 export.pkl , 我們現在把這個model檔放到django專案的 pretrained_model 這個目錄, 如下圖:
    https://ithelp.ithome.com.tw/upload/images/20210923/20140792fruU2X35Oc.png

  • 修改urls.py
    增加一個path指向views.py的 predict function

    from django.contrib import admin
    from django.urls import path
    from core.views import predict
    
    urlpatterns = [
      path('admin/', admin.site.urls),
      path('predict/', predict),
    ]
    
  • 修改 settings.py
    將這一行
    ALLOWED_HOSTS = []
    改為
    ALLOWED_HOSTS = ['*',]

    另外, 在INSTALLED_APPS 加入我們的app, 名稱為 core

    INSTALLED_APPS = [
      'django.contrib.admin',
      'django.contrib.auth',
      'django.contrib.contenttypes',
      'django.contrib.sessions',
      'django.contrib.messages',
      'django.contrib.staticfiles',
      'rest_framework',
      'core'
    ]
    
  • 安裝fastai package
    到這裡我們可以試試看能不能將專案順利跑起來, 但在跑之前, 我們忘了一件事: 我們還沒有安裝fastai與rest_framework這兩個package. 我們現在就來安裝. 回到建立django的console裡面, 執行如下列指令:

    $cd ~/ironman-workspace/mnistinfernce
    $pip install fastai
    $pip install djangorestframework
    

    https://ithelp.ithome.com.tw/upload/images/20210923/20140792bmRZuwwUTo.png

    https://ithelp.ithome.com.tw/upload/images/20210923/20140792H9QxqFZwsT.png

  • 啟動web server
    在console中執行下列指令

    $cd ~/ironman-workspace/mnistinfernce
    $python manage.py migrate
    $python manage.py runserver 0.0.0.0:8000
    

    web server啟動後的console畫面
    https://ithelp.ithome.com.tw/upload/images/20210923/20140792BBzZJxOyRu.png

到這裡我們已經將模型部署好, 而且也成功建立endpoint可以讓外部使用者存取這個endpoint後取得推論後的結果.

Client site環境

接下來我們來準備客戶端的環境

  • 準備圖片
    從github下載推論用的範例圖檔
    $git clone https://github.com/masonwu1762/mnist_inference_png.git
    $cd mnist_inference_png
    
  • 使用curl存取endpoint最得推論結果
    $curl -F 'file=@png/7.png' 127.0.0.1:8000/predict/
    
    回傳的推論結果為數字7:
    https://ithelp.ithome.com.tw/upload/images/20210923/20140792vf9KnFZuaS.png

到這裡我們就完成第一個範例的所有說明, 內容包含使用CNN訓練出一個手寫辨識的Model, 並且使用MLFlow將每次訓練的parameter與參數記錄起來, 再挑出比較準確的model執行部署, 使用Django部署模型並提供endpoint, 最後也使用client程式確認推論結果是正確的.


上一篇
準備Django環境
下一篇
範例(二)預測心血管疾病的可能性
系列文
AI平台初學者工作坊: 從training、tracking到serving30

尚未有邦友留言

立即登入留言