FastAPI là lựa chọn hàng đầu để đưa mô hình AI thành dịch vụ. Bài cuối tạo API dự đoán dùng mô hình scikit-learn, gọi API mô hình ngôn ngữ lớn, rồi đóng gói bằng Docker để triển khai.
- Nạp mô hình máy học khi khởi động
- Endpoint dự đoán
- Gọi API mô hình ngôn ngữ lớn
- Docker hóa và triển khai
Cơ sở lý thuyết
Phục vụ mô hình (model serving) là đưa mô hình máy học đã huấn luyện vào hoạt động để nhận dữ liệu và trả dự đoán qua API. Các vấn đề cần giải quyết:
- Nạp mô hình một lần khi khởi động (lifespan) vì nạp mô hình tốn thời gian và bộ nhớ; không nạp lại mỗi yêu cầu.
- Hợp đồng dữ liệu: đầu vào phải có đúng đặc trưng, đúng thứ tự, đúng tiền xử lý như lúc huấn luyện; Pydantic đảm bảo kiểu và miền giá trị.
- Tính toán nặng chặn vòng lặp sự kiện; với endpoint def (không async), FastAPI tự chạy trong luồng riêng.
- Container (Docker) đóng gói mã, thư viện, mô hình và môi trường thành image bất biến, chạy giống nhau ở mọi nơi – giải quyết vấn đề "chạy được trên máy tôi".
- Gọi mô hình ngôn ngữ lớn qua API là tác vụ chờ mạng, nên dùng async; khóa API đặt trong biến môi trường.
API dự đoán
import joblib
from contextlib import asynccontextmanager
mo_hinh = {}
@asynccontextmanager
async def vong_doi(app):
mo_hinh["dt"] = joblib.load("du_doan_diem.joblib") # nạp một lần
yield
app = FastAPI(lifespan=vong_doi)
class DauVao(BaseModel):
gio_hoc: float
chuyen_can: float
@app.post("/du-doan")
def du_doan(x: DauVao):
diem = mo_hinh["dt"].predict([[x.gio_hoc, x.chuyen_can]])[0]
return {"diem_du_doan": round(float(diem), 2)}Gọi mô hình ngôn ngữ lớn (Claude, GPT...) qua SDK chính thức trong endpoint async; khóa API đặt trong biến môi trường.
Docker
# Dockerfile
FROM python:3.13-slim
WORKDIR /app
COPY requirements.txt .
RUN pip install --no-cache-dir -r requirements.txt
COPY . .
CMD ["fastapi", "run", "main.py", "--port", "8000"]docker build -t qlsv-api .
docker run -p 8000:8000 qlsv-apiCó thể triển khai lên Render, Railway hoặc VPS (xem loạt Triển khai ứng dụng web).
Ứng dụng thực tế
Bài toán: dự đoán nguy cơ sinh viên bỏ học từ điểm trung bình, tỉ lệ chuyên cần, số tín chỉ nợ để phòng công tác sinh viên can thiệp sớm. Huấn luyện mô hình hồi quy logistic và phục vụ qua API:
# huan_luyen.py
import joblib, pandas as pd
from sklearn.linear_model import LogisticRegression
df = pd.read_csv("lich_su_sinh_vien.csv")
X, y = df[["gpa", "chuyen_can", "tin_chi_no"]], df["bo_hoc"]
joblib.dump(LogisticRegression().fit(X, y), "nguy_co.joblib")
# main.py
class HoSo(BaseModel):
gpa: float = Field(ge=0, le=4)
chuyen_can: float = Field(ge=0, le=1)
tin_chi_no: int = Field(ge=0)
@app.post("/du-doan-nguy-co")
def du_doan(h: HoSo):
p = mo_hinh["nguy_co"].predict_proba([[h.gpa, h.chuyen_can, h.tin_chi_no]])[0][1]
return {"xac_suat": round(float(p), 3), "muc": "cao" if p > 0.6 else "trung bình" if p > 0.3 else "thấp"}Dự đoán chỉ là công cụ hỗ trợ ra quyết định; cần giải thích được, kiểm tra thiên lệch dữ liệu và bảo vệ dữ liệu cá nhân của sinh viên.
- Huấn luyện mô hình hồi quy đơn giản và tạo API dự đoán.
- Đóng gói API bằng Docker và chạy thử.
- Triển khai lên một nền tảng miễn phí.
- lifespan nạp mô hình một lần.
- FastAPI phù hợp dịch vụ AI.
- Docker giúp chạy giống nhau ở mọi nơi.

