01 ngày

Khóa học này giới thiệu cho học viên về công cụ và thực tiễn tốt nhất của MLOps để triển khai, đánh giá, giám sát và vận hành các hệ thống ML trong production trên Google Cloud.
MLOps là một discipline tập trung vào triển khai, kiểm thử, giám sát và tự động hóa các hệ thống ML. Các kỹ sư Machine Learning (ML Engineers) dùng công cụ để cải tiến và đánh giá liên tục mô hình đã deploy, làm việc cùng (hoặc chính họ là) Data Scientist nhằm tăng tốc độ và độ nghiêm ngặt khi đưa mô hình tốt nhất vào production.

• Xác định và sử dụng các công nghệ cốt lõi để hỗ trợ MLOps hiệu quả.
• Cấu hình và provision kiến trúc Google Cloud cho môi trường MLOps tin cậy.
• Triển khai workflow training và inference tin cậy, lặp lại được.
• Áp dụng best practice CI/CD cho hệ thống ML.
• Vận hành các mô hình ML đã triển khai hiệu quả.
• Tích hợp workflow ML với upstream & downstream data workflow để duy trì lineage & quản lý metadata.

• Data Scientist muốn nhanh chóng đưa prototype ML lên production để tạo impact.
• Software Engineer muốn học Machine Learning Engineering.
• ML Engineer muốn sử dụng Google Cloud.

Hoàn thành khóa Machine Learning với Google Cloud hoặc có kinh nghiệm tương đương.

Sau khi hoàn tất khóa học, học viên sẽ được cấp chứng nhận hoàn tất khóa học theo quy định của Cecomtech.

Khóa học gồm bài giảng, demo và lab thực hành.

Module 1: Vì sao và khi nào cần MLOps

• Thảo luận pain point của Data Scientist.
  • Xác định đặc điểm & thách thức của ML Engineering.
  • Google Cloud giúp gì cho MLOps.
  • So sánh MLOps với quản lý ML thủ công.
  • So sánh DevOps và MLOps.

Module 2: Hiểu thành phần chính của Kubernetes (tùy chọn)

• Định nghĩa Docker container.
  • Tạo Docker container.
  • Hiểu kiến trúc Kubernetes: pods, namespaces.
  • Tạo container bằng Google Container Builder.
  • Lưu image trong Google Container Registry.
  • Tạo cluster Kubernetes Engine.
  • Quản lý Kubernetes deployments.

Module 3: Giới thiệu AI Platform Pipelines

• Xác định lợi ích & cơ hội của AI Pipelines.
  • Định nghĩa Access Control trong Pipelines.
  • Nhận diện các component & workflow pipeline.
  • Thiết lập AI Platform Pipelines.
  • Tạo & chạy machine learning pipeline.
  • Kết nối với Pipelines qua Kubeflow Pipelines SDK.
  • Cấu hình GKE cluster cho AI Platform Pipelines.

Module 4: Training, Tuning, Serving trên AI Platform

• Xác định concept chính của MLOps trên AI Platform.
  • Tạo dataset reproducible.
  • Implement mô hình có thể tune.
  • Build & push training container.
  • Train & tune mô hình.
  • Serve & query mô hình.

Module 5: Kubeflow Pipelines trên AI Platform

• Hiểu vai trò Kubeflow Pipelines trong MLOps.
  • Miêu tả pipeline với KF DSL.
  • Sử dụng các component Kubeflow.
  • Compile, upload, run pipeline build trên Kubeflow Pipelines.

Module 6: CI/CD cho Kubeflow Pipelines trên AI Platform

• Tạo Cloud Build Builders.
  • Cấu hình pipeline với Cloud Build.
  • Tạo trigger training bằng Cloud Build Triggers.
  • Áp dụng best practice CI/CD cho hệ thống ML.

Module 7: Tổng kết

• Tóm tắt toàn bộ khóa học.