Vị trí AI Engineer (MLOPs) chịu trách nhiệm thiết kế, xây dựng và vận hành hạ tầng kỹ thuật nhằm đưa các mô hình Trí tuệ nhân tạo (AI/ML) từ môi trường nghiên cứu (experiment) lên môi trường thực tế (production) một cách ổn định, bảo mật và có khả năng mở rộng linh hoạt. Đảm bảo toàn bộ vòng đời AI (AI Lifecycle) được vận hành theo tiêu chuẩn: Tự động hóa (Automation-first), Giám sát toàn diện (Observability) và Tối ưu chi phí hạ tầng.
Mô tả công việc:
- Triển khai & Vận hành (Production Deployment): Nghiên cứu phát triển ứng trên hạ tầng, nền tảng Inference Suite cho các mô hình AI (LLM, Computer Vision, NLP...)
- Xây dựng Pipeline (CI/CD/CT): Thiết lập và tối ưu hóa các quy trình CI/CD tự động cho mã nguồn và các quy trình Continuous Training (CT) để tự động hóa việc cập nhật mô hình.
- Thiết kế, triển khai và vận hành hạ tầng Cloud/Kubernetes phục vụ training, inference và các workload AI/ML/GenAI.
- Tối ưu hóa hạ tầng AI: Quản lý và tối ưu hóa hiệu suất sử dụng tài nguyên phần cứng (GPU/NPU), đảm bảo hệ thống có khả năng Auto-scaling theo tải thực tế.
- Giám sát & Bảo mật: Xây dựng hệ thống giám sát (Monitoring/Logging) để theo dõi hiệu năng mô hình và sức khỏe hệ thống (sử dụng Prometheus, Grafana). Đảm bảo an ninh cho hệ thống AI và quyền riêng tư dữ liệu.
- Hỗ trợ tư vấn: Phối hợp với bộ phận Nghiên cứu (R&D) để đóng gói mô hình và tư vấn giải pháp hạ tầng AI cho khách hàng dựa trên nền tảng Inference Suite của Viettel IDC.
