Research topic

Score-Based Generative Models và những tiến bộ mới Chào mừng các bạn đã quay trở lại với blog! Trong bài viết hôm nay, chúng ta sẽ cùng nhau khám phá một trong những hướng đi đột phá nhất của AI tạo sinh: Score-Based Generative Models . Thay vì học trực tiếp phân phối dữ liệu, các mô hình này học cách "dẫn đường" cho nhiễu ngẫu nhiên để biến nó thành dữ liệu có ý nghĩa, tạo ra những hình ảnh và nội dung với chất lượng đáng kinh ngạc. Đây cũng chính là công nghệ nền tảng đằng sau các mô hình khuếch tán (diffusion models) đình đám hiện nay. Lưu ý nhỏ trước khi đọc: Do trình soạn thảo của Blogger không xử lý tốt các công thức toán học phức tạp nên để đảm bảo trải nghiệm đọc tốt nhất và giữ nguyên định dạng gốc,blog này mình đã nhúng toàn bộ nội dung bài viết ở ngay phía dưới. Phần lớn bài viết sẽ giải thích cách hoạt động của Score-Based Generative Models (từ Score Matching, Langevin Dynamics đến SDE). Tuy nhiên, nếu không có nhiều thời gian hoặc mu...

Mô hình xác suất tường minh  (explicit likelihood-based models)  vs Mô hình ngầm định  (implicit generative models) I. Giới thiệu Mô hình tạo sinh (generative model) là hệ thống AI học từ các ví dụ dữ liệu (ví dụ: hình ảnh, văn bản) và có khả năng tạo ra dữ liệu mới tương tự. Nói cách khác, mô hình tạo sinh học phân phối xác suất của dữ liệu huấn luyện, rồi sinh ra các mẫu mới từ phân phối đó [1] . Các mô hình tạo sinh sâu hiện nay chủ yếu chia thành hai nhóm chính dựa trên cách chúng biểu diễn phân phối xác suất của dữ liệu [2] : ·        Nhóm mô hình xác suất tường minh (explicit likelihood-based models): trực tiếp biểu diễn và ước lượng hàm mật độ xác suất của dữ liệu. Nhóm này học phân phối bằng cách tối đa hóa likelihood (xác suất) trên dữ liệu (thường là tối đa hóa hàm log-likelihood hoặc xấp xỉ bằng các mục tiêu phụ) [2] [3] . Ví dụ tiêu biểu gồm mô hình tự hồi quy , mô hình dòng chuẩn hóa (normalizing flow), mô hình dựa t...