EM and GMM

Discussion in 'Computer science & Electrical Engineering' started by jah, Sep 26, 2008.

  1. jah

    jah Thèm thuồng

    Jah đang tìm hiểu một vấn đề về tính toán GMM (Gaussian Mixture Model), mong các bác nào có biết xin hướng dẫn vài kinh nghiệm, hoặc có tài liệu hay thì giới thiệu cho Jah với :)
    Phát biểu bài toán:
    Cho 1 tập mẫu {x1, ..., xn}, đã được EM algorithm tính ra kết quả. Nghĩa là đã có GMM hội tụ để biểu diễn không gian mẫu. Khi thêm vào một mẫu mới x(n+1), thì có những phương án nào để cập nhật lại các kỳ vọng và phương sai của GMM mà không phải duyệt lại toàn bộ các mẫu từ x1 đến xn không? (dạng incremental or adaptive GMM via EM )
    Xin cảm ơn trước
     
    goahead likes this.
  2. abc123

    abc123 Thèm thuồng

    EM tính ra cái gì từ tập {x1, ..., xn} vậy bạn ?
     
  3. jah

    jah Thèm thuồng

  4. cuchuoi

    cuchuoi Củ chuối

  5. Tartan

    Tartan n-1 years in Tibet

    Nếu mình hiểu đúng bài toán thì có thể làm như sau:
    1. Given điểm x(n+1), dùng GMM đã được train để ước lượng xem điểm x(n+1) thuộc vào Gaussian nào, giả sử là G.
    2. Từ G ước lượng là có bao nhiểu ở trong tập X(1 .. n) thuộc vào G. Giả sử 100 điểm.
    3. Interpolate mean mới của G sẽ là: 0.99* mean cũ + 0.1 * điểm x(n+1)
    4. Interpolate covariance matrix thì mình chưa nghĩ ra ;) .

     
    goahead and jah like this.
  6. jah

    jah Thèm thuồng

    bác Tartan hiểu chính xác vấn đề của Jah đấy. Ngoài cái mean, covariance còn cái alpha (xs của cái gauss đó). Công thức thì Jah vẫn chưa có ý gì để tính.
    Jah đang cố gắng giảm kích thước cái historical dataset xuống bằng cách thay đổi phương pháp lấy mẫu và gom nhóm mẫu :)
    Không biết các bác có góp ý gì không?
     
  7. goahead

    goahead Thèm thuồng

    Covariance đúng là khó, theo tôi có thể dùng covariance cũ để tính toán và tính lại nó ở thời điểm khi trong lớp G nào đó có m điểm mới đưa vào.

    Nhân tiện tôi muốn hỏi thêm là, nếu m điểm mới không thuộc một G nào cả, thì việc tình lại parameters của G là ko ổn?
     

Share This Page