Đây là hệ thống được nhiều người đánh giá là một trong những hệ thống tốt nhất trên thế giới ở quy mô mà nó hoạt động. Nó có thể đề xuất video hoặc quảng cáo và ngay cả các công ty công nghệ lớn khác cũng không thể cạnh tranh được. Đề xuất trên một nền tảng như TikTok rất khó vì dữ liệu đào tạo không cố định vì sở thích của người dùng có thể thay đổi trong vài phút và số lượng người dùng, video và quảng cáo liên tục thay đổi.
Hiệu suất dự đoán của hệ thống đề xuất trên nền tảng truyền thông xã hội sẽ giảm đi sau vài giờ, vì vậy hệ thống này cần được cập nhật thường xuyên nhất có thể. TikTok đã xây dựng một công cụ phát trực tuyến để đảm bảo mô hình được đào tạo liên tục theo cách trực tuyến. Máy chủ mô hình tạo ra các tính năng để mô hình đề xuất video và đổi lại, người dùng tương tác với các mục được đề xuất. Vòng phản hồi này dẫn đến các mẫu đào tạo mới được gửi ngay đến máy chủ đào tạo. Máy chủ đào tạo giữ một bản sao của mô hình và các tham số mô hình được cập nhật trong máy chủ tham số. Mỗi phút, máy chủ tham số sẽ tự đồng bộ hóa với mô hình sản xuất.
Mô hình đề xuất có kích thước vài terabyte nên việc đồng bộ hóa một mô hình lớn như vậy trên mạng là rất chậm. Đó là lý do tại sao mô hình chỉ được cập nhật một phần. Nguyên nhân hàng đầu của tình trạng không cố định (trôi khái niệm) xuất phát từ các biến thưa thớt (người dùng, video, quảng cáo, v.v.) được thể hiện bằng các bảng nhúng. Khi người dùng tương tác với một mục được đề xuất, chỉ các vectơ liên kết với người dùng và mục đó mới được cập nhật, cũng như một số trọng số trên mạng. Do đó, chỉ các vectơ cập nhật mới được đồng bộ hóa trên cơ sở từng phút và trọng số mạng được đồng bộ hóa trên khung thời gian dài hơn.
Các hệ thống gợi ý điển hình sử dụng các bảng nhúng cố định và các danh mục của các biến thưa thớt được gán cho một vectơ thông qua hàm băm. Thông thường, kích thước băm nhỏ hơn số lượng danh mục và nhiều danh mục được gán cho cùng một vectơ. Ví dụ: nhiều người dùng chia sẻ cùng một vectơ. Điều này cho phép chúng tôi giải quyết vấn đề khởi động nguội đối với người dùng mới và nó đặt ra hạn chế về bộ nhớ tối đa mà toàn bộ bảng sẽ sử dụng. Nhưng điều này cũng có xu hướng làm giảm hiệu suất của mô hình vì hành vi của người dùng bị xáo trộn. Thay vào đó, TikTok sử dụng kích thước nhúng động để người dùng mới có thể được thêm vào vectơ của riêng họ. Họ sử dụng hàm băm không va chạm để mỗi người dùng có được vectơ riêng. Người dùng có hoạt động thấp sẽ không ảnh hưởng nhiều đến hiệu suất của mô hình, vì vậy họ sẽ tự động loại bỏ các ID có tỷ lệ xuất hiện thấp cũng như các ID cũ. Điều này giữ cho bảng nhúng nhỏ trong khi vẫn đảm bảo chất lượng của mô hình.
