TỐI ƯU HÓA DỰ ĐOÁN TƯƠNG TÁC PROTEIN-PROTEIN TỪ BIỂU DIỄN NGÔN NGỮ THÔNG QUA CƠ CHẾ CHỌN LỌC ĐẶC TRƯNG ĐA GIAI ĐOẠN VÀ HỌC MÁY XẾP CHỒNG

jos.hueuni.edu.vn Tập 134, Số 2A, 2025 31 (Logistic Regression – LR). Phương pháp tiếp cận E–StackPPI đặt trọng tâm vào tổ chức trình tự xử lý đặc trưng, bao gồm chuẩn hóa thông tin, lựa chọn các chiều quan trọng và loại bỏ các thành phần dư thừa, thay vì gia tăng độ sâu của mô hình. 2 Phương pháp đề xuất 2.1 Trích xuất biểu diễn nhúng protein Quy trình xử lý bắt đầu bằng việc chuyển đổi trình tự axit amin thành các biểu diễn số học thông qua mô hình ngôn ngữ protein ESM-2 (phiên bản esm2_t33_650M_UR50D) với 650 triệu tham số. Mô hình này cung cấp không gian chiều ẩn gốc là 𝑑𝑚𝑜𝑑𝑒𝑙 = 1280. Để tối ưu hóa tài nguyên tính toán trong khi vẫn đảm bảo thu nhận đầy đủ các đặc trưng tiến hóa và tín hiệu cấu trúc tiềm ẩn, chúng tôi trích xuất biểu diễn từ lớp ẩn cuối cùng của mô hình. Đối với mỗi protein, quá trình này tạo ra một ma trận biểu diễn 𝐄 ∈ ℝ𝐿×1280, với 𝐿 là độ dài chuỗi. Để tạo đầu vào nhất quán cho các bước xử lý tiếp theo, chúng tôi rút gọn ma trận này thành một véc tơ toàn cục bằng cách lấy trung bình theo chiều dài chuỗi (Global Average Pooling). Nếu ký hiệu 𝐞𝑖 là biểu diễn nhúng của axit amin tại vị trí thứ 𝑖, véc tơ trung bình 𝐞 ∈ ℝ1280 được xác định bởi công thức 1: 𝐞 = 1 𝐿 ∑𝐿 𝑖=1 𝐞𝑖 (1) Thao tác này cô đọng toàn bộ thông tin ngữ nghĩa và ngữ cảnh của protein thành một vector đại diện duy nhất. Khi chuyển sang cặp protein (𝑝, 𝑞), chúng tôi thực hiện ghép nối song song hai véc tơ trung bình (công thức 2), thu được véc tơ Φ(𝑝, 𝑞) ∈ ℝ2560: Φ(𝑝, 𝑞) = [𝐞𝑝 ∥ 𝐞𝑞] (2)

Tại giai đoạn này, mỗi cặp protein được biểu diễn bởi 2560 chiều đặc trưng. Đây chính là lớp dữ liệu đầu vào cho quy trình chọn lọc đặc trưng đa giai đoạn. 2.2 Cơ chế chọn lọc đặc trưng đa giai đoạn (Tripartite Feature Selection) Để giải quyết lời nguyền số chiều và loại bỏ các thành phần nhiễu trong không gian nhúng cao chiều, E–StackPPI thực hiện quy trình chọn lọc qua ba giai đoạn nghiêm ngặt: Giai đoạn 1: Lọc phương sai (Variance Thresholding). Chúng tôi loại bỏ các chiều đặc trưng có biến thiên cực thấp trên tập huấn luyện với ngưỡng 𝜏𝑣 = 0.002. Bước này giúp loại bỏ các đặc trưng gần như hằng số, vốn không mang giá trị phân biệt trong việc xác định tương tác. Tuy nhiên, thao tác này được thực hiện trước bất kỳ quá trình chuẩn hóa nào, đặc biệt là đối với các đặc trưng nhúng, nhằm loại bỏ triệt để các đặc trưng gần như hằng số, vốn không mang giá