MỘT CẢI TIẾN CỦA PHOBERT NHẰM TĂNG KHẢ NĂNG HIỂU TIẾNG VIỆT CỦA CHATBOT THÔNG TIN KHÁCH SẠN

Ngô Văn Sơn và CS. Tập 131, Số 2A, 2022 18 Khi so sánh ma trận nhầm lẫn của PhoBERT trong Hình 4 với FastText trong Hình 5, có thể thấy rằng tổng đường chéo trong ma trận nhầm lẫn của FastText thấp hơn tổng đường chéo của PhoBERT. Điều này cho thấy trong FastText xuất hiện nhiều trường hợp phân loại ý định sai, bị nhầm nhiều ý định hơn so với trong PhoBERT. Tương tự, ma trận nhầm lẫn của mô hình BERTcho thấy mô hình dự đoán sai nhiều hơn so với PhoBERT sau cải tiến. Như vậy, so sánh ba mô hình FastText, BERT và PhoBERT cải tiến, chúng tôi thấy rằng PhoBERT hoạt động tốt nhất. Hình 5. Ma trận nhầm lẫn phân loại ý định theo mô hình FastText