MỘT CẢI TIẾN CỦA PHOBERT NHẰM TĂNG KHẢ NĂNG HIỂU TIẾNG VIỆT CỦA CHATBOT THÔNG TIN KHÁCH SẠN

Tạp chí Khoa học Đại học Huế: Kỹ thuật và Công nghệ; pISSN 2588-1175 | eISSN 2615-9732 Tập 131, Số 2A, 2022, Tr. 5–20; DOI: 10.26459/hueunijtt.v131i2A.6978 * Liên hệ: ngovanson@hueuni.edu.vn Nhận bài: 27–10–2022; Ngày nhận đăng: 08–11–2022 MỘT CẢI TIẾN CỦA PHOBERT NHẰM TĂNG KHẢ NĂNG HIỂU TIẾNG VIỆT CỦA CHATBOT THÔNG TIN KHÁCH SẠN Ngô Văn Sơn1*, Nguyễn Thị Minh Nghĩa1, Hoàng Thị Huế1, Nguyễn Hữu Liêm2, Võ Viết Minh Nhật3 1 Trường Du lịch – Đại học Huế, Việt Nam 2 Chi nhánh Gia Lai - Tập đoàn Bưu chính Viễn thông Việt Nam, Việt Nam 3 Ban Đào tạo và Công tác Sinh viên – Đại học Huế, Việt Nam Tóm tắt: Chatbot hỗ trợ thông tin du lịch bằng tiếng Việt đang thu hút nhiều sự quan tâm của giới nghiên cứu và cả kinh doanh. Các chatbot truyền thống thường được xây dựng dựa trên cơ sở các quy tắc, kiến thức hay trạng thái hữu hạn nên thường kém hiệu quả. Gần đây, nhờ những bước tiến lớn của học máy trong xử lý ngôn ngữ tự nhiên, chatbot đã đạt được những bước tiến đáng kể trong phân loại ý định, trích xuất thực thể và phân tích tình cảm. Bài báo này đề xuất một cải tiến của mô hình tiền huấn luyện nhằm xây dựng một chatbot thông tin khách sạn bằng tiếng Việt. Với đề xuất điều chỉnh các mô hình tiền huấn luyện nhằm đánh giá xem mô hình nào hoạt động tốt nhất, kết quả mô phỏng cho thấy rằng đề xuất của chúng tôi đã mang lại hiệu quả đáng kể với Accuracy 96,4%, F1-score 96,9% và Precision 97,4%. Từ khóa: chatbot, xử lý ngôn ngữ tự nhiên, học máy, mô hình tiền huấn luyện, độ đo An improvement of PhoBERT to increase the Vietnamese understanding of the hotel information chatbot

Ngo Van Son1*, Nguyen Thi Minh Nghia1, Hoang Thi Hue1, Nguyen Huu Liem2, Vo Viet Minh Nhat3 1 School of Hospitality & Tourism – Hue University, Vietnam 2 Vietnam Posts and Telecommunications Group – Gia Lai Branch, Vietnam 3 Department of Academic and Students' Affairs – Hue University, Vietnam Abstract. Chatbots supporting tourism information in Vietnamese are attracting a lot of attention from researchers and businesses alike. Traditional chatbots are often built on the basis of finite rules, knowledge, or states, so they are often ineffective. Recently, thanks to the implementations of machine learning in natural language processing, chatbots have made significant strides in intent classification, entity extraction, and sentiment analysis. This paper proposes an improvement of the pre-training model to build a hotel information chatbot in