BỘ CÂN BẰNG TÍN HIỆU DỰA TRÊN MẠNG NƠ-RON TÍCH CHẬP MỘT CHIỀU CHO HỆ THỐNG THÔNG TIN QUANG CỰ LY NGẮN TỐC ĐỘ 100 Gb/s

đầu vào. Kết quả mô phỏng cho thấy, bộ cân bằng 1D-CNN có thể tăng độ nhạy máy thu gần 2.5 dB so với bộ cân bằng truyền thống FFE và xấp xỉ 1 dB khi so với bộ cân bằng sử dụng ANN tại cùng mức BER. Bên cạnh đó, ảnh hưởng của độ sâu và số lượng đặc trưng của mô hình cũng được chúng tôi khảo sát, nhằm xác định cấu hình tối ưu hơn, hỗ trợ định hướng triển khai thực tế. Từ khóa: Thông tin quang cự ly ngắn, Điều chế PAM-4, Kỹ thuật cân bằng, Bộ cân bằng FFE, Mạng nơ-ron tích chập, Kiến trúc nhẹ A one-dimensional convolutional neural network-based equalizer for 100 Gb/s short-reach optical communication systems Vuong Quang Phuoc1,2*, Nguyen Van Tho3, Ho Duc Tam Linh1, Dang Thanh Chuong1, Nguyen Phu Hao1, Ho Thanh Thien4, Nguyen Tan Hung5 1 University of Science, Hue University, Hue, Vietnam 2 University of Technology, Da Nang University, Danang, Vietnam 3 Vietnam-UK Research and Training Institute, Da Nang University, Danang, Vietnam 4 Center for National Defense and Security Education, Hue University, Hue, Vietnam

Vương Quang Phước và CS. Tập 134, Số 2A, 2025 128 5 Institute of Advanced Science and Technology, Da Nang University, Danang, Vietnam Abstract. Short-reach optical communication systems that use intensity modulation and direct detection (IM/DD) with PAM-4 signaling are considered as a desirable option due to its simple architecture and lower cost. However, bandwidth limitations, chromatic dispersion and device nonlinearities cause serious signal distortions, which degrade overall system performance. In this paper, we present a one-dimensional convolutional neural network (1D- CNN)-based equalizer to address the challenges of traditional feed-forward equalizers (FFE), which are fundamentally limited to linear impairment compensation. The proposed equalizer is designed with a lightweight CNN architecture that maintains structural simplicity while effectively exploiting temporal features from the received symbol sequences. Simulation results demonstrate that the 1D-CNN equalizer can improve receiver sensitivity by nearly 2.5 dB compared to the conventional FFE and by around 1 dB compared to the artificial neural network (ANN)-based equalizer, at the same BER level. Furthermore, we investigate the impact of network depth and feature map size on equalization performance, providing practical insights for real-world deployment. Keywords: Short-reach optical communications, PAM-4 modulation, Equalization techniques, FFE equalizer, Convolutional neural networks, Lightweight architecture 1 Giới thiệu

Trong một thập kỷ vừa qua, chúng ta đã chứng kiến sự phát triển mạnh mẽ của cuộc cách mạng thông tin, đặc biệt là các ứng dụng yêu cầu băng thông lớn như: điện toán đám mây, trí tuệ nhân tạo, mạng di động 5G/6G và Internet vạn vật (IoT). Nhu cầu về tốc độ cao, độ trễ thấp từ các dịch vụ này đã tạo ra áp lực đáng kể lên hạ tầng mạng truyền dẫn hiện tại. Trong đó, phần lớn lưu lượng dữ liệu xuất phát từ các hệ thống điển hình như mạng kết nối trung tâm dữ liệu hay mạng fronthaul. Theo sự dịch chuyển về nhu cầu lưu lượng đó, hệ thống thông tin quang cự ly ngắn đã thu hút được sự quan tâm trở lại thay vì các hệ thống truyền đường dài hoặc các tuyến xuyên biển như giai đoạn trước. Trong các hệ thống cự ly ngắn này, kỹ thuật điều chế cường độ và tách sóng trực tiếp (IM/DD) kết hợp với định dạng tín hiệu PAM-4 [1, 2] được xem là lựa chọn phổ biến hơn do có khả năng truyền dẫn tốc độ cao nhưng vẫn đảm bảo đơn giản về mặt phần cứng, chi phí triển khai và khả năng tích hợp trên thiết bị quang thụ động [3, 4] khi so sánh với hệ thống sử dụng thu coherent. Tuy nhiên, khi truyền dẫn ở tốc độ cao các thiết bị thu/phát và đường truyền thường đạt giới hạn và làm suy giảm chất lượng tín hiệu nghiêm trọng, đặc biệt khi tốc độ truyền dẫn đạt đến 100 Gb/s [5]. Như đã được trình bày trong [4], bên cạnh các méo tuyến tính do giới hạn băng thông của thiết bị thu/phát chi phí thấp và tán sắc trên kênh truyền, hệ thống IM/DD PAM-4 còn chịu tác động từ nhiều dạng méo phi tuyến khác nhau. Cụ thể, hiện tượng suy giảm công suất (power fading), phát sinh do sự tương tác giữa tán sắc (CD) và quá

trình tách sóng trực tiếp (DD) tại bộ thu, làm biến dạng phổ tín hiệu và giảm khoảng cách truyền dẫn. Ngoài ra, đặc tính phi tuyến của bộ điều chế Mach-Zehnder (MZM), chất lượng của thiết bị

jos.hueuni.edu.vn Tập 134, Số 2A, 2025 129 thu phát giá rẻ có thể gây ra nhiễu và sai lệch mức biên độ tín hiệu, khiến tín hiệu nhận được bị dịch khỏi các mức PAM-4 chuẩn. Vì vậy việc nhận dạng đúng mức tín hiệu ở phía thu trở nên khó hơn, làm tăng tỷ lệ lỗi bit (BER) và giảm hiệu suất hệ thống đi đáng kể, đặc biệt trong điều kiện công suất nhận thấp [6]. Để cải thiện chất lượng tín hiệu thu, các hệ thống thương mại hoá truyền thống thường sử dụng các bộ cân bằng tuyến tính như FFE (Feed-Forward Equalizer) nhằm bù méo tín hiệu bằng cách đảo ngược một số tác động xấu lên tín hiệu truyền dẫn. Tuy nhiên, về bản chất FFE là bộ lọc tuyến tính FIR, do đó nó chỉ xử lý được thành phần méo tuyến tính. Vì vậy, méo phi tuyến vẫn còn tồn tại và đây chính là thách thức lớn trong các hệ thống PAM-4 tốc độ cao. Gây ra giới hạn về hiệu năng của hệ thống, đặc biệt khi hệ thống hoạt động ở tốc độ truyền 100 Gb/s với độ tin cậy cao. Theo đó, các phương pháp dựa trên học sâu, nổi bật là CNN, đã được đề xuất giúp thay thế cho các kỹ thuật DSP truyền thống. Cụ thể, công trình [7] đã cho thấy CNN có khả năng bù được cả méo tuyến tính và phi tuyến trong hệ thống quang cự ly ngắn ở tốc độ truyền 64 Gb/s, cho thấy khả năng vượt trội hơn so với FFE. Tuy nhiên, nghiên cứu này chưa mở rộng lên tốc độ 100 Gb/s và chưa phân tích hiệu năng trong nhiều điều kiện nhiễu khác nhau. Trong khi đó, [8] đã ứng dụng triển khai mạng nơ-ron sâu cho hệ thống coherent DP-16QAM, cho thấy kỹ thuật học sâu có thể vượt trội hơn các giải pháp cổ điển trước đây trong bù méo phi tuyến. Nhưng hệ

thống coherent vốn khác biệt về cấu trúc và yêu cầu ký thuật phức tạp hơn so với hệ thống IM/DD do đó chưa thật sự phù hợp với đặc thù của hệ thống cự ly ngắn khi triển khai thực tế. Bên cạnh đó, bài khảo sát tổng quát [9] đã cho thấy được xu hướng tiềm năng của học máy trong việc nâng cao chất lượng truyền dẫn nhờ khả năng thích ứng với nhiều dạng méo tín hiệu khác nhau, song nghiên cứu mới dừng ở mức phân tích tổng quát, chưa đề xuất cấu hình cụ thể cho hệ thống IM/DD PAM-4. Trên nền tảng lý thuyết được trình bày ở [10, 11], CNN nổi bật so với mạng nơ- ron nhân tạo (ANN) nhờ khả năng trích xuất đặc trưng cục bộ thông qua phép tích chập và cơ chế chia sẻ trọng số, đồng thời giảm số lượng tham số huấn luyện đáng kể. Những ưu điểm này giúp cấu trúc bộ cân bằng gọn nhẹ, phù hợp với yêu cầu xử lý tốc độ cao và giới hạn phần cứng trong hệ thống IM/DD. Trên cơ sở đó, nghiên cứu này tập trung vào việc ứng dụng mạng CNN 1 chiều với kiến trúc nhẹ (lightweight 1D-CNN) để phát triển bộ cân bằng, vừa đảm bảo khả năng bù méo tuyến tính và phi tuyến, vừa đáp ứng yêu cầu xử lý tốc độ cao và giới hạn phần cứng trong hệ thống IM/DD PAM-4 100 Gb/s. Phần còn lại có bố cục như sau: Mục 2 trình bày tổng quan mô hình hệ thống truyền dẫn và mô tả kiến trúc bộ cân bằng sử dụng CNN. Mục 3 trình bày kết quả mô phỏng, phân tích và đánh giá hiệu năng mô hình trong các điều kiện khác nhau. Cuối cùng, kết luận và định hướng phát triển được trình bày ở Mục 4.

Vương Quang Phước và CS. Tập 134, Số 2A, 2025 130 2 Mô hình hệ thống và đề xuất cấu trúc cân bằng dựa trên CNN 2.1 Mô hình hệ thống IM/DD Hệ thống được khảo sát là tuyến truyền quang cự ly ngắn sử dụng kỹ thuật IM/DD kết hợp định dạng điều chế PAM-4 với tốc độ truyền dẫn 50 Gbaud (100 Gb/s), hoạt động tại bước sóng λ = 1.55 μm thuộc băng C. Kiến trúc này được lựa chọn để mô phỏng hệ thống truyền dẫn tốc độ cao cho các tuyến cự ly ngắn với thiết bị phần cứng giá rẻ. Hệ thống cũng mô phỏng các suy giảm trên đường truyền và thiết bị thường gặp trong triển khai thực tế như tán sắc, phi tuyến tại bộ thu phát, nhiễu pha từ laser hay nhiễu trắng trên đường truyền được điều chỉnh qua tham số SNR. Hình 1. Sơ đồ khối minh hoạ mô hình của một hệ thống IM/DD sử dụng định dạng điều chế PAM-4. Hình 1 mô tả về sơ đồ của hệ thống IM/DD sử dụng PAM-4, với các tham số thiết lập được trình bày cụ thể trong Bảng 1. Bảng 1. Thông số hệ thống thông tin quang cự ly ngắn sử dụng điều chế PAM-4 Thành phần Tham số / Giá trị Bước sóng hoạt động λ = 1.55 μm (băng C) Tốc độ tín hiệu 50 Gbaud (tương ứng 100 Gb/s với PAM-4) Chuỗi bit đầu vào 219 bit nhị phân ngẫu nhiên Định dạng xung Raised Cosine (với hệ số cuộn 𝛽 = 0.1) Sợi quang Đơn mode - SMF (Single-Mode Fiber) Tán sắc sợi quang 𝐷 = 17.6 𝑝𝑠/𝑛𝑚/𝑘𝑚 Bộ thu quang PIN Photodiode Hệ số chuyển đổi quang/điện 𝑅 = 0.7 𝐴/𝑊 Băng thông 3-dB (Bộ thu/phát) 25 GHz Bộ cân bằng tuyến tính FFE (bộ lọc FIR với chiều dài 15 tap [2]) Đầu tiên, dữ liệu đầu vào được khởi tạo dưới dạng một chuỗi bit nhị phân ngẫu nhiên. Dữ

liệu này kế đến được ánh xạ thành các ký tự PAM-4 (2 bit/ký tự sử dụng mã Gray) với bốn mức tín hiệu {−3, −1, +1, +3}. Sau quá trình ánh xạ, các ký tự PAM-4 này được lấy mẫu với 8 mẫu/ký tự và định dạng xung bằng bộ lọc RC (Raised Cosine) giúp tối ưu phổ và giảm thiểu nhiễu liên

jos.hueuni.edu.vn Tập 134, Số 2A, 2025 131 ký tự ISI. Tín hiệu số sau đó được chuyển sang miền tương tự thông qua bộ DAC, kế đến sau khi qua mạch lái tín hiệu được điều chế lên sóng mang quang bằng bộ điều chế Mach-Zehnder (MZM). Tín hiệu quang này được ghép và truyền qua sợi quang đơn mode (SMF). Tại phía thu, tín hiệu chuyển từ miền quang sang miền điện bằng photodiode PIN. Sau đó, tín hiệu điện đi qua bộ khuếch đại bằng TIA và chuyển đổi sang tín hiệu số bởi bộ chuyển đổi ADC. Tiếp tục, tín hiệu được lấy mẫu lại với tốc độ 1 mẫu/ký tự, chuẩn bị cho quá trình cân bằng tín hiệu. Chuỗi tín hiệu số đầu ra được xử lý bởi bộ cân bằng ghép lai bao gồm: bộ cân bằng tuyến tính FFE nhằm xử lý các yếu tố méo tuyến tính và một mạng nơ-ron tích chập một chiều (1D-CNN [12]) để hạn chế các thành phần méo phi tuyến và các yếu tố gây biến dạng khác còn sót lại của hệ thống. Tín hiệu sau cân bằng được chuyển lại về chuỗi bit dữ liệu thông qua bộ ánh xạ, BER cũng được tính toán tại đây và được sử dụng như là một tham số giúp đánh giá về chất lượng của hệ thống. 2.2 Đề xuất bộ cân bằng ứng dụng mạng nơ-ron tích chập 1 chiều Các bộ cân bằng truyền thống như FFE [13], thường sử dụng thuật toán LMS hoặc RLS, đã được ứng dụng để bù méo tín hiệu nhưng chỉ xử lý được thành phần tuyến tính do đặc tính của bộ lọc FIR. Bộ cân bằng phản hồi quyết định (DFE) [13, 14] có thể cải thiện hiện tượng suy giảm công suất bằng cách chèn cực tại các vị trí rãnh tần số, song dễ gặp lỗi lan truyền trong điều kiện nhiễu lớn hoặc khi méo phi tuyến mạnh, khiến việc triển khai thực tế thiếu ổn định. Gần đây,

mạng nơ-ron nhân tạo (ANN) cho thấy tiềm năng nhờ khả năng học quan hệ phi tuyến giữa tín hiệu thu và nhãn đầu ra. Tuy nhiên, do kiến trúc kết nối đầy đủ, ANN đòi hỏi số tham số lớn và thường chỉ triển khai ở dạng học nông. Hơn nữa, ANN không tận dụng được cấu trúc cục bộ của chuỗi PAM-4 và dễ gặp vấn đề lan truyền gradient, dẫn đến hiệu năng còn hạn chế trong hệ thống truyền dẫn quang tốc độ cao [11]. Để khắc phục các nhược điểm của bộ cân bằng truyền thống, cũng như các mô hình học nông như mạng nơ-ron nhân tạo ANN, chúng tôi đề xuất mạng nơ-ron tích chập một chiều (1D- CNN) như một giải pháp cân bằng phù hợp, nhờ khả năng học các đặc trưng cục bộ trong chuỗi ký tự đầu vào với độ phức tạp tính toán thấp so với các mạng tích chập hai chiều (2D-CNN) và ba chiều (3D-CNN) [15]. Về nguyên lý, mạng 1D-CNN sử dụng các bộ lọc hay kernel như các cửa sổ trượt theo chuỗi ký tự liên tiếp ở ngõ vào, cho phép khai thác thông tin về mối quan hệ ngắn hạn giữa các ký tự lân cận trong chuỗi tín hiệu này. Quá trình này hỗ trợ mô hình học được các đặc trưng và mô hình hoá được các hiện tượng méo cục bộ tác động lên tín hiệu mà bộ cân bằng tuyến tính không thể xử lý. Ngoài ra, do sử dụng cơ chế chia sẻ trọng số và gộp (pooling), CNN có thể sử dụng mô hình cấu trúc đơn giản và sử dụng ít tham số hơn trong quá trình học sâu. Tạo điều kiện cho CNN có thể được ứng dụng trong thực tế trên các nền tảng phần cứng tốc độ cao với tài nguyên hạn chế.

Vương Quang Phước và CS. Tập 134, Số 2A, 2025 132 Hình 2. (a) Bộ cân bằng dựa trên mạng CNN nhận dữ liệu từ bộ cân bằng FFE thông qua các bộ trễ; (b) Kiến trúc mô hình cân bằng sử dụng CNN với 2 khối tích cập, mỗi khối tích chập gồm 1 lớp tích chập (Conv 1D) và 1 lớp gộp cực đại (Max Pooling 1D). Dựa trên mục tiêu thiết kế kiến trúc 1D-CNN nhẹ cho cân bằng tín hiệu, Hình 2 (a) mô tả kiến trúc chi tiết của bộ cân bằng được đề xuất. Trong đó đầu vào là chuỗi tín hiệu đã được xử lý một phần bằng bộ cân bằng tuyến tính FFE. Chuỗi các khối trễ 𝑍−1 được sử dụng với mục đích đưa các tín hiệu tại thời điểm hiện tại 𝑥𝑘, cùng với các ký tự lân cận trước đó vào mô hình học sâu. Chuỗi này tạo thành một vector đầu vào có chiều dài 𝑛, gồm 𝑛 ký tự lân cận nhằm giúp cung cấp thông tin theo trình tự thời gian cho mô hình. Và thông qua việc khai thác thông tin giữa các ký tự trong chuỗi dữ liệu liên tiếp này, mô hình được kỳ vọng có thể đưa dự đoán chính xác về mức ký tự PAM-4 tương ứng với ký tự 𝑥𝑘 ở ngõ vào. Nhằm tối ưu hóa quá trình huấn luyện, đầu ra của bài toán phân loại đa lớp được trình bày trong bài báo này đã được xử lý bằng cách xử lý dưới dạng mã hóa one-hot coding, với 4 nhãn tương ứng với 4 mức tín hiệu {−3, −1, +1, +3}. Hàm mất mát được sử dụng là categorical cross-entropy.

jos.hueuni.edu.vn Tập 134, Số 2A, 2025 133 Trong các thiết lập về mô hình, chúng tôi sử dụng cấu trúc tuần tự, đầu tiên là lớp tích chập 1 chiều (Conv1D) với số lượng bộ lọc 𝑁𝐹 thay đổi tuỳ vào các mục đích khảo sát sẽ trượt theo chiều dài 𝑛 chuỗi ký tự vào và tạo ra các bản đồ đặc trưng tương ứng. Ở đây, các lớp tích chập sử dụng hàm kích hoạt ReLU vừa đảm bảo tính đơn giản trong khi vẫn đảm bảo mô hình có thể học các quan hệ phi tuyến của tín hiệu xét. Kỹ thuật Batch Normalization cũng được áp dụng để chuẩn hoá đầu ra lớp trước, giúp ổn định và tăng tốc quá trình huấn luyện. Kế đến là một lớp gộp cực đại 1 chiều (MaxPooling1D), lớp này có vai trò giúp giảm kích thước dữ liệu và khối lượng tính toán cho mô hình nhưng vẫn giữ lại các đặc trưng nổi bật. Cuối cùng, để hạn chế hiện tượng quá khớp (overfitting), một số trọng số sẽ bị loại bỏ ngẫu nhiên bằng cách sử dụng kỹ thuật Drop Out. Sau khi qua lớp làm phẳng, dữ liệu làm phẳng được đưa vào lớp Dense (FC) với số lượng nơ-ron bằng đúng số bộ lọc đã chọn 𝑁𝐹. Sau đó, mô hình thực hiện xác định ký ngõ ra thông qua 4 đầu ra, tương ứng với 4 mức tín hiệu PAM-4, với hàm SoftMax. Bảng 2. Bảng thiết lập cấu trúc và các siêu tham số cho mô hình CNN Thành phần Mô tả Đầu vào Chuỗi 𝑛 ký tự PAM-4, 𝑥𝑘, 𝑥𝑘−1, 𝑥𝑘−2, … , 𝑥𝑘−𝑛−1 Lớp tích chập Conv 1D, kích thước bộ lọc = 2; số lượng bộ lọc 𝑁𝐹 ∈ {8, 16, 32, 64, 128} Chuẩn hoá Batch Normalization Lớp gộp Max Pooling 1D, kích thước = 2 Dropout Tỷ lệ 0.05 Flatten Làm phẳng dữ liệu Dense (FC) 𝑁𝐹 nơ-ron

Output 4 nơ-ron, được mã hóa one-hot: [1 0 0 0], [0 1 0 0], [0 0 1 0], [0 0 0 1], SoftMax Để huấn luyện mô hình cân bằng dựa trên 1D-CNN, chúng tôi xây dựng một cơ sở dữ liệu gồm khoảng 260000 mẫu dữ liệu (từ 218 ký tự PAM-4). Trong đó, mỗi mẫu dữ liệu bao gồm hai phần, ngõ vào với chuỗi 8 ký tự liên tiếp được nhận từ đầu ra của bộ FFE và nhãn của ký tự được mã hóa theo dạng one-hot coding ở ngõ ra như đã trình bày ở trên. Để đảm bảo khách quan trong quá trình đánh giá, cơ sở dữ liệu này được chia thành 2 tập riêng biệt (tránh bị chồng lấn dữ liệu giữa 2 tập), với 75% dữ liệu được dùng cho quá trình huấn luyện và 25% còn lại dành cho kiểm tra. Ngoài ra, dữ liệu đầu vào được chuẩn hoá giúp tất cả các đặc trưng đều có trung bình bằng 0 và độ lệch chuẩn bằng 1 trước khi đưa vào mô hình nhằm tăng độ ổn định của quá trình huấn luyện. Mô hình sử dụng bộ tối ưu Adam với tốc độ học (learning rate) khởi tạo là 10−3 và cứ sau mỗi 10 epoch kể từ epoch 30, tốc độ học được giảm đi 10 lần để giúp mô hình hội tụ nhanh hơn. Batch size được dùng cho quá trình huấn luyện có kích thước là 100.

Vương Quang Phước và CS. Tập 134, Số 2A, 2025 134 3 Kết quả và thảo luận Để làm rõ về vai trò và tác động của bộ cân bằng được đề xuất, chúng tôi đánh giá hiệu năng bộ cân bằng CNN theo nhiều kịch bản khảo sát khác nhau. Cụ thể, mức độ hiệu quả của mô hình được thể hiện thông qua tỷ lệ lỗi bit (BER). Các kết quả BER theo SNR trong bài báo này được thu thập thông qua quá trình mô phỏng thống kê và được xác định bằng cách so sánh trực tiếp chuỗi bit đầu ra sau cân bằng với chuỗi bit gốc tại phía phát trên tập dữ liệu kiểm tra: BER = 𝑁error 𝑁total (1) trong đó 𝑁errorlà số bit lỗi và 𝑁totallà tổng số bit được truyền. Nội dung khảo sát gồm: (1) So sánh bộ cân bằng được đề xuất với hai kỹ thuật phổ biến khác (bộ cân bằng tuyến tính FFE và mô hình học nông dựa trên ANN) để đánh giá mức độ cải thiện chất lượng hệ thống (thông qua tỷ lệ lỗi bit BER). Mục tiêu nhằm kiểm tra khả năng thích nghi và hiệu quả của kiến trúc CNN trong bối cảnh tín hiệu bị suy hao bởi nhiều yếu tố thực tế như giới hạn băng thông, tán sắc và méo phi tuyến; (2) Thực hiện đánh giá tác động của số lượng đặc trưng tương ứng với số bộ lọc (𝑁𝐹 ) sử dụng trong lớp tích chập của mạng CNN để tối ưu khả năng giảm BER của hệ thống cân bằng được đề xuất. Số lượng bộ lọc (𝑁𝐹) trong mỗi lớp tích chập là lũy thừa của 2, với 𝑛 ∈ {3, 4, 5, 6, 7, 8}, tương ứng với các giá trị 𝑁𝐹 = [8, 16, 32, 64, 128, 256]; (3) Đánh giá ảnh hưởng của độ sâu kiến trúc mạng CNN, được xác định bởi số lượng lớp tích chập Conv1D, đến hiệu năng cân bằng BER. Các mô hình này có cấu trúc giống như trong các nghiên

cứu trước đó; tuy nhiên, chúng tôi chỉ sử dụng 2 khối tích chập nối tiếp để tránh mất thông tin quá nhiều khi tăng thêm độ sâu cho mô hình. Kiến trúc này được minh hoạ trong Hình 2b với mỗi lớp tích chập sử dụng 𝑁𝐹 = [8, 16, 32, 64, 128] bộ lọc. Các kết quả chi tiết được trình bày dưới đây. 3.1 Vai trò của bộ cân bằng sử dụng 1D-CNN Về cấu hình, tất cả các mô hình đều sử dụng Feed-Forward Equalizer (FFE) với chiều dài 15 tap như một khối xử lý tuyến tính sơ cấp. Sau FFE, các mô hình học máy nhận dữ liệu vào gồm 8 ký tự. Mô hình ANN sử dụng một lớp ẩn gồm 32 nơ-ron, trong khi mô hình CNN sử dụng một lớp tích chập Conv1D với 32 đặc trưng và cấu trúc như được trình bày trong Hình 2 (a). Kết quả so sánh được đánh giá theo tỷ lệ lỗi bit BER nhận được sau khi hệ thống đạt bão hoà và không còn cải thiện, hệ thống được xét dưới nhiều điều kiện nhiễu SNR thay đổi trong khoảng 20-30 dB. Hình 3 minh họa hiệu suất cải thiện BER trong một số điều kiện nhiễu SNR khác nhau giữa ba phương pháp cân bằng: chỉ sử dụng bộ cân bằng truyền thống FFE, mô hình bộ cân bằng sử dụng ANN và mô hình cân bằng đề xuất sử dụng CNN (1D-CNN). Từ đồ thị, nhận thấy trên toàn dải SNR được xét, bộ cân bằng CNN cho hiệu suất cải thiện chất lượng tín hiệu tốt hơn so

jos.hueuni.edu.vn Tập 134, Số 2A, 2025 135 với các kỹ thuật khác. Cụ thể, tại SNR = 20 dB, mô hình sử dụng CNN đạt BER = 3.44 × 10−3 trong khi BER của FFE là 9.18 × 10−3 và ANN là 5.13 × 10−3. Như vậy, tại SNR = 20 dB thì chỉ có duy nhất CNN đạt được ngưỡng sửa lỗi HD-FEC. Ngoài ra, mô hình cân bằng sử dụng CNN cũng giúp hệ thống tăng độ nhạy đáng kể. Cụ thể, CNN có thể đạt mức ngưỡng HD-FEC ở mức chất lượng tín hiệu SNR = 20 dB, trong khi ANN cần xấp xỉ ngưỡng 21 dB và FFE cần đến gần 22.5 dB. Điều này có nghĩa là tại cùng một mức ngưỡng BER 3.8 × 10−3, bộ cân bằng CNN có thể tăng độ nhạy thu lên đến gần 2.5 dB so với FFE và xấp xỉ 1 dB khi so với mô hình sử dụng ANN. Tại mức BER = 10−3, mô hình CNN giúp hệ thống đạt được độ lợi hơn 1 dB khi so sánh với mô hình sử dụng ANN và lên đến gần 4 dB khi so sánh với bộ cân bằng truyền thống FFE. Đặc biệt, tại BER = 10−4, bộ cân bằng truyền thống FFE không thể đạt được ngưỡng BER này trong khoảng khảo sát, trong khi CNN có thể đạt ngưỡng này tại SNR khoảng 28 dB, thấp hơn gần 1.5 dB so với ANN. Các kết quả trên cho thấy tiềm năng của 1D-CNN trong kỹ thuật cân bằng, nó không chỉ giúp giảm đáng kể BER so với bộ cân bằng sử dụng ANN hay FFE, mà còn có xu hướng cải thiện tín hiệu tốt hơn trong các điều kiện nhiễu ít. Hình 3. Biểu đồ so sánh tỷ lệ lỗi bit giữa bộ cân bằng đề xuất dựa trên CNN với bộ cân bằng chỉ dùng FFE và ANN theo các mức SNR khác nhau 3.2 Ảnh hưởng của số lượng đặc trưng đến BER Hình 4 thể hiện ảnh hưởng của số lượng đặc trưng trong lớp Conv1D đến hiệu suất BER

của bộ cân bằng sử dụng CNN. Từ kết quả có thể nhận rằng, khi số lượng đặc trưng sử dụng cho lớp tích chập tăng lên thì tỷ lệ lỗi BER có xu hướng được cải thiện rõ rệt. Tuy nhiên, trong hầu hết các khảo sát, nếu mô hình quá đơn giản (chỉ có 8 đặc trưng/lớp tích chập) thì tín hiệu sau cân SNR 20 dB 22 dB 24 dB 26 dB 28 dB 30 dB Bộ cân bằng FFE 9.18E-03 4.34E-03 2.14E-03 1.15E-03 7.02E-04 4.92E-04 Bộ cân bằng dùng ANN 5.13E-03 2.37E-03 7.48E-04 3.13E-04 1.83E-04 8.39E-05 Bộ cân bằng dùng CNN 3.44E-03 1.11E-03 4.50E-04 1.91E-04 9.16E-05 2.29E-05

Vương Quang Phước và CS. Tập 134, Số 2A, 2025 136 bằng không thể đạt ngưỡng FEC 3.8 × 10−3, do mô hình CNN không thể học các đặc trưng cần thiết từ dữ liệu. Khi chúng tôi tăng số lượng đặc trưng lên 16, nhận thấy rằng tỷ lệ BER bắt đầu giảm rõ rệt nhưng vẫn chưa thật sự hiệu quả. Từ 32 đặc trưng trở đi, chất lượng của hệ thống được cải thiện đáng kể. Cụ thể, ở cùng mức BER = 10−3, độ nhạy thu có thể đạt đến xấp xỉ 2 dB khi so sánh với trường hợp chỉ sử dụng 16 đặc trưng. Mặt khác, Hình 4 cũng chỉ ra các cấu hình sử dụng 64, 128 và 256 đặc trưng có các đường kết quả BER có dao động ít và gần như trùng nhau, thể hiện xu hướng bão hòa của mô hình học. Hình 4. Biểu đồ so sánh tỷ lệ lỗi bit theo các mức SNR với số lượng đặc trưng khác nhau sử dụng trong mô hình CNN Ngoài ra, khảo sát này cũng phân tích độ chênh lệch giữa độ chính xác huấn luyện và kiểm tra nhằm đánh giá nguy cơ quá khớp (overfitting) trong nhiều điều kiện nhiễu khác nhau. Các khảo sát ở Hình 5 cho thấy, với số lượng đặc trưng còn nhỏ (8–16 đặc trưng), độ chính xác trên tập huấn luyện và kiểm tra đều thấp hơn đáng kể, dẫn đến BER cao. Khi số lượng đặc trưng tăng lên 32–64, độ chính xác huấn luyện và kiểm tra đều cải thiện, đồng thời chênh lệch giữa hai tập giữ ở mức rất nhỏ (~0.1%), cho thấy mô hình đạt trạng thái tổng quát hóa tốt. Tuy nhiên, khi số lượng đặc trưng tiếp tục tăng (128–256), như trong Bảng 3, độ chính xác huấn luyện tiếp tục tăng (từ 99.241% ở 32 đặc trưng lên 99.671% ở 256 đặc trưng) nhưng độ chính xác kiểm tra không còn

cải thiện đáng kể (từ 99.312% ở 32 đặc trưng lên 99.365% ở 256 đặc trưng), dẫn đến hiện tượng bão hòa hiệu năng. Đây chính là dấu hiệu của nguy cơ overfitting, mặc dù độ chênh lệch chính xác này tuy nhỏ, nhưng trong hệ thống quang tốc độ cao, với yêu cầu BER <10⁻³, sai lệch 0.3–0.4% SNR 20 dB 22 dB 24 dB 26 dB 28 dB 30 dB 8 đặc trưng 5.97E-03 8.10E-03 7.13E-03 4.78E-03 2.64E-03 3.11E-03 16 đặc trưng 3.61E-03 2.75E-03 1.09E-03 4.65E-04 5.95E-04 2.44E-04 32 đặc trưng 3.44E-03 1.11E-03 4.50E-04 1.91E-04 9.16E-05 2.29E-05 64 đặc trưng 3.02E-03 1.03E-03 3.51E-04 7.63E-05 5.34E-05 1.53E-05 128 đặc trưng 3.01E-03 9.61E-04 3.97E-04 7.63E-05 6.10E-05 1.53E-05 256 đặc trưng 3.17E-03 8.85E-04 3.97E-04 6.10E-05 8.39E-05 7.63E-06

jos.hueuni.edu.vn Tập 134, Số 2A, 2025 137 có thể dẫn đến BER chênh lệch tới một bậc độ lớn. Điều này cho thấy rằng tăng độ phức tạp mạng có thể không tăng hiệu quả, mà còn làm gia tăng chi phí tính toán và độ trễ triển khai. Bảng 3. Tỷ lệ chính xác trên tập huấn luyện và kiểm tra khi khảo sát tại SNR = 20 dB Số lượng đặc trưng 8 16 32 64 128 256 Độ chính xác – huấn luyện 98.556% 99.089% 99.241% 99.508% 99.678% 99.671% Độ chính xác – kiểm tra 98.807% 99.278% 99.312% 99.396% 99.397% 99.365% BER 5.97E-03 3.61E-03 3.44E-03 3.02E-03 3.01E-03 3.17E-03 SNR = 20 dB SNR = 22 dB SNR = 24 dB SNR = 26 dB SNR = 28 dB SNR = 30 dB Hình 5. Khảo sát hiện tượng quá khớp (overfitting) dưới nhiều điều kiện nhiễu SNR và độ phức tạp mô hình khác nhau. Có thể nhận thấy rằng, mô hình với 32 hoặc 64 đặc trưng cho sự cân bằng về hiệu năng và độ phức tạp tính toán tốt trong nhiều kịch bản với mức nhiễu khác nhau trên hệ thống IM/DD được triển khai. Cũng cần lưu ý, các mô hình quá đơn giản với số lượng đặc trưng dưới 16 thường không đảm bảo hiệu quả cân bằng, đặc biệt trong các điều kiện nhiễu lớn. 3.3 Tác động của số lớp tích chập đến khả năng biểu diễn Độ phức tạp của bộ cân bằng dựa trên 1D-CNN được đánh giá thông qua số lượng tham số huấn luyện (trainable parameters). Với kiến trúc đề xuất, trong đó 𝑁𝐹 là số đặc trưng thì độ phức tạp có thể ước lượng thông qua Bảng 4.

Vương Quang Phước và CS. Tập 134, Số 2A, 2025 138 Bảng 4. Công thức tính toán số lượng tham số huấn luyện 𝑃 của mô hình CNN trong hai trường hợp: (a) chỉ có một khối tích chập và (b) có hai khối tích chập Trường hợp Số tham số huấn luyện a. Mô hình chỉ có một khối tích chập (Hình 2(a)) 𝑃1-conv = 4𝑁𝐹 2 + 10𝑁𝐹 + 4 b. Mô hình với hai khối tích chập (Hình 2(b)) 𝑃2-conv = 4𝑁𝐹 2 + 13𝑁𝐹 + 4 Có một điểm thú vị ở đây, việc bổ sung thêm một lớp tích chập thứ hai chỉ làm tăng số lượng tham số huấn luyện ở mức rất nhỏ (khoảng 1–3% so với mô hình một lớp – Hình 6), nhờ sự kết hợp của các lớp MaxPooling (kích thước 2) sau mỗi khối tích chập giúp giảm dần kích thước dữ liệu đầu vào (từ 8 xuống 4 rồi 2). Nhờ đó, số tham số tại lớp kết nối hoàn toàn (FC) được hạn chế, khiến độ phức tạp của hai mô hình gần như tương đồng trong khi kiến trúc 2 lớp CNN vẫn mang lại cải thiện đáng kể về hiệu năng cân bằng. Điều này cho thấy cấu trúc 2 lớp CNN vừa đáp ứng định hướng gọn nhẹ vừa phù hợp với hệ thống IM/DD tốc độ cao có giới hạn phần cứng. Hình 6 biểu diễn mức độ cải thiện BER của các mô hình được khảo sát của các tại mức SNR = 26 dB. Kết quả cho thấy khi số lượng đặc trưng nhỏ (8 đặc trưng/lớp tích chập), mô hình sử dụng 2 lớp vẫn chưa khắc phục được nhược điểm của mô hình 1 lớp do chưa đạt ngưỡng HD- FEC. Tuy nhiên, tỉ lệ BER giảm mạnh với 16 đặc trưng/lớp tích chập, đặc biệt tại mức 32 đặc trưng/lớp tích chập, mô hình hai lớp cho kết quả tốt hơn rõ rệt so với mô hình một lớp. Điều này cho thấy mô hình sử dụng hai lớp tích chập có xu hướng khai thác thông tin hiệu quả hơn so với

kiến trúc một lớp trong quá trình học biểu diễn và cân bằng tín hiệu. Tuy nhiên, khi số lượng đặc trưng tăng đến 64 hoặc 128, hiệu năng của mô hình 1 lớp có xu hướng tăng chậm trong khi mô hình 2 lớp vẫn cho thấy xu hướng tiếp tục tăng. Nhưng cần lưu ý, chi phí tính toán tăng mạnh theo số lượng bộ lọc/lớp tích chập, nên nếu xét theo mục tiêu xây dựng mô hình theo định hướng kiến trúc nhẹ, thì cấu hình sử dụng 32 hoặc 64 đặc trưng cho mỗi lớp tích chập có thể xem là lựa chọn tối ưu hơn, đảm bảo sự cân bằng giữa độ tin cậy của quá trình cân bằng tín hiệu và độ phức tạp tính toán, đặc biệt phù hợp cho các hệ thống yêu cầu triển khai thực tế với tài nguyên phần cứng hạn chế.

jos.hueuni.edu.vn Tập 134, Số 2A, 2025 139 Hình 6. Biểu đồ so sánh tỷ lệ lỗi bit ở SNR 26 dB khi thay đổi số lượng lớp 4 Kết luận Bài báo này đã đề xuất và đánh giá một kiến trúc bộ cân bằng dựa trên mạng nơ-ron tích chập (1D-CNN) với kiến trúc nhẹ cho hệ thống truyền dẫn quang cự ly ngắn sử dụng kỹ thuật điều chế cường độ và tách sóng trực tiếp (IM/DD) với định dạng PAM-4. Mô hình cân bằng sử dụng CNN được triển khai bằng cách kết hợp với bộ cân bằng tuyến tính FFE nhằm khai thác ưu điểm của bộ cân bằng truyền thống trong việc bù méo tuyến tính, đồng thời giảm được sự phức tạp cho mô hình mạng CNN. Bộ cân bằng dùng CNN cũng đã thể hiện sự vượt trội trong việc giảm BER, đặc biệt ở các ngưỡng BER như FEC, 10−3 và 10−4. Điều này đã được minh chứng thông qua các khảo sát mô phỏng cụ thể như: so sánh với bộ cân bằng truyền thống (FFE) và mạng nơ-ron nông (ANN); phân tích ảnh hưởng của số lượng đặc trưng hay khảo sát độ sâu kiến trúc. Đồng thời, chúng tôi cũng đề xuất phát triển kiến trúc chỉ sử dụng 1 hoặc 2 lớp Conv1D với 32 hoặc 64 đặc trưng mỗi lớp. Với kiến trúc đơn giản này, mô hình vẫn đạt hiệu suất tối ưu trong khi độ phức tạp không tăng quá lớn, phù hợp với yêu cầu triển khai thực tế trong môi trường phần cứng hạn chế tài nguyên. Tuy nhiên, nghiên cứu này đang dừng lại ở mô phỏng và chưa được kiểm chứng trên nền tảng phần cứng, do đó cần được đánh giá thêm trong các thử nghiệm Số đặc trưng/lớp tích chập NF 8 16 32 64 128 BER_1 lớp tích chập 4.78E-03 4.65E-04 1.91E-04 7.63E-05 7.63E-05 Số tham số_1 lớp tích chập 340 1188 4420 17028 66820

BER_2 lớp tích chập 8.67E-03 6.26E-04 9.16E-05 6.87E-05 4.58E-05 Số tham số_2 lớp tích chập 364 1236 4516 17220 67204

Vương Quang Phước và CS. Tập 134, Số 2A, 2025 140 thực tế để xem xét ảnh hưởng từ phần cứng và các yếu tố không lý tưởng khác. Trong tương lai, nhóm sẽ hướng đến hiện thực hóa mô hình trên FPGA/ASIC để kiểm chứng tính khả thi phần cứng; khảo sát với các kiến trúc RNN/LSTM nhằm tận dụng mối quan hệ chuỗi thời gian trong tín hiệu PAM-4 và nghiên cứu các kiến trúc Transformer nhẹ hoặc hybrid CNN–LSTM nhằm tiếp tục nâng cao hiệu năng cân bằng cho hệ thống IM/DD tốc độ cao. Lời cảm ơn Bài báo này được hỗ trợ từ đề tài Khoa Học và Công Nghệ cấp Đại Học Huế, mã số đề tài DHH2025-01-229. Tài liệu tham khảo 1. Eiselt N, Muench D, Dochhan A, Griesser H, Eiselt M, Olmos JJV, et al. Performance comparison of 112- Gb/s DMT, Nyquist PAM-4, and partial-response PAM-4 for future 5G ethernet-based fronthaul architecture. J Lightw Technol. 2018;36(10):1807–14 2. Nguyen TH, Stainton S, Le ST, Haigh PA, Tien HP, Vien DN, et al. High-speed PAM-4 transmission using directly modulated laser and artificial neural network nonlinear equaliser. Opt Laser Technol. 2023;157:108642. doi:10.1016/j.optlastec.2022.108642 3. Cartledge JC, Karar AS. 100 Gb/s Intensity Modulation and Direct Detection. J Lightw Technol. 2014;32(16):2809–14. doi:10.1109/JLT.2014.2314611 4. Zhou H, Li Y, Liu Y, Yue L, Gao C, Li W, et al. Recent advances in equalization technologies for short- reach optical links based on PAM-4 modulation: a review. Appl Sci. 2019;9(11):2342. doi:10.3390/app9112342 5. Chagnon M. Optical communications for short reach. J Lightw Technol. 2019;37(8):1779–97.

6. Zhong K, Zhou X, Wang Y, Gui T, Yang Y, Yuan J, et al. Recent advances in short reach systems. In: Optical Fiber Communication Conference (OFC); 2017 Mar;. Paper Tu2D.7. doi:10.1364/OFC.2017.Tu2D.7 7. Zhang J, Yan L, Jiang L, Yi A, Pan Y, Pan W, et al. Convolutional neural network equalizer for short- reach optical communication systems. In: Asia Communications and Photonics Conference / International Conference on Information Photonics and Optical Communications (ACP/IPOC); 2020. Optica Publishing Group; 2020. Paper M4A.320 8. Schaedler M, Bluemm C, Kuschnerov M, Pittalà F, Calabrò S, Pachnicke S. Deep neural network equalization for optical short reach communication. Appl Sci. 2019;9(21):4675. doi:10.3390/app9214675 9. Shao C, Giacoumidis E, Billah SM, Li S, Li J, Sahu P, et al. Machine learning in short-reach optical systems: a comprehensive survey. Photonics. 2024;11(7):613. doi:10.3390/photonics11070613 10. Nielsen MA. Neural networks and deep learning.Determination Press; 2019. 11. Goodfellow I, Bengio Y, Courville A. Deep learning. Cambridge (MA): MIT Press; 2016. 12. Cacciari I, Ranfagni A. Hands-on fundamentals of 1D convolutional neural networks—a tutorial for beginner users. Appl Sci. 2024;14(18):8500. doi:10.3390/app14188500

jos.hueuni.edu.vn Tập 134, Số 2A, 2025 141 13. Proakis JG, Manolakis DG. Digital signal processing: Principles, algorithms and applications. 4th ed. London: Pearson Education; 2007. 14. Haykin SS. Adaptive filter theory. 5th ed. Hamilton (ON): Pearson Education; 2005. 15. Brownlee J. Deep learning for time series forecasting. Machine Learning Mastery; 2018.