Bài viết
Nhận dạng thực thể được đặt tên trong văn bản Tiếng Việt sử dụng học máy và ứng dụng trong đảm bảo an ninh mạng
- Nguyễn Ngọc Toàn · People's Security Academy (VN)
- Lê Xuân Tuấn (VN)
- Lương Thế Dũng (VN)
- Trần Nghi Phú (VN)
Tóm tắt
Tóm tắt— Nhận dạng thực thể được đặt tên (hoặc “được gán nhãn”: Named Entity Recognization - NER) trong văn bản Tiếng Việt hiện đang là một bài toán có nhiều thách thức do không có nhiều tập dữ liệu chuẩn hoặc có nhưng chưa đủ lớn và các mô hình nhận dạng thường được xây dựng chủ yếu dựa trên phương pháp học sâu. Trong bài báo này, nhóm tác giả trình bày một cách tiếp cận có hệ thống trong việc xây dựng mô hình nhận dạng thực thể của các văn bản Tiếng Việt, từ bước thu thập, xây dựng tập dữ liệu cho đến áp dụng, tinh chỉnh các mô hình học máy. Đặc biệt, nhóm tác giả cũng đề xuất các kịch bản ứng dụng và chứng minh khả năng áp dụng mô hình nhận dạng thực thể được đặt tên hiệu quả trong giải quyết các bài toán đảm bảo an ninh, an toàn thông tin mạng. Cụ thể, nhóm tác giả xây dựng tập dữ liệu gồm hơn 5000 văn bản thu thập từ các mạng xã hội sử dụng Tiếng Việt, đặt tên và gán 1 trong 4 nhãn định trước cho các thực thể; sau đó, áp dụng mô hình huấn luyện trước XLM-RoBERTa với các tham số ban đầu được tinh chỉnh phù hợp để nhận dạng các thực thể này. Kết quả thử nghiệm cho thấy hệ thống là hiệu quả với khả năng nhận dạng thực thể của mô hình và đạt độ đo F1- measure lên đến 95.6%, trội hơn so với một số hệ thống NER cho văn bản Tiếng Việt trên cùng tập dữ liệu mà nhóm tác giả đã xây dựng. Mô hình đề xuất cũng đã được ứng dụng trong xây dựng các hệ thống hỗ trợ đảm bảo an ninh mạng hiện nay.
Lượt tải theo tháng
Di chuột vào cột để xem số lượt tải.
Cách trích dẫn
Nguyễn Ngọc Toàn, Lê Xuân Tuấn, Lương Thế Dũng, Trần Nghi Phú (2023). Nhận dạng thực thể được đặt tên trong văn bản Tiếng Việt sử dụng học máy và ứng dụng trong đảm bảo an ninh mạng. Tạp chí Khoa học và Công nghệ trong lĩnh vực An toàn thông tin, 2(16), 39-49. https://doi.org/10.54654/isj.v1i16.824
Tài liệu tham khảo
- 1.. G.I.Parisi, J.Tani, C.Weber and S.Wermter, “Lifelong learning of human actions with deep neural network self-organization”, Neural Networks 96, pp.137-149, 2017. https://doi.org/10.1016/j.neunet.2017.09.001.
- 2.. T.H. Pham and P. Le-Hong, “End-to-end Recurrent Neural Network Models for Vietnamese Named Entity Recognition: Word-level vs. Characterlevel”, 2017, arXiv preprint arXiv:1705.04044.
- 3.. L.Shu, H.Xu and B.Liu, “Doc: Deep open classification of text documents”, 2017, arXiv preprint arXiv:1709.08716.
- 4.. A.A.Rusu, N.C. Rabinowitz, G.Desjardins, H.Soyer, J.Kirkpatrick, K. Kavukcuoglu, and R.Hadsell, “Progressive neural networks”, 2016, arXiv preprint arXiv:1606.0467.
- 5.. N.Patil, A.S.Patil and B.Pawar, “Survey of named entity recognition systems with respect to Indian and foreign languages”. Int. J. Comput. Appl. 134, pp.21–26, 2016.doi=10.1.1.736.1297
- 6.. D. Wu, Y.Zhang, S.Zhao, T.Liu, “Identification of web query intent based on query text and web knowledge”, In Proceedings of the 2010 First International Conference on Pervasive Computing, Signal Processing and Applications, Harbin, China, 17–19; pp. 128–131, 2010. doi: 10.1109/PCSPA.2010.40.
- 7.. VLSP 2016, [Online] https://vlsp.org.vn/vlsp2016.
- 8.. VLSP 2021, [Online] https://vlsp.org.vn/vlsp2021.
- 9.. D. Bikel, S. Miller, R. Schwartz, R. Weischedel, “A High- Performance Learning Name-finder”, Proceedings of the Fifth Conference on Applied Natural Language Processing, pp. 194–201, 1998. arXiv preprint cmp-lg/9803003.
- 10.. A. Borthwick, J. Sterling, E. Agichtein, R,. Grishman, “Exploiting Diverse Knowledge Sources via Maximum Entropy in Named Entity Recognition”, Proceedings of the Sixth Workshop on Very Large Corpora, Montreal, Canada , 1998. https://aclanthology.org/W98-1118.pdf
- 11.. Y. Wu, T. Fan, Y. Lee, S. Yen, “Extracting Named Entities Using Support Vector Machines”, Bremer, E.G., Hakenberg, J., Han, E.-H(S.), Berrar, D., Dubitzky, W. (eds.) KDLL 2006. LNCS (LNBI), vol. 3886, pp. 91–103, 2006. https://doi.org/10.1007/11683568_8
- 12.. A. Mansouri, L. Affendey, A. Mamat, “Named Entity Recognition Using a New Fuzzy Support Vector Machine”, Proceedings of the International Journal of Computer Science and Network Security, IJCSNS 8(2), pp.320–325, 2008. https://www.researchgate.net/profile/Lilly-Affendey/publication/251928363_Named_Entity_Recognition_Using_a_New_Fuzzy_Support_Vector_Machine/links/544854050cf22b3c14e30cc5/Named-Entity-Recognition-Using-a-New-Fuzzy-Support-Vector-Machine.pdf
- 13.. T.C. Nguyen, O.T. Tran, H.X. Phan, T.Q. Ha, “Named Entity Recognition in Vietnamese Free-Text and Web Documents Using Conditional Random Fields”, Proceedings of the Eighth Conference on Some Selection Problems of Information Technology and Telecommunication, Hai Phong, Viet Nam, 2005.doi=10.1.1.300.3597
- 14.. Pham, T., Kawazoe, A., Dinh, D., Collier, N.: Construction of Vietnamese Corpora for Named Entity Recognition. In: Conference RIAO 2007, Pittsburgh PA, U.S.A, May 30-June 1, 2007. doi=10.1.1.106.7855
- 15.. Q.Tri Tran, et al. "Named entity recognition in Vietnamese documents." Progress in Informatics Journal 5, pp. 14-17, 2007.
- 16.. GermEval 2014 NER: [Online] https://sites.google.com/site/germeval2014ner/.
Bài viết liên quan
- An efficient secure sum of multi-scalar products protocol base on elliptic curve
- Static Feature Selection for IoT Malware Detection
- Privacy-Preserving Decision Tree Solution in the 2-Part Fully Distributed Setting
- Privacy-Preserving Decision Tree Solution in the 2-Part Fully Distributed Setting
- A novel secure deep ensemble learning protocol based on Conjugacy search problem homomorphic encryption scheme
- An Efficient Solution for Privacy-preserving Naïve Bayes Classification in Fully Distributed Data Model