Nghiên cứu phát triển một số phương pháp tóm tắt văn bản sử dụng kỹ thuật học sâu

Lời Cam Đoan Tôi Tên Là Lưu Minh Tuấn, Xin Cam Đoan Đây Là Công Trình Nghiên Cứu Của Bản Thân Nghiên Cứu Sinh Trong Thời Gian Học Tập Và Nghiên Cứu Dưới Sự Hướng Dẫn Của Người Hướng Dẫn Khoa Học. Các Kết Quả Nghiên Cứu Trình Bày ...

Bảng 3.13. Giá trị các siêu tham số và thời gian huấn luyện các mô hình xây dựng . 76 Bảng 3.14. Kết quả thử nghiệm của các mô hình xây dựng 77 Bảng 3.15. Một mẫu tóm tắt trên bộ dữ liệu CNN 77 Bảng 3.16. Một mẫu tóm tắt trên bộ ...

Trên phân tích cú pháp văn bản đầu vào để xây dựng một tập gồm tất cả các cây phụ thuộc cú pháp. Trong khi đó, hệ thống dựa trên luật [37] yêu cầu xác định các luật để phát hiện các khái niệm quan trọng trong văn bản đầu ...

Văn bản tóm tắt A total of 47 bodies have been exhumed from two mass graves. Iraqis find mass graves inside presidential palace compound in Tikrit . ISIS claimed to have executed 1,700 Iraqi soldiers captured outside Camp Speicher . Bảng 1.1. Ví dụ minh họa một văn bản tóm tắt ...

1.4. Các phương pháp tóm tắt văn bản hướng trích rút cơ sở 1.4.1. PageRank PageRank [15] là thuật toán được sử dụng trong công cụ tìm kiếm của Google (Google Search). Về bản chất PageRank là phân bố xác suất, được sử dụng để biểu ...

2.1.2. Mạng nơ ron tích chập 2.1.2.1. Giới thiệu mạng nơ ron tích chập Mạng nơ ron tích chập (CNN - Convolutional Neural Network) [81,82,83,84] là một trong những mô hình học sâu phổ biến hiện nay giúp chúng ta xây dựng được những ứng dụng ...

Hình 2.10. Mô hình mạng chuỗi sang chuỗi [92] Trong mô hình seq2seq, bộ mã hóa đọc vào một câu là một chuỗi véc tơ x  ( x 1 , x 2 ,. x T ) . Với mỗi từ x t (với t  1, T ), mạng RNN mã hóa sẽ xử lý trả ra một véc tơ h t mang thông tin về ...

Trong mỗi bước huấn luyện, mô hình Skip-Gram chỉ nhận một từ đầu vào nhưng có nhiều đầu ra cho một từ đầu vào. Các thử nghiệm thực tế cho thấy mô hình Skip-Gram hoạt động tốt hơn đối với những từ ít gặp, còn mô hình CBoW ...

Thông tin (IR - Information Retrieval) để đo lường mức độ tương đồng giữa truy vấn người dùng Q và các câu trong văn bản. MMR được tính theo công thức: MMR  arg max     Sim  D , Q    1    max Sim  D , D     ...

Trained PhoBERT để tạo ra các véc tơ chỉ mục của các token của câu, sau đó các véc tơ chỉ mục này được đưa vào mô hình pre-trained PhoBERT để thu được các véc tơ mã hóa từ của các câu. Cuối cùng, các véc tơ mã hóa từ của mỗi câu ...

3.3.3.2. Tiền xử lý dữ liệu Trước hết, các bộ dữ liệu CNN và Baomoi xử lý tách riêng phần tiêu đề, phần nội dung, phần tóm tắt và đánh số thứ tự cho các câu. Các bộ dữ liệu tiếng Anh (DUC 2001, DUC 2002 và CNN) được xử lý tách ...

(i) Mô hình 1 (BERT-Tiny/mBERT + CNN + seq2seq): Sử dụng mô hình BERT-Tiny (với bộ dữ liệu CNN), mBERT (với bộ dữ liệu Baomoi) kết hợp với mạng CNN và mạng seq2seq để huấn luyện mô hình tính xác suất được chọn của các câu đưa vào bản ...

Sau đây, luận án sẽ trình bày và phân tích mô hình của Nallapati và cộng sự [128], được sử dụng làm mô hình cơ sở để phát triển mô hình tóm tắt đề xuất. Sau đó, sẽ trình bày hai cơ chế sử dụng trong [43] để khắc phục các ...

Bảng 4.3 biểu diễn một mẫu thử nghiệm bao gồm bản tóm tắt tham chiếu, bản tóm tắt của mô hình [43] và bản tóm tắt của mô hình đề xuất PG_Feature_ASDS . Văn bản nguồn của mẫu thử nghiệm này xem Phụ lục C.4 trong phần Phụ lục. ...

Câu đã có trong bản tóm tắt nhỏ nhất), trong đó mỗi câu được chọn thỏa mãn:  v  V ,  1  cosine  s , v    1   2 sim ; với: V là tập các câu đã được chọn vào bản tóm tắt, s là câu đang xem xét đưa vào bản tóm ...

Một bản tóm tắt tham chiếu Kakadu National Park is exposed to a number of serious threats which are placing it under both ascertained and potential danger," the bureau said in a report after it sent a mission to Australia to examine claims by conservation groups that Kakadu (National Park ...

Do số lượng câu của bản tóm tắt tham chiếu của các bộ dữ liệu CNN/Daily Mail và Baomoi nhỏ nên mô hình pre-trained PG_Feature_ASDS thường sinh ra bản tóm tắt có số lượng câu nhỏ nên độ dài của bản tóm tắt ngắn, trong khi các bộ dữ ...

Hình 5.11. Mô hình tóm tắt đơn văn bản hỗn hợp Ext_Abs_ASDS 5.3.3.3. Xây dựng mô hình tóm tắt đa văn bản hướng tóm lược đề xuất Dựa trên mô hình tóm tắt đơn văn bản pre-trained Ext_Abs_ASDS đề xuất, luận án triển khai phát triển các ...

Tóm lược hiện đại khác đã công bố trên cùng các bộ dữ liệu thử nghiệm. Điều đó chứng tỏ mô hình đề xuất đã đạt được kết quả tốt cho tóm tắt đa văn bản hướng tóm lược tiếng Anh và tiếng Việt. 5.4. Kết luận chương 5 ...

[36] Kurisinkel J. L., Zhang Y., and Varma V. (2017). Abstractive multi-document summarization by partial tree extraction, recombination and linearization . In Proceedings of the Eighth International Joint Conference on Natural Language Processing (Vol. 1: Long Papers), pp. 812-821. Asian ...

Conference on International Conference on Machine Learning,Vol. 28, pp. 1310-1318. [135] Duchi J., Hazan E., and Singer Y. (2011). Adaptive subgradient methods for online learning and stochastic optimization . Journal of Machine Learning Research, Vol. 12, pp. 2121-2159. [136] Harshal J. J., Bewoor ...

B.6. Bộ dữ liệu DUC 2007 Biểu đồ phân bố độ dài trung bình văn bản nguồn Biểu đồ phân bố độ dài trung bình văn bản tóm tắt B.7. Bộ dữ liệu Baomoi Biểu đồ phân bố độ dài trung bình văn bản nguồn Biểu đồ phân bố độ dài ...

Would call when she could , briefly , after midnight , hiding under her bedcovers . If she was caught with a phone , she would be killed . The village itself was a massive prison , its entrances guarded by ISIS fighters . She recalls that two men , in their late 40s or 50s , tried to escape . When ...