0
Bảng 3.2 Các thông số của mô hình
B. Hàm loss
Để đánh giá lỗi giữa output của mạng và giá trị ground truth của tập dữ liệu, chúng tôi chọn hàm loss là hàm category cross entropy
𝑚
𝐿(𝑦, 𝑦̂) = − ∑(𝑦(𝑖) log(𝑦̂(𝑖)) + (1 − 𝑦(𝑖)) log(1 − 𝑦̂(𝑖)))
𝑖=1
Trong đó, 𝑦(𝑖) là ground truth label của điểm dữ liệu 𝑥(𝑖), 𝑦̂(𝑖) là giá trị dự đoán
C. Phương pháp huấn luyện
Để training các tham số, chúng tôi dùng thuật toán Adaptive Moment Estimation (Adam) để tối ưu hóa hàm Loss.
CHƯƠNG 4. KẾT LUẬN VÀ HƯỚNG PHÁT TRIỂN
4.1 Thực nghiệm và kết quả
A. Môi trường:
Hệ thống phát triển trên môi trường Python 3.5
Framework: Dùng Framework Tensorflow để phát triển Convolutional Neural Network
Cấu hình máy dùng để huấn luyện mô hình:
o RAM: 16 GB
o Card đồ họa: Một card đồ họa NVIDIA GTX 1070, 8GB
o Ổ cứng: SSD 250 GB
B. Thực nghiệm
Tỷ lệ dữ liệu dùng training và testing: 75% training (28736 ảnh), 25% testing (9673 ảnh)
Các hyper parameters:
o Kích thước một batch: 100 ảnh
o Khởi tạo các trọng số: Các trọng được khởi tạo ngẫu nhiên theo phương pháp Xavier
o Hệ số học có giá trị: 0.001
Quá trình giảm lỗi trong quá trình huấn luyện
Hình 4.1 Độ lỗi của mô hình trong quá trình huấn luyện dựa trên tensorboard
Mô hình có độ lỗi giảm khá nhanh, chỉ trong vòng 300 lần lặp, mức độ lỗi đã giảm từ 4 xuống gần bằng 0. Điều này phản ánh mức độ hội tụ của mô hình khá nhanh.
Hình 4.2 Độ chính xác của mô hình trong quá trình huấn luyện dựa trên tensorboard
Mô hình có độ chính xác tăng khá tốt, chỉ trong vòng 300 lần lặp, mức độ chính xác của mô hình đã tăng từ gần 0% lên hơn 90%. Điều này phản ánh khả năng học của mô hình khá nhanh.
C. Kết quả thực nghiệm:
Số tầng fully connected | Độ chính xác | |
4 | 2 | 92.12% |
3 | 95.23% | |
4 | 94.52% | |
5 | 2 | 95.17% |
3 | 97.47% | |
4 | 94.30% | |
6 | 2 | 94.27% |
3 | 95.19% | |
4 | 94.72% |
Có thể bạn quan tâm!
-
Mô Hình Mạng Perceptron Đa Tầng -
Một Số Kiến Trúc Convolutional Neural Network Thông Dụng -
Ứng dụng học sâu trong phân loại trái cây - 7 -
Ứng dụng học sâu trong phân loại trái cây - 9
Xem toàn bộ 76 trang tài liệu này.
Qua thực nghiệm các mô hình với các thông số khác nhau, mô hình có kết quả tốt là có 5 tầng convolutional và 3 tầng fully connected với độ chính xác 97.47%
D. Giao diện chính của chương trình
1
3
4
5
2
10
9
6
7
8
Hình 4.3 Giao diện chính của ứng dụng
Các thành phần của giao diện được cho trong bảng sau
Chức năng | |
1 | Thư mục chứa dữ liệu huấn luyện |
2 | Thư mục chứa dữ liệu kiểm tra |
3 | Chọn thư mục chứa dữ liệu huấn luyện |
4 | Chọn thư mục chứa dữ liệu kiểm tra |
Huấn luyện mô hình | |
6 | Kiểm tra mô hình trên tập dữ liệu kiểm tra |
7 | Chọn một ảnh để kiểm tra |
8 | Cửa sổ hiện kết quả |
9 | Xóa thông tin của sở hiện kết quả |
10 | Đóng chương trình |
5
Bảng 4.1 Các chức năng của ứng dụng
Quá trình huấn luyện
Hình 4.4 Huấn luyện mô hình