Sách Deep Learning cơ bản

Recommendations

Info

158 Chương 11. Transfer learning và data augmentationnumOfEpoch = 35opt = SGD(0.001)model.compile(opt, 'categorical_crossentropy', ['accuracy'])H = model.fit_generator(aug_train.flow(X_train, y_train, batch_size=32),steps_per_epoch=len(X_train)//32,validation_data=(aug_test.flow(X_test, y_test, batch_size=32)),validation_steps=len(X_test)//32,epochs=numOfEpoch)Accuracy của fine-tuning tốt hơn so với feature extractor tuy nhiên thời gian train của fine-tuningcũng lâu hơn rất nhiều. Giải thích đơn giản thì feature extractor chỉ lấy ra đặc điểm chung chung từpre-trained model của ImageNet dataset cho các loài hoa, nên không được chính xác lắm. Tuy nhiênở phần fine-tuning ta thêm các layer mới, cũng như train lại 1 số layer ở trong ConvNet của VGG16nên model giờ học được các thuộc tính, đặc điểm của các loài hoa nên độ chính xác tốt hơn.11.1.3 Khi nào nên dùng transfer learningCó 2 yếu tố quan trọng nhất để dùng transfer learning đó là kích thước của dữ liệu bạn có và sựtương đồng của dữ liệu giữa mô hình bạn cần train và pre-trained model.• Dữ liệu bạn có nhỏ và tương tự với dữ liệu ở pre-trained model. Vì dữ liệu nhỏ nên nếu dùngfine-tuning thì model sẽ bị overfitting. Hơn nữa là dữ liệu tương tự nhau nên là ConvNet củapre-trained model cũng lấy ra các đặc điểm ở dữ liệu của chúng ta. Do đó nên dùng featureextractor.• Dữ liệu bạn có lớn và tương tự với dữ liệu ở pre-trained model. Giờ có nhiều dữ liệu ta khôngsợ overfitting do đó nên dùng fine-tuning.• Dữ liệu bạn có nhỏ nhưng khác với dữ liệu ở pre-trained model. Vì dữ liệu nhỏ nên ta lêndùng feature extractor để tránh overfitting. Tuy nhiên do dữ liệu ta có và dữ liệu ở pre-trainedmodel khác nhau, nên không nên dùng feature extractor với toàn bộ ConvNet của pre-trainedmodel mà chỉ dùng các layer đầu. Lý do là vì các layer ở phía trước sẽ học các đặc điểmchung chung hơn (cạnh, góc,...), còn các layer phía sau trong ConvNet sẽ học các đặc điểmcụ thể hơn trong dataset (ví dụ mắt, mũi,..).• Dữ liệu bạn có lớn và khác với dữ liệu ở pre-trained model. Ta có thể train model từ đầu, tuynhiên sẽ tốt hơn nếu ta khởi tạo các giá trị weight của model với giá trị của pre-trained modelvà sau đó train bình thường.Lưu ý• Vì pre-trained model đã được train với kích thước ảnh cố định, nên khi dùng pre-trainedmodel ta cần resize lại ảnh có kích ảnh bằng kích thước mà ConvNet của pre-trained modelyêu cầu.• Hệ số learning rate của ConvNet của pre-trained model nên được đặt với giá trị nhỏ vì nó đãđược học ở pre-trained model nên ít cần cập nhật hơn so với các layer mới thêm.11.2 Data augmentationNgoài transfer learning, có một kĩ thuật nữa giải quyết vấn đề có ít dữ liệu cho việc training model,đó là data augmentation. Augmentation là kĩ thuật tạo ra dữ liệu training từ dữ liệu mà ta đang có.Cùng xem một số kĩ thuật augmentation phổ biến với ảnh nhé.Flip: Lật ngược ảnh theo chiều dọc hoặc chiều ngang
11.2 Data augmentation 159Hình 11.7: lật ngược ảnh theo chiều dọcRotation: Quay ảnh theo nhiều góc khác nhauHình 11.8: Rotate ảnh 30 độScale: Phóng to hoặc thu nhỏ ảnh
Page 2 and 3:
Copyright © 2019 Nguyễn Thanh Tu
Page 4 and 5:
4• Phần cứng phát triển: S
Page 6 and 7:
6Lời cảm ơnTrước hết tôi
Page 9 and 10:
Mục lụcIGiới thiệu1 Cài đ
Page 11 and 12:
IIINeural Network5 Neural network .
Page 13 and 14:
12 Các kỹ thuật cơ bản tron
Page 15:
IGiới thiệu1 Cài đặt môi t
Page 18 and 19:
18 Chương 1. Cài đặt môi tr
Page 20 and 21:
Page 22 and 23:
Page 24 and 25:
Page 26 and 27:
Page 28 and 29:
Page 30 and 31:
30 Chương 2. Python cơ bảnt =
Page 32 and 33:
32 Chương 2. Python cơ bản2.4
Page 34 and 35:
34 Chương 2. Python cơ bản# Ph
Page 37:
IIMachine learning cơ bản3 Linea
Page 40 and 41:
40 Chương 3. Linear regressionHì
Page 42 and 43:
Page 44 and 45:
44 Chương 3. Linear regression3.3
Page 46 and 47:
Page 48 and 49:
48 Chương 3. Linear regressionVí
Page 50 and 51:
50 Chương 3. Linear regressionimp
Page 53 and 54:
4. Logistic regressionBài trước
Page 55 and 56:
4.2 Xác suất 55Hình 4.2: Đư
Page 57 and 58:
4.4 Thiết lập bài toán 57=> p
Page 59 and 60:
4.5 Chain rule 59Hình 4.5: Đồ t
Page 61 and 62:
4.5 Chain rule 61Do đód(2x + 1)2d
Page 63 and 64:
4.5 Chain rule 63Từ đồ thị t
Page 65 and 66:
4.6 Quan hệ giữa phần trăm v
Page 67 and 68:
4.7 Ứng dụng 67Hình 4.9: Đư
Page 69:
IIINeural Network5 Neural network .
Page 72 and 73:
72 Chương 5. Neural network5.1.1
Page 74 and 75:
74 Chương 5. Neural network5.2.2
Page 76 and 77:
76 Chương 5. Neural network5.3 Fe
Page 78 and 79:
78 Chương 5. Neural network5.4 Lo
Page 80 and 81:
80 Chương 5. Neural networkHình
Page 82 and 83:
82 Chương 5. Neural networkRõ r
Page 85 and 86:
6. BackpropagationBài trước đ
Page 87 and 88:
6.1 Bài toán XOR với neural net
Page 89 and 90:
Page 91 and 92:
Page 93 and 94:
6.3 Python code 93Thì ở bài nà
Page 95:
6.4 Bài tập 95# Dự đoándef p
Page 99 and 100:
7. Giới thiệu về xử lý ả
Page 101 and 102:
7.1 Ảnh trong máy tính 101Hình
Page 103 and 104:
7.1 Ảnh trong máy tính 103Hình
Page 105 and 106:
7.1 Ảnh trong máy tính 1057.1.4
Page 107 and 108: 7.2 Phép tính convolution 107x 13
Page 109 and 110: 7.2 Phép tính convolution 109Hìn
Page 111 and 112: 7.3 Bài tập 111Hình 7.16: Một
Page 113 and 114: 8. Convolutional neural networkBài
Page 115 and 116: 8.2 Convolutional neural network 11
Page 123: 8.4 Bài tập 1238.4 Bài tập1.
Page 126 and 127: 126 Chương 9. Giới thiệu kera
Page 135 and 136: 10. Ứng dụng CNN cho ô tô t
Page 137 and 138: 10.1 Giới thiệu mô phỏng ô
Page 139 and 140: 10.2 Bài toán ô tô tự lái 13
Page 141 and 142: 10.3 Python code 141import pandas a
Page 143: 10.5 Bài tập 143# Load model mà
Page 147 and 148: 11. Transfer learning và data augm
Page 149 and 150: 11.1 Transfer learning 149Hình 11.
Page 151 and 152: 11.1 Transfer learning 151from skle
Page 157: 11.1 Transfer learning 157# Load mo
Page 161 and 162: 11.2 Data augmentation 161Hình 11.
Page 163 and 164: 12. Các kỹ thuật cơ bản tro
Page 165 and 166: 12.2 Mini-batch gradient descent 16
Page 167 and 168: 12.3 Bias và variance 16712.3 Bias
Page 169 and 170: 12.4 Dropout 169• Dùng regulariz
Page 171 and 172: 12.5 Activation function 171Hình 1
Page 173 and 174: 12.5 Activation function 173Tanh ac
Page 175: VIComputer Vision Task13 Object det
Page 178 and 179: 178 Chương 13. Object detection v
Page 189 and 190: 14. Image segmentation với U-Net1
Page 191 and 192: 14.1 Bài toán image segmentation
Page 193 and 194: 14.2 Mạng U-Net với bài toán
Page 195 and 196: 14.2 Mạng U-Net với bài toán
Page 197: IIRecurrent Neural Network15 Recurr
Page 200 and 201: 200 Chương 15. Recurrent neural n
Page 206 and 207: 206 Chương 16. Long short term me
Page 208 and 209:
208 Chương 16. Long short term me
Page 210 and 211:
210 Chương 17. Ứng dụng thêm
Page 212 and 213:
Page 214 and 215:
Page 216 and 217:
Page 218 and 219:
Page 220 and 221:
Page 222 and 223:
Page 225 and 226:
BibliographyArticles[7] Ross Girshi
Page 227:
17.6 Python code 227Books[21] Adria
show all

Sách Deep Learning cơ bản

You also want an ePaper? Increase the reach of your titles

Delete template?

Save as template?