RMDL(Random Multimodel Deep Learning)

/*
-- Title : RMDL(Random Multimodel Deep Learning)
-- Reference : BDMBA
*/

---

■ RMDL 이란?

이미지 분류나 텍스트 분류를 수행하기위한 딥러닝 모델(DNN, CNN, RNN, CRNN) 각각의 결과를 랜덤하게 생성하면서 각 모델이나 앙상블 모델에서 최적의 모델을 선택할 수 있도록 반복 수행하며 추천하는 AutoDL이다.

 

■ 추천 내용

• 적절한 DL 모델
  - Text : CNN, DNN, RLL, SVM, NBC, HDLTex 등
  - Image : Deep L2-SVM, Maxout Network, BinaryConnect, PCANet-1, gcForest 등
• Hidden layer 개수
• 노드(Node) 개수
• 최적화(Optimizer, SGD/adam 등)

 

■ RMDL Architecture

 

■ Otimizer

• Stochastic Gradient Descent (SGD)
• RMSprop
• Adam Optimizer
• Adagrad Optimizer

■ Experiment Results 예