Table 7.

Validation loss of ten optimizers on a proposed patch-wise model architecture of CNN.

Epoch  →	50	100	150	300	250	300
Optimizers  ↓
Adam	0.05	0.05	0.04	0.04	0.04	0.04
Adagrad	0.07	0.06	0.06	0.06	0.06	0.06
AdaDelta	0.07	0.06	0.06	0.06	0.06	0.05
SGD	0.06	0.06	0.06	0.06	0.06	0.06
NAG	0.09	0.08	0.08	0.08	0.08	0.07
Rmsprop	0.07	0.07	0.07	0.07	0.07	0.07
Momentum	0.05	0.05	0.05	0.05	0.05	0.04
Adamax	0.07	0.07	0.07	0.07	0.07	0.07
CLR	0.06	0.05	0.04	0.04	0.04	0.04
Nadam	0.05	0.05	0.05	0.05	0.05	0.05