Algorithm 1: LVW feature selection algorithm

Input: Given a dataset D, feature set F, classifier algorithm h, and stop condition control parameter T. Process: 1. Initialize: $\mathrm{e}\mathrm{r}\mathrm{r}=\infty$$;\mathrm{d}=\left|\mathrm{F}\right|$$;{\mathrm{F}}^{*}=\mathrm{F}$$;\mathrm{t}=0$ 2. while $\mathrm{t}<\mathrm{T}$ do 3.   Randomly generate a feature subset ${\mathrm{F}}^{\prime }$ 4.   ${\mathrm{d}}^{\prime }=\left|{\mathrm{F}}^{\prime }\right|$ 5.   $\mathrm{e}\mathrm{r}{\mathrm{r}}^{\prime }=\mathrm{CrossValidation}\left(\mathrm{h}\left({\mathrm{F}}^{\prime },\mathrm{D}\right),\mathrm{e}\right)$ 6.   $\begin{array}{l}\mathrm{i}\mathrm{f}\left(\mathrm{e}\mathrm{r}{\mathrm{r}}^{\prime }<\mathrm{e}\mathrm{r}\mathrm{r}\right)\mathrm{OR}\\ \left(\left(\mathrm{e}\mathrm{r}{\mathrm{r}}^{\prime }==\mathrm{e}\mathrm{r}\mathrm{r}\right)\mathrm{AND}\left({\mathrm{d}}^{\prime }<\mathrm{d}\right)\right)\mathrm{then}\end{array}$ 7.      ${\mathrm{F}}^{*}={\mathrm{F}}^{\prime }$$;\mathrm{t}=0$$;\mathrm{e}\mathrm{r}\mathrm{r}=\mathrm{e}\mathrm{r}{\mathrm{r}}^{\prime }$$;\mathrm{d}={\mathrm{d}}^{\prime }$ 8.    else 9.       $\mathrm{t}=\mathrm{t}+1$ 10.   end if 11. end while Output: feature subset ${\mathrm{F}}^{*}$