Algorithm 1. Attention mechanism-based LSTM with class weight.

Require: Training data $X_{\mathrm{t}\mathrm{r}\mathrm{a}\mathrm{i}\mathrm{n}}$ and labels $Y_{\mathrm{t}\mathrm{r}\mathrm{a}\mathrm{i}\mathrm{n}}$, testing data $X_{\mathrm{t}\mathrm{e}\mathrm{s}\mathrm{t}}$ and labels $Y_{\mathrm{t}\mathrm{e}\mathrm{s}\mathrm{t}}$, batch size b, epochs e, number of LSTM units u, dropout rate d, learning rate α, class weight w, and optimizer o

Ensure: Trained model

1:     Procedure ATTENTIONLAYER ( $\mathrm{i}\mathrm{n}\mathrm{p}\mathrm{u}{\mathrm{t}}_{\mathrm{s}}\mathrm{h}\mathrm{a}\mathrm{p}\mathrm{e},\mathrm{r}\mathrm{e}\mathrm{t}\mathrm{u}\mathrm{r}{\mathrm{n}}_{\mathrm{s}}\mathrm{e}\mathrm{q}\mathrm{u}\mathrm{e}\mathrm{n}\mathrm{c}\mathrm{e}\mathrm{s}=\mathrm{T}\mathrm{r}\mathrm{u}\mathrm{e}$)

2:        $b\leftarrow$ Initialize biases with zeros

3:        return Weighted sum of input

4:     end Procedure

5:     Procedure CREATE_MODEL ( $\mathrm{u}\mathrm{n}\mathrm{i}\mathrm{t}\mathrm{s}=u,\mathrm{d}\mathrm{r}\mathrm{o}\mathrm{p}\mathrm{o}\mathrm{u}{\mathrm{t}}_{\mathrm{r}}\mathrm{a}\mathrm{t}\mathrm{e}=\mathrm{d},\mathrm{o}\mathrm{p}\mathrm{t}\mathrm{i}\mathrm{m}\mathrm{i}\mathrm{z}\mathrm{e}\mathrm{r}=\mathrm{o},\mathrm{l}\mathrm{e}\mathrm{a}\mathrm{r}\mathrm{n}\mathrm{i}\mathrm{n}{\mathrm{g}}_{\mathrm{r}}\mathrm{a}\mathrm{t}\mathrm{e}=\alpha$)

6:        LSTM layer with u units and input shape

7:        Attention layer

8:        Dropout layer with dropout rate d

9:        Dense layer with sigmoid activation

10:       Compile model with binary cross-entropy loss and optimizer o with learning rate α

11:        return Compiled model

12:     end Procedure

13:      $model\leftarrow$ CREATE_MODEL( $\mathrm{u}\mathrm{n}\mathrm{i}\mathrm{t}\mathrm{s}=u,\mathrm{d}\mathrm{r}\mathrm{o}\mathrm{p}\mathrm{o}\mathrm{u}{\mathrm{t}}_{\mathrm{r}}\mathrm{a}\mathrm{t}\mathrm{e}=\mathrm{d},\mathrm{o}\mathrm{p}\mathrm{t}\mathrm{i}\mathrm{m}\mathrm{i}\mathrm{z}\mathrm{e}\mathrm{r}=\mathrm{A}\mathrm{d}\mathrm{a}\mathrm{m},\mathrm{l}\mathrm{e}\mathrm{a}\mathrm{r}\mathrm{n}\mathrm{i}\mathrm{n}{\mathrm{g}}_{\mathrm{r}}\mathrm{a}\mathrm{t}\mathrm{e}=\alpha$)

14:      $model.\mathrm{f}\mathrm{i}\mathrm{t}(X_{\mathrm{t}\mathrm{r}\mathrm{a}\mathrm{i}\mathrm{n}},Y_{\mathrm{t}\mathrm{r}\mathrm{a}\mathrm{i}\mathrm{n}},\mathrm{b}\mathrm{a}\mathrm{t}\mathrm{c}{\mathrm{h}}_{\mathrm{s}}\mathrm{i}\mathrm{z}\mathrm{e}=\mathrm{b},\mathrm{e}\mathrm{p}\mathrm{o}\mathrm{c}\mathrm{h}\mathrm{s}=\mathrm{e},\mathrm{c}\mathrm{l}\mathrm{a}\mathrm{s}{\mathrm{s}}_{\mathrm{w}}\mathrm{e}\mathrm{i}\mathrm{g}\mathrm{h}\mathrm{t}=\mathrm{w})$

15:      return Trained model