Table 7:

Aggregated across 5 pre-training runs. NLL is neg log likelihood, W/M weighted/macro.

		MIMIC				CUIMC				CASI
	Model	NLL	Acc	W F1	M F1	NLL	Acc	W F1	M F1	NLL	Acc	W F1	M F1
Worst	BERT	1.36	0.40	0.40	0.33	1.41	0.37	0.33	0.28	1.23	0.42	0.38	0.23
	ELMo	1.34	0.56	0.59	0.51	1.39	0.55	0.58	0.48	1.21	0.51	0.52	0.36
	BSG	2.06	0.43	0.42	0.38	12.2	0.48	0.48	0.36	1.38	0.58	0.56	0.33
	MBSGE	1.26	0.60	0.62	0.54	7.94	0.61	0.61	0.48	0.96	0.68	0.67	0.43
	LMC	0.82	0.74	0.77	0.68	0.91	0.69	0.68	0.56	0.80	0.71	0.73	0.50
Mean	BERT	1.36	0.40	0.40	0.33	1.41	0.37	0.33	0.28	1.23	0.42	0.38	0.23
	ELMo	1.33	0.58	0.61	0.53	1.38	0.58	0.60	0.49	1.21	0.55	0.56	0.38
	BSG	1.28	0.57	0.59	0.52	9.04	0.58	0.58	0.46	0.99	0.64	0.64	0.41
	MBSGE	1.07	0.65	0.67	0.59	6.16	0.64	0.64	0.52	0.88	0.70	0.70	0.46
	LMC	0.81	0.74	0.78	0.69	0.90	0.69	0.68	0.57	0.79	0.71	0.73	0.51
Best	BERT	1.36	0.40	0.40	0.33	1.41	0.37	0.33	0.28	1.23	0.42	0.38	0.23
	ELMo	1.33	0.61	0.65	0.58	1.38	0.62	0.64	0.50	1.21	0.59	0.60	0.42
	BSG	0.98	0.64	0.68	0.59	5.41	0.61	0.62	0.50	0.85	0.67	0.70	0.46
	MBSGE	0.96	0.68	0.71	0.62	4.81	0.67	0.67	0.57	0.83	0.72	0.73	0.50
	LMC	0.80	0.75	0.79	0.70	0.89	0.70	0.69	0.58	0.78	0.72	0.74	0.52