Table 1.

Precision, Recall, and F1 score for ten tests of Procedure hierarchy (training steps = 15,000).

Procedure	IS-A Classification						Non-IS-A Classification
		Fine-tuning			Pre-training & Fine-tuning			Fine-tuning			Pre-training & Fine-tuning
No.	Precision	Recall	F1	Precision	Recall	F1	Precision	Recall	F1	Precision	Recall	F1
1	0.67	0.98	0.79	0.75	0.98	0.85	0.96	0.51	0.67	0.97	0.68	0.80
2	0.66	0.98	0.79	0.77	0.98	0.86	0.97	0.48	0.64	0.98	0.70	0.82
3	0.70	0.98	0.81	0.75	0.98	0.85	0.96	0.58	0.72	0.97	0.68	0.80
4	0.66	0.98	0.79	0.74	0.98	0.84	0.97	0.50	0.66	0.97	0.66	0.79
5	0.69	0.98	0.81	0.74	0.98	0.84	0.96	0.56	0.70	0.97	0.66	0.79
6	0.71	0.97	0.82	0.74	0.98	0.85	0.96	0.59	0.73	0.97	0.66	0.79
7	0.69	0.98	0.81	0.73	0.98	0.84	0.97	0.56	0.71	0.97	0.64	0.77
8	0.67	0.98	0.80	0.71	0.98	0.82	0.96	0.52	0.68	0.97	0.59	0.73
9	0.69	0.98	0.81	0.73	0.98	0.84	0.96	0.56	0.71	0.97	0.63	0.77
10	0.66	0.98	0.79	0.76	0.98	0.86	0.96	0.49	0.65	0.97	0.69	0.81
Average	0.68	0.98	0.80	0.74	0.98	0.85	0.96	0.54	0.69	0.97	0.66	0.79
Standard Deviation	0.02	0.00	0.01	0.02	0.00	0.01	0.00	0.04	0.03	0.00	0.03	0.03