igorcs commited on
Commit
d586147
·
1 Parent(s): 7af96e3

Fixing gpt and adding rows

Browse files
bootstrap_confidence_intervals-00000-of-00001.parquet CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:3990afd6b7665e480feddb2707db26671e468f5ab57fa36b34bb007b6c60eb68
3
- size 28113
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:74dcbf8cc574efe06dda34ff9b1ccb6d2a07e4f9cb21d0f66d1e4dc0e7e95f6b
3
+ size 29581
bootstrap_confidence_intervals_Macro_F1_table.txt CHANGED
@@ -2,29 +2,13 @@
2
  \hline\hline
3
  & \multicolumn{2}{c|}{\textbf{C1}} & \multicolumn{2}{c|}{\textbf{C2}} & \multicolumn{2}{c|}{\textbf{C3}} & \multicolumn{2}{c|}{\textbf{C4}} & \multicolumn{2}{c|}{\textbf{C5}} \\ \hline
4
  & F1-Macro$_{\text{-lower-bound}}$ & F1-Macro$_{\text{-upper-bound}}$ & F1-Macro$_{\text{-lower-bound}}$ & F1-Macro$_{\text{-upper-bound}}$ & F1-Macro$_{\text{-lower-bound}}$ & F1-Macro$_{\text{-upper-bound}}$ & F1-Macro$_{\text{-lower-bound}}$ & F1-Macro$_{\text{-upper-bound}}$ & F1-Macro$_{\text{-lower-bound}}$ & F1-Macro$_{\text{-upper-bound}}$ \\ \hline
5
- deepseekR1-extractor-full\_context & 0.01 & 0.06 & 0.19 & 0.38 & 0.24 & 0.40 & 0.26 & 0.50 & 0.30 & 0.45 \\
6
- \hline
7
- deepseekR1-graderPrompt-essay\_only & 0.10 & 0.24 & 0.01 & 0.08 & 0.13 & 0.27 & 0.12 & 0.28 & 0.24 & 0.39 \\
8
- deepseekR1-graderPrompt-full\_context & 0.01 & 0.12 & 0.25 & 0.47 & 0.21 & 0.41 & 0.20 & 0.41 & 0.28 & 0.43 \\
9
- \hline
10
- deepseekR1-studentPrompt-essay\_only & 0.05 & 0.17 & 0.10 & 0.20 & 0.23 & 0.41 & 0.15 & 0.40 & 0.30 & 0.44 \\
11
- deepseekR1-studentPrompt-full\_context & 0.02 & 0.07 & 0.19 & 0.40 & 0.33 & 0.57 & 0.13 & 0.32 & 0.29 & 0.48 \\
12
- \hline
13
- gpt4o-extractor-full\_context & 0.18 & 0.31 & 0.24 & 0.47 & 0.19 & 0.38 & 0.18 & 0.39 & 0.09 & 0.21 \\
14
- \hline
15
- gpt4o-graderPrompt-essay\_only & 0.15 & 0.27 & 0.11 & 0.29 & 0.14 & 0.26 & 0.16 & 0.39 & 0.25 & 0.39 \\
16
- gpt4o-graderPrompt-full\_context & 0.19 & 0.31 & 0.24 & 0.44 & 0.19 & 0.39 & 0.19 & 0.33 & 0.17 & 0.31 \\
17
- \hline
18
- gpt4o-studentPrompt-essay\_only & 0.15 & 0.29 & 0.12 & 0.23 & 0.18 & 0.34 & 0.17 & 0.42 & 0.23 & 0.35 \\
19
- gpt4o-studentPrompt-full\_context & 0.15 & 0.25 & 0.25 & 0.50 & 0.19 & 0.36 & 0.16 & 0.37 & 0.10 & 0.23 \\
20
  \hline
21
- sabia3-extractor-full\_context & 0.08 & 0.12 & 0.11 & 0.22 & 0.14 & 0.27 & 0.13 & 0.25 & 0.16 & 0.28 \\
22
  \hline
23
- sabia3-graderPrompt-essay\_only & 0.16 & 0.32 & 0.05 & 0.14 & 0.20 & 0.35 & 0.14 & 0.34 & 0.26 & 0.41 \\
24
- sabia3-graderPrompt-full\_context & 0.17 & 0.33 & 0.24 & 0.48 & 0.23 & 0.48 & 0.20 & 0.45 & 0.20 & 0.36 \\
25
  \hline
26
- sabia3-studentPrompt-essay\_only & 0.26 & 0.45 & 0.05 & 0.12 & 0.16 & 0.31 & 0.19 & 0.43 & 0.23 & 0.36 \\
27
- sabia3-studentPrompt-full\_context & 0.26 & 0.50 & 0.20 & 0.41 & 0.12 & 0.33 & 0.15 & 0.42 & 0.19 & 0.35 \\
28
  \hline\hline
29
  llama3.1-8b-lora-essay-only-r16 & 0.40 & 0.67 & 0.19 & 0.35 & 0.19 & 0.35 & 0.20 & 0.43 & 0.14 & 0.29 \\
30
  \hline
@@ -50,12 +34,28 @@ phi4-lora-full-context-r16 & 0.31 & 0.55 & 0.32 & 0.54 & 0.32 & 0.53 & 0.23 & 0.
50
  \hline
51
  phi4-lora-full-context-r8 & 0.36 & 0.61 & 0.31 & 0.54 & 0.27 & 0.48 & 0.24 & 0.48 & 0.23 & 0.37 \\
52
  \hline\hline
53
- bertimbau-base-essay-only & 0.30 & 0.54 & 0.18 & 0.36 & 0.16 & 0.31 & 0.25 & 0.52 & 0.24 & 0.38 \\
54
  \hline
55
- bertimbau-large-essay-only & 0.37 & 0.65 & 0.25 & 0.44 & 0.12 & 0.26 & 0.30 & 0.64 & 0.23 & 0.38 \\
 
56
  \hline
57
- bertugues-base-essay-only & 0.32 & 0.55 & 0.10 & 0.20 & 0.19 & 0.34 & 0.23 & 0.48 & 0.17 & 0.31 \\
 
58
  \hline
59
- mbert-base-essay-only & 0.29 & 0.50 & 0.14 & 0.26 & 0.17 & 0.32 & 0.23 & 0.50 & 0.05 & 0.11 \\
 
 
 
 
 
 
 
 
 
 
 
 
 
 
60
  \hline\hline
61
  \end{tabular}%
 
2
  \hline\hline
3
  & \multicolumn{2}{c|}{\textbf{C1}} & \multicolumn{2}{c|}{\textbf{C2}} & \multicolumn{2}{c|}{\textbf{C3}} & \multicolumn{2}{c|}{\textbf{C4}} & \multicolumn{2}{c|}{\textbf{C5}} \\ \hline
4
  & F1-Macro$_{\text{-lower-bound}}$ & F1-Macro$_{\text{-upper-bound}}$ & F1-Macro$_{\text{-lower-bound}}$ & F1-Macro$_{\text{-upper-bound}}$ & F1-Macro$_{\text{-lower-bound}}$ & F1-Macro$_{\text{-upper-bound}}$ & F1-Macro$_{\text{-lower-bound}}$ & F1-Macro$_{\text{-upper-bound}}$ & F1-Macro$_{\text{-lower-bound}}$ & F1-Macro$_{\text{-upper-bound}}$ \\ \hline
5
+ bertimbau-base-essay-only & 0.30 & 0.54 & 0.18 & 0.36 & 0.16 & 0.31 & 0.25 & 0.52 & 0.24 & 0.38 \\
 
 
 
 
 
 
 
 
 
 
 
 
 
 
6
  \hline
7
+ bertimbau-large-essay-only & 0.37 & 0.65 & 0.25 & 0.44 & 0.12 & 0.26 & 0.30 & 0.64 & 0.23 & 0.38 \\
8
  \hline
9
+ bertugues-base-essay-only & 0.32 & 0.55 & 0.10 & 0.20 & 0.19 & 0.34 & 0.23 & 0.48 & 0.17 & 0.31 \\
 
10
  \hline
11
+ mbert-base-essay-only & 0.29 & 0.50 & 0.14 & 0.26 & 0.17 & 0.32 & 0.23 & 0.50 & 0.05 & 0.11 \\
 
12
  \hline\hline
13
  llama3.1-8b-lora-essay-only-r16 & 0.40 & 0.67 & 0.19 & 0.35 & 0.19 & 0.35 & 0.20 & 0.43 & 0.14 & 0.29 \\
14
  \hline
 
34
  \hline
35
  phi4-lora-full-context-r8 & 0.36 & 0.61 & 0.31 & 0.54 & 0.27 & 0.48 & 0.24 & 0.48 & 0.23 & 0.37 \\
36
  \hline\hline
37
+ deepseekR1-extractor-full\_context & 0.01 & 0.06 & 0.19 & 0.38 & 0.24 & 0.40 & 0.26 & 0.50 & 0.30 & 0.45 \\
38
  \hline
39
+ deepseekR1-graderPrompt-essay\_only & 0.10 & 0.24 & 0.01 & 0.08 & 0.13 & 0.27 & 0.12 & 0.28 & 0.24 & 0.39 \\
40
+ deepseekR1-graderPrompt-full\_context & 0.01 & 0.12 & 0.25 & 0.47 & 0.21 & 0.41 & 0.20 & 0.41 & 0.28 & 0.43 \\
41
  \hline
42
+ deepseekR1-studentPrompt-essay\_only & 0.05 & 0.17 & 0.10 & 0.20 & 0.23 & 0.41 & 0.15 & 0.40 & 0.30 & 0.44 \\
43
+ deepseekR1-studentPrompt-full\_context & 0.02 & 0.07 & 0.19 & 0.40 & 0.33 & 0.57 & 0.13 & 0.32 & 0.29 & 0.48 \\
44
  \hline
45
+ gpt4o-extractor-full\_context & 0.18 & 0.31 & 0.24 & 0.47 & 0.19 & 0.38 & 0.18 & 0.39 & 0.09 & 0.21 \\
46
+ \hline
47
+ gpt4o-graderPrompt-essay\_only & 0.15 & 0.27 & 0.11 & 0.29 & 0.14 & 0.26 & 0.16 & 0.39 & 0.25 & 0.39 \\
48
+ gpt4o-graderPrompt-full\_context & 0.19 & 0.31 & 0.24 & 0.44 & 0.19 & 0.39 & 0.19 & 0.33 & 0.17 & 0.31 \\
49
+ \hline
50
+ gpt4o-studentPrompt-essay\_only & 0.15 & 0.29 & 0.12 & 0.23 & 0.18 & 0.34 & 0.17 & 0.42 & 0.23 & 0.35 \\
51
+ gpt4o-studentPrompt-full\_context & 0.15 & 0.25 & 0.25 & 0.50 & 0.19 & 0.36 & 0.16 & 0.37 & 0.10 & 0.23 \\
52
+ \hline
53
+ sabia3-extractor-full\_context & 0.08 & 0.12 & 0.11 & 0.22 & 0.14 & 0.27 & 0.13 & 0.25 & 0.16 & 0.28 \\
54
+ \hline
55
+ sabia3-graderPrompt-essay\_only & 0.16 & 0.32 & 0.05 & 0.14 & 0.20 & 0.35 & 0.14 & 0.34 & 0.26 & 0.41 \\
56
+ sabia3-graderPrompt-full\_context & 0.17 & 0.33 & 0.24 & 0.48 & 0.23 & 0.48 & 0.20 & 0.45 & 0.20 & 0.36 \\
57
+ \hline
58
+ sabia3-studentPrompt-essay\_only & 0.26 & 0.45 & 0.05 & 0.12 & 0.16 & 0.31 & 0.19 & 0.43 & 0.23 & 0.36 \\
59
+ sabia3-studentPrompt-full\_context & 0.26 & 0.50 & 0.20 & 0.41 & 0.12 & 0.33 & 0.15 & 0.42 & 0.19 & 0.35 \\
60
  \hline\hline
61
  \end{tabular}%
bootstrap_confidence_intervals_QWK_table.txt CHANGED
@@ -2,29 +2,13 @@
2
  \hline\hline
3
  & \multicolumn{2}{c|}{\textbf{C1}} & \multicolumn{2}{c|}{\textbf{C2}} & \multicolumn{2}{c|}{\textbf{C3}} & \multicolumn{2}{c|}{\textbf{C4}} & \multicolumn{2}{c|}{\textbf{C5}} \\ \hline
4
  & QWK$_{\text{lower-bound}}$ & QWK$_{\text{upper-bound}}$ & QWK$_{\text{lower-bound}}$ & QWK$_{\text{upper-bound}}$ & QWK$_{\text{lower-bound}}$ & QWK$_{\text{upper-bound}}$ & QWK$_{\text{lower-bound}}$ & QWK$_{\text{upper-bound}}$ & QWK$_{\text{lower-bound}}$ & QWK$_{\text{upper-bound}}$ \\ \hline
5
- deepseekR1-extractor-full\_context & 0.15 & 0.26 & 0.39 & 0.63 & 0.40 & 0.64 & 0.45 & 0.66 & 0.48 & 0.73 \\
6
- \hline
7
- deepseekR1-graderPrompt-essay\_only & 0.36 & 0.51 & -0.01 & 0.08 & 0.23 & 0.54 & 0.37 & 0.56 & 0.40 & 0.68 \\
8
- deepseekR1-graderPrompt-full\_context & 0.14 & 0.26 & 0.39 & 0.63 & 0.49 & 0.69 & 0.45 & 0.64 & 0.46 & 0.72 \\
9
- \hline
10
- deepseekR1-studentPrompt-essay\_only & 0.27 & 0.43 & -0.14 & 0.11 & 0.23 & 0.53 & 0.41 & 0.61 & 0.41 & 0.67 \\
11
- deepseekR1-studentPrompt-full\_context & 0.27 & 0.43 & 0.30 & 0.53 & 0.65 & 0.80 & 0.39 & 0.58 & 0.45 & 0.69 \\
12
- \hline
13
- gpt4o-extractor-full\_context & 0.41 & 0.64 & 0.32 & 0.60 & 0.46 & 0.66 & 0.37 & 0.61 & 0.20 & 0.43 \\
14
- \hline
15
- gpt4o-graderPrompt-essay\_only & 0.40 & 0.56 & 0.15 & 0.42 & 0.15 & 0.41 & 0.40 & 0.60 & 0.41 & 0.66 \\
16
- gpt4o-graderPrompt-full\_context & 0.47 & 0.63 & 0.43 & 0.68 & 0.32 & 0.56 & 0.39 & 0.60 & 0.33 & 0.61 \\
17
- \hline
18
- gpt4o-studentPrompt-essay\_only & 0.43 & 0.58 & 0.05 & 0.34 & 0.24 & 0.51 & 0.40 & 0.60 & 0.41 & 0.67 \\
19
- gpt4o-studentPrompt-full\_context & 0.39 & 0.56 & 0.38 & 0.63 & 0.42 & 0.63 & 0.38 & 0.58 & 0.20 & 0.49 \\
20
  \hline
21
- sabia3-extractor-full\_context & 0.22 & 0.39 & 0.18 & 0.38 & 0.09 & 0.33 & 0.28 & 0.47 & 0.39 & 0.62 \\
22
  \hline
23
- sabia3-graderPrompt-essay\_only & 0.45 & 0.61 & 0.00 & 0.13 & 0.21 & 0.48 & 0.44 & 0.65 & 0.47 & 0.70 \\
24
- sabia3-graderPrompt-full\_context & 0.40 & 0.58 & 0.35 & 0.62 & 0.42 & 0.65 & 0.39 & 0.64 & 0.34 & 0.63 \\
25
  \hline
26
- sabia3-studentPrompt-essay\_only & 0.61 & 0.75 & -0.03 & 0.06 & 0.16 & 0.43 & 0.39 & 0.62 & 0.37 & 0.63 \\
27
- sabia3-studentPrompt-full\_context & 0.47 & 0.66 & 0.31 & 0.60 & 0.32 & 0.56 & 0.23 & 0.52 & 0.40 & 0.65 \\
28
  \hline\hline
29
  llama3.1-8b-lora-essay-only-r16 & 0.59 & 0.77 & 0.19 & 0.50 & 0.28 & 0.56 & 0.32 & 0.56 & 0.22 & 0.49 \\
30
  \hline
@@ -50,12 +34,28 @@ phi4-lora-full-context-r16 & 0.51 & 0.70 & 0.47 & 0.71 & 0.53 & 0.76 & 0.49 & 0.
50
  \hline
51
  phi4-lora-full-context-r8 & 0.57 & 0.75 & 0.46 & 0.70 & 0.45 & 0.68 & 0.43 & 0.65 & 0.38 & 0.64 \\
52
  \hline\hline
53
- bertimbau-base-essay-only & 0.51 & 0.68 & 0.19 & 0.49 & 0.20 & 0.49 & 0.42 & 0.66 & 0.51 & 0.73 \\
54
  \hline
55
- bertimbau-large-essay-only & 0.59 & 0.77 & 0.14 & 0.47 & 0.09 & 0.39 & 0.47 & 0.71 & 0.33 & 0.58 \\
 
56
  \hline
57
- bertugues-base-essay-only & 0.52 & 0.70 & 0.19 & 0.46 & 0.12 & 0.44 & 0.42 & 0.64 & 0.22 & 0.49 \\
 
58
  \hline
59
- mbert-base-essay-only & 0.39 & 0.62 & 0.07 & 0.37 & 0.21 & 0.50 & 0.33 & 0.64 & -0.04 & 0.04 \\
 
 
 
 
 
 
 
 
 
 
 
 
 
 
60
  \hline\hline
61
  \end{tabular}%
 
2
  \hline\hline
3
  & \multicolumn{2}{c|}{\textbf{C1}} & \multicolumn{2}{c|}{\textbf{C2}} & \multicolumn{2}{c|}{\textbf{C3}} & \multicolumn{2}{c|}{\textbf{C4}} & \multicolumn{2}{c|}{\textbf{C5}} \\ \hline
4
  & QWK$_{\text{lower-bound}}$ & QWK$_{\text{upper-bound}}$ & QWK$_{\text{lower-bound}}$ & QWK$_{\text{upper-bound}}$ & QWK$_{\text{lower-bound}}$ & QWK$_{\text{upper-bound}}$ & QWK$_{\text{lower-bound}}$ & QWK$_{\text{upper-bound}}$ & QWK$_{\text{lower-bound}}$ & QWK$_{\text{upper-bound}}$ \\ \hline
5
+ bertimbau-base-essay-only & 0.51 & 0.68 & 0.19 & 0.49 & 0.20 & 0.49 & 0.42 & 0.66 & 0.51 & 0.73 \\
 
 
 
 
 
 
 
 
 
 
 
 
 
 
6
  \hline
7
+ bertimbau-large-essay-only & 0.59 & 0.77 & 0.14 & 0.47 & 0.09 & 0.39 & 0.47 & 0.71 & 0.33 & 0.58 \\
8
  \hline
9
+ bertugues-base-essay-only & 0.52 & 0.70 & 0.19 & 0.46 & 0.12 & 0.44 & 0.42 & 0.64 & 0.22 & 0.49 \\
 
10
  \hline
11
+ mbert-base-essay-only & 0.39 & 0.62 & 0.07 & 0.37 & 0.21 & 0.50 & 0.33 & 0.64 & -0.04 & 0.04 \\
 
12
  \hline\hline
13
  llama3.1-8b-lora-essay-only-r16 & 0.59 & 0.77 & 0.19 & 0.50 & 0.28 & 0.56 & 0.32 & 0.56 & 0.22 & 0.49 \\
14
  \hline
 
34
  \hline
35
  phi4-lora-full-context-r8 & 0.57 & 0.75 & 0.46 & 0.70 & 0.45 & 0.68 & 0.43 & 0.65 & 0.38 & 0.64 \\
36
  \hline\hline
37
+ deepseekR1-extractor-full\_context & 0.15 & 0.26 & 0.39 & 0.63 & 0.40 & 0.64 & 0.45 & 0.66 & 0.48 & 0.73 \\
38
  \hline
39
+ deepseekR1-graderPrompt-essay\_only & 0.36 & 0.51 & -0.01 & 0.08 & 0.23 & 0.54 & 0.37 & 0.56 & 0.40 & 0.68 \\
40
+ deepseekR1-graderPrompt-full\_context & 0.14 & 0.26 & 0.39 & 0.63 & 0.49 & 0.69 & 0.45 & 0.64 & 0.46 & 0.72 \\
41
  \hline
42
+ deepseekR1-studentPrompt-essay\_only & 0.27 & 0.43 & -0.14 & 0.11 & 0.23 & 0.53 & 0.41 & 0.61 & 0.41 & 0.67 \\
43
+ deepseekR1-studentPrompt-full\_context & 0.27 & 0.43 & 0.30 & 0.53 & 0.65 & 0.80 & 0.39 & 0.58 & 0.45 & 0.69 \\
44
  \hline
45
+ gpt4o-extractor-full\_context & 0.41 & 0.64 & 0.32 & 0.60 & 0.46 & 0.66 & 0.37 & 0.61 & 0.20 & 0.43 \\
46
+ \hline
47
+ gpt4o-graderPrompt-essay\_only & 0.40 & 0.56 & 0.15 & 0.42 & 0.15 & 0.41 & 0.40 & 0.60 & 0.41 & 0.66 \\
48
+ gpt4o-graderPrompt-full\_context & 0.47 & 0.63 & 0.43 & 0.68 & 0.32 & 0.56 & 0.39 & 0.60 & 0.33 & 0.61 \\
49
+ \hline
50
+ gpt4o-studentPrompt-essay\_only & 0.43 & 0.58 & 0.05 & 0.34 & 0.24 & 0.51 & 0.40 & 0.60 & 0.41 & 0.67 \\
51
+ gpt4o-studentPrompt-full\_context & 0.39 & 0.56 & 0.38 & 0.63 & 0.42 & 0.63 & 0.38 & 0.58 & 0.20 & 0.49 \\
52
+ \hline
53
+ sabia3-extractor-full\_context & 0.22 & 0.39 & 0.18 & 0.38 & 0.09 & 0.33 & 0.28 & 0.47 & 0.39 & 0.62 \\
54
+ \hline
55
+ sabia3-graderPrompt-essay\_only & 0.45 & 0.61 & 0.00 & 0.13 & 0.21 & 0.48 & 0.44 & 0.65 & 0.47 & 0.70 \\
56
+ sabia3-graderPrompt-full\_context & 0.40 & 0.58 & 0.35 & 0.62 & 0.42 & 0.65 & 0.39 & 0.64 & 0.34 & 0.63 \\
57
+ \hline
58
+ sabia3-studentPrompt-essay\_only & 0.61 & 0.75 & -0.03 & 0.06 & 0.16 & 0.43 & 0.39 & 0.62 & 0.37 & 0.63 \\
59
+ sabia3-studentPrompt-full\_context & 0.47 & 0.66 & 0.31 & 0.60 & 0.32 & 0.56 & 0.23 & 0.52 & 0.40 & 0.65 \\
60
  \hline\hline
61
  \end{tabular}%
bootstrap_confidence_intervals_Weighted_F1_table.txt CHANGED
@@ -2,29 +2,13 @@
2
  \hline\hline
3
  & \multicolumn{2}{c|}{\textbf{C1}} & \multicolumn{2}{c|}{\textbf{C2}} & \multicolumn{2}{c|}{\textbf{C3}} & \multicolumn{2}{c|}{\textbf{C4}} & \multicolumn{2}{c|}{\textbf{C5}} \\ \hline
4
  & F1-Weighted$_{\text{-lower-bound}}$ & F1-Weighted$_{\text{-upper-bound}}$ & F1-Weighted$_{\text{-lower-bound}}$ & F1-Weighted$_{\text{-upper-bound}}$ & F1-Weighted$_{\text{-lower-bound}}$ & F1-Weighted$_{\text{-upper-bound}}$ & F1-Weighted$_{\text{-lower-bound}}$ & F1-Weighted$_{\text{-upper-bound}}$ & F1-Weighted$_{\text{-lower-bound}}$ & F1-Weighted$_{\text{-upper-bound}}$ \\ \hline
5
- deepseekR1-extractor-full\_context & 0.03 & 0.14 & 0.23 & 0.41 & 0.31 & 0.49 & 0.51 & 0.67 & 0.33 & 0.51 \\
6
- \hline
7
- deepseekR1-graderPrompt-essay\_only & 0.17 & 0.33 & 0.01 & 0.10 & 0.12 & 0.26 & 0.16 & 0.33 & 0.25 & 0.42 \\
8
- deepseekR1-graderPrompt-full\_context & 0.01 & 0.11 & 0.31 & 0.50 & 0.22 & 0.37 & 0.37 & 0.54 & 0.28 & 0.46 \\
9
- \hline
10
- deepseekR1-studentPrompt-essay\_only & 0.10 & 0.24 & 0.17 & 0.33 & 0.25 & 0.41 & 0.31 & 0.48 & 0.34 & 0.51 \\
11
- deepseekR1-studentPrompt-full\_context & 0.02 & 0.11 & 0.26 & 0.44 & 0.38 & 0.55 & 0.28 & 0.45 & 0.32 & 0.49 \\
12
- \hline
13
- gpt4o-extractor-full\_context & 0.44 & 0.63 & 0.32 & 0.49 & 0.20 & 0.36 & 0.36 & 0.53 & 0.09 & 0.22 \\
14
- \hline
15
- gpt4o-graderPrompt-essay\_only & 0.36 & 0.53 & 0.13 & 0.27 & 0.19 & 0.34 & 0.30 & 0.47 & 0.26 & 0.42 \\
16
- gpt4o-graderPrompt-full\_context & 0.43 & 0.60 & 0.33 & 0.50 & 0.23 & 0.41 & 0.39 & 0.56 & 0.18 & 0.33 \\
17
- \hline
18
- gpt4o-studentPrompt-essay\_only & 0.34 & 0.51 & 0.18 & 0.34 & 0.21 & 0.37 & 0.31 & 0.48 & 0.22 & 0.38 \\
19
- gpt4o-studentPrompt-full\_context & 0.34 & 0.51 & 0.33 & 0.50 & 0.22 & 0.37 & 0.28 & 0.45 & 0.12 & 0.26 \\
20
  \hline
21
- sabia3-extractor-full\_context & 0.18 & 0.34 & 0.14 & 0.29 & 0.19 & 0.36 & 0.29 & 0.47 & 0.15 & 0.31 \\
22
  \hline
23
- sabia3-graderPrompt-essay\_only & 0.33 & 0.50 & 0.06 & 0.18 & 0.25 & 0.41 & 0.35 & 0.53 & 0.29 & 0.46 \\
24
- sabia3-graderPrompt-full\_context & 0.41 & 0.59 & 0.33 & 0.50 & 0.29 & 0.45 & 0.41 & 0.58 & 0.24 & 0.40 \\
25
  \hline
26
- sabia3-studentPrompt-essay\_only & 0.58 & 0.74 & 0.06 & 0.17 & 0.22 & 0.38 & 0.43 & 0.62 & 0.26 & 0.43 \\
27
- sabia3-studentPrompt-full\_context & 0.51 & 0.69 & 0.32 & 0.49 & 0.15 & 0.30 & 0.34 & 0.53 & 0.20 & 0.36 \\
28
  \hline\hline
29
  llama3.1-8b-lora-essay-only-r16 & 0.58 & 0.74 & 0.27 & 0.43 & 0.20 & 0.36 & 0.37 & 0.54 & 0.15 & 0.28 \\
30
  \hline
@@ -50,12 +34,28 @@ phi4-lora-full-context-r16 & 0.49 & 0.66 & 0.41 & 0.59 & 0.39 & 0.56 & 0.42 & 0.
50
  \hline
51
  phi4-lora-full-context-r8 & 0.54 & 0.70 & 0.39 & 0.56 & 0.29 & 0.46 & 0.49 & 0.66 & 0.23 & 0.39 \\
52
  \hline\hline
53
- bertimbau-base-essay-only & 0.43 & 0.60 & 0.27 & 0.43 & 0.19 & 0.35 & 0.47 & 0.64 & 0.27 & 0.45 \\
54
  \hline
55
- bertimbau-large-essay-only & 0.61 & 0.77 & 0.33 & 0.49 & 0.18 & 0.33 & 0.52 & 0.68 & 0.27 & 0.45 \\
 
56
  \hline
57
- bertugues-base-essay-only & 0.48 & 0.64 & 0.12 & 0.25 & 0.27 & 0.43 & 0.42 & 0.59 & 0.19 & 0.35 \\
 
58
  \hline
59
- mbert-base-essay-only & 0.50 & 0.68 & 0.18 & 0.34 & 0.24 & 0.40 & 0.47 & 0.63 & 0.05 & 0.14 \\
 
 
 
 
 
 
 
 
 
 
 
 
 
 
60
  \hline\hline
61
  \end{tabular}%
 
2
  \hline\hline
3
  & \multicolumn{2}{c|}{\textbf{C1}} & \multicolumn{2}{c|}{\textbf{C2}} & \multicolumn{2}{c|}{\textbf{C3}} & \multicolumn{2}{c|}{\textbf{C4}} & \multicolumn{2}{c|}{\textbf{C5}} \\ \hline
4
  & F1-Weighted$_{\text{-lower-bound}}$ & F1-Weighted$_{\text{-upper-bound}}$ & F1-Weighted$_{\text{-lower-bound}}$ & F1-Weighted$_{\text{-upper-bound}}$ & F1-Weighted$_{\text{-lower-bound}}$ & F1-Weighted$_{\text{-upper-bound}}$ & F1-Weighted$_{\text{-lower-bound}}$ & F1-Weighted$_{\text{-upper-bound}}$ & F1-Weighted$_{\text{-lower-bound}}$ & F1-Weighted$_{\text{-upper-bound}}$ \\ \hline
5
+ bertimbau-base-essay-only & 0.43 & 0.60 & 0.27 & 0.43 & 0.19 & 0.35 & 0.47 & 0.64 & 0.27 & 0.45 \\
 
 
 
 
 
 
 
 
 
 
 
 
 
 
6
  \hline
7
+ bertimbau-large-essay-only & 0.61 & 0.77 & 0.33 & 0.49 & 0.18 & 0.33 & 0.52 & 0.68 & 0.27 & 0.45 \\
8
  \hline
9
+ bertugues-base-essay-only & 0.48 & 0.64 & 0.12 & 0.25 & 0.27 & 0.43 & 0.42 & 0.59 & 0.19 & 0.35 \\
 
10
  \hline
11
+ mbert-base-essay-only & 0.50 & 0.68 & 0.18 & 0.34 & 0.24 & 0.40 & 0.47 & 0.63 & 0.05 & 0.14 \\
 
12
  \hline\hline
13
  llama3.1-8b-lora-essay-only-r16 & 0.58 & 0.74 & 0.27 & 0.43 & 0.20 & 0.36 & 0.37 & 0.54 & 0.15 & 0.28 \\
14
  \hline
 
34
  \hline
35
  phi4-lora-full-context-r8 & 0.54 & 0.70 & 0.39 & 0.56 & 0.29 & 0.46 & 0.49 & 0.66 & 0.23 & 0.39 \\
36
  \hline\hline
37
+ deepseekR1-extractor-full\_context & 0.03 & 0.14 & 0.23 & 0.41 & 0.31 & 0.49 & 0.51 & 0.67 & 0.33 & 0.51 \\
38
  \hline
39
+ deepseekR1-graderPrompt-essay\_only & 0.17 & 0.33 & 0.01 & 0.10 & 0.12 & 0.26 & 0.16 & 0.33 & 0.25 & 0.42 \\
40
+ deepseekR1-graderPrompt-full\_context & 0.01 & 0.11 & 0.31 & 0.50 & 0.22 & 0.37 & 0.37 & 0.54 & 0.28 & 0.46 \\
41
  \hline
42
+ deepseekR1-studentPrompt-essay\_only & 0.10 & 0.24 & 0.17 & 0.33 & 0.25 & 0.41 & 0.31 & 0.48 & 0.34 & 0.51 \\
43
+ deepseekR1-studentPrompt-full\_context & 0.02 & 0.11 & 0.26 & 0.44 & 0.38 & 0.55 & 0.28 & 0.45 & 0.32 & 0.49 \\
44
  \hline
45
+ gpt4o-extractor-full\_context & 0.44 & 0.63 & 0.32 & 0.49 & 0.20 & 0.36 & 0.36 & 0.53 & 0.09 & 0.22 \\
46
+ \hline
47
+ gpt4o-graderPrompt-essay\_only & 0.36 & 0.53 & 0.13 & 0.27 & 0.19 & 0.34 & 0.30 & 0.47 & 0.26 & 0.42 \\
48
+ gpt4o-graderPrompt-full\_context & 0.43 & 0.60 & 0.33 & 0.50 & 0.23 & 0.41 & 0.39 & 0.56 & 0.18 & 0.33 \\
49
+ \hline
50
+ gpt4o-studentPrompt-essay\_only & 0.34 & 0.51 & 0.18 & 0.34 & 0.21 & 0.37 & 0.31 & 0.48 & 0.22 & 0.38 \\
51
+ gpt4o-studentPrompt-full\_context & 0.34 & 0.51 & 0.33 & 0.50 & 0.22 & 0.37 & 0.28 & 0.45 & 0.12 & 0.26 \\
52
+ \hline
53
+ sabia3-extractor-full\_context & 0.18 & 0.34 & 0.14 & 0.29 & 0.19 & 0.36 & 0.29 & 0.47 & 0.15 & 0.31 \\
54
+ \hline
55
+ sabia3-graderPrompt-essay\_only & 0.33 & 0.50 & 0.06 & 0.18 & 0.25 & 0.41 & 0.35 & 0.53 & 0.29 & 0.46 \\
56
+ sabia3-graderPrompt-full\_context & 0.41 & 0.59 & 0.33 & 0.50 & 0.29 & 0.45 & 0.41 & 0.58 & 0.24 & 0.40 \\
57
+ \hline
58
+ sabia3-studentPrompt-essay\_only & 0.58 & 0.74 & 0.06 & 0.17 & 0.22 & 0.38 & 0.43 & 0.62 & 0.26 & 0.43 \\
59
+ sabia3-studentPrompt-full\_context & 0.51 & 0.69 & 0.32 & 0.49 & 0.15 & 0.30 & 0.34 & 0.53 & 0.20 & 0.36 \\
60
  \hline\hline
61
  \end{tabular}%
create_latex_tables.py CHANGED
@@ -98,9 +98,10 @@ class ExperimentIdParser:
98
  )
99
 
100
  # Group definitions
101
- GROUP_1_PREFIXES = ["deepseekr1", "gpt4o", "sabia3"]
102
  GROUP_2_PREFIXES = ["phi3.5", "phi4", "llama3.1"]
103
- GROUP_3_PREFIXES = ["bertimbau", "bertugues", "mbert"]
 
104
 
105
  @classmethod
106
  def get_experiment_group(cls, experiment_id: str) -> int:
 
98
  )
99
 
100
  # Group definitions
101
+ GROUP_1_PREFIXES = ["bertimbau", "bertugues", "mbert"]
102
  GROUP_2_PREFIXES = ["phi3.5", "phi4", "llama3.1"]
103
+ GROUP_3_PREFIXES = ["sabia3", "deepseekr1", "gpt4o"]
104
+
105
 
106
  @classmethod
107
  def get_experiment_group(cls, experiment_id: str) -> int:
evaluation_results-00000-of-00001.parquet CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:ad2ea86ebad4d4a404f6c97e08c15002734901adff81d92cc1f28b7ab2ce5d2e
3
- size 65182
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:0fca8588cb67b7a43ce4d331b7c998443115ff62ed9e462adb1d33eb032426a8
3
+ size 70007
evaluation_table_avg_only.txt CHANGED
@@ -2,28 +2,13 @@
2
  \hline\hline
3
  & \multicolumn{3}{c|}{\textbf{C1}} & \multicolumn{3}{c|}{\textbf{C2}} & \multicolumn{3}{c|}{\textbf{C3}} & \multicolumn{3}{c|}{\textbf{C4}} & \multicolumn{3}{c|}{\textbf{C5}} \\ \hline
4
  & F1$_{ma}$ & F1$_{w}$ & QWK & F1$_{ma}$ & F1$_{w}$ & QWK & F1$_{ma}$ & F1$_{w}$ & QWK & F1$_{ma}$ & F1$_{w}$ & QWK & F1$_{ma}$ & F1$_{w}$ & QWK \\ \hline
5
- deepseekR1-extractor-full\_context-avg(A,B) & 0.04 & 0.08 & 0.20 & 0.27 & 0.34 & 0.51 & 0.30 & 0.41 & 0.52 & 0.37 & 0.60 & 0.56 & 0.37 & 0.42 & 0.61 \\
6
- \hline
7
- deepseekR1-graderPrompt-essay\_only-avg(A,B) & 0.17 & 0.25 & 0.44 & 0.05 & 0.05 & 0.03 & 0.19 & 0.19 & 0.39 & 0.21 & 0.25 & 0.48 & 0.31 & 0.34 & 0.55 \\
8
- deepseekR1-graderPrompt-full\_context-avg(A,B) & 0.05 & 0.06 & 0.20 & 0.32 & 0.43 & 0.53 & 0.30 & 0.30 & 0.60 & 0.29 & 0.46 & 0.55 & 0.35 & 0.38 & 0.60 \\
9
- \hline
10
- deepseekR1-studentPrompt-essay\_only-avg(A,B) & 0.11 & 0.17 & 0.36 & 0.13 & 0.26 & -0.02 & 0.32 & 0.34 & 0.38 & 0.27 & 0.39 & 0.52 & 0.37 & 0.43 & 0.55 \\
11
- deepseekR1-studentPrompt-full\_context-avg(A,B) & 0.04 & 0.06 & 0.35 & 0.26 & 0.37 & 0.42 & 0.44 & 0.47 & 0.73 & 0.22 & 0.37 & 0.49 & 0.37 & 0.40 & 0.58 \\
12
- \hline
13
- gpt4o-extractor-full\_context-avg(A,B) & 0.25 & 0.54 & 0.53 & 0.32 & 0.43 & 0.47 & 0.27 & 0.30 & 0.57 & 0.27 & 0.45 & 0.50 & 0.14 & 0.15 & 0.32 \\
14
- \hline
15
- gpt4o-graderPrompt-essay\_only-avg(A,B) & 0.21 & 0.45 & 0.49 & 0.16 & 0.22 & 0.28 & 0.20 & 0.27 & 0.28 & 0.29 & 0.39 & 0.51 & 0.32 & 0.35 & 0.54 \\
16
- \hline
17
- gpt4o-studentPrompt-essay\_only-avg(A,B) & 0.22 & 0.43 & 0.51 & 0.16 & 0.27 & 0.20 & 0.26 & 0.30 & 0.38 & 0.30 & 0.40 & 0.51 & 0.28 & 0.31 & 0.55 \\
18
- gpt4o-studentPrompt-full\_context-avg(A,B) & 0.21 & 0.42 & 0.48 & 0.34 & 0.43 & 0.52 & 0.27 & 0.30 & 0.53 & 0.26 & 0.37 & 0.49 & 0.17 & 0.19 & 0.35 \\
19
  \hline
20
- sabia3-extractor-full\_context-avg(A,B) & 0.10 & 0.26 & 0.31 & 0.16 & 0.24 & 0.28 & 0.20 & 0.29 & 0.21 & 0.18 & 0.38 & 0.38 & 0.22 & 0.24 & 0.51 \\
21
  \hline
22
- sabia3-graderPrompt-essay\_only-avg(A,B) & 0.23 & 0.42 & 0.53 & 0.11 & 0.12 & 0.06 & 0.28 & 0.33 & 0.34 & 0.24 & 0.43 & 0.55 & 0.33 & 0.38 & 0.59 \\
23
- sabia3-graderPrompt-full\_context-avg(A,B) & 0.24 & 0.50 & 0.50 & 0.33 & 0.43 & 0.50 & 0.33 & 0.37 & 0.54 & 0.31 & 0.49 & 0.53 & 0.28 & 0.32 & 0.50 \\
24
  \hline
25
- sabia3-studentPrompt-essay\_only-avg(A,B) & 0.35 & 0.66 & 0.69 & 0.11 & 0.11 & 0.01 & 0.23 & 0.32 & 0.30 & 0.31 & 0.53 & 0.52 & 0.29 & 0.35 & 0.51 \\
26
- sabia3-studentPrompt-full\_context-avg(A,B) & 0.35 & 0.60 & 0.58 & 0.28 & 0.42 & 0.47 & 0.21 & 0.24 & 0.45 & 0.28 & 0.43 & 0.39 & 0.27 & 0.28 & 0.54 \\
27
  \hline\hline
28
  llama3.1-8b-lora-essay-only-r16-avg(A,B) & 0.53 & 0.67 & 0.69 & 0.26 & 0.36 & 0.36 & 0.26 & 0.30 & 0.43 & 0.31 & 0.45 & 0.45 & 0.21 & 0.22 & 0.36 \\
29
  \hline
@@ -49,12 +34,28 @@ phi4-lora-full-context-r16-avg(A,B) & 0.41 & 0.58 & 0.61 & 0.42 & 0.52 & 0.60 &
49
  \hline
50
  phi4-lora-full-context-r8-avg(A,B) & 0.48 & 0.63 & 0.67 & 0.40 & 0.50 & 0.59 & 0.37 & 0.38 & 0.57 & 0.37 & 0.58 & 0.55 & 0.29 & 0.32 & 0.52 \\
51
  \hline\hline
52
- bertimbau-base-essay-only-avg(A,B) & 0.42 & 0.52 & 0.60 & 0.26 & 0.37 & 0.36 & 0.23 & 0.28 & 0.35 & 0.38 & 0.55 & 0.55 & 0.29 & 0.37 & 0.63 \\
53
  \hline
54
- bertimbau-large-essay-only-avg(A,B) & 0.52 & 0.69 & 0.68 & 0.33 & 0.43 & 0.32 & 0.19 & 0.26 & 0.24 & 0.48 & 0.61 & 0.60 & 0.29 & 0.37 & 0.46 \\
 
55
  \hline
56
- bertugues-base-essay-only-avg(A,B) & 0.44 & 0.56 & 0.62 & 0.14 & 0.19 & 0.33 & 0.25 & 0.36 & 0.29 & 0.35 & 0.51 & 0.54 & 0.23 & 0.28 & 0.36 \\
 
57
  \hline
58
- mbert-base-essay-only-avg(A,B) & 0.40 & 0.59 & 0.52 & 0.18 & 0.27 & 0.22 & 0.25 & 0.32 & 0.35 & 0.35 & 0.55 & 0.50 & 0.08 & 0.09 & 0.00 \\
 
 
 
 
 
 
 
 
 
 
 
 
 
 
59
  \hline\hline
60
  \end{tabular}%
 
2
  \hline\hline
3
  & \multicolumn{3}{c|}{\textbf{C1}} & \multicolumn{3}{c|}{\textbf{C2}} & \multicolumn{3}{c|}{\textbf{C3}} & \multicolumn{3}{c|}{\textbf{C4}} & \multicolumn{3}{c|}{\textbf{C5}} \\ \hline
4
  & F1$_{ma}$ & F1$_{w}$ & QWK & F1$_{ma}$ & F1$_{w}$ & QWK & F1$_{ma}$ & F1$_{w}$ & QWK & F1$_{ma}$ & F1$_{w}$ & QWK & F1$_{ma}$ & F1$_{w}$ & QWK \\ \hline
5
+ bertimbau-base-essay-only-avg(A,B) & 0.42 & 0.52 & 0.60 & 0.26 & 0.37 & 0.36 & 0.23 & 0.28 & 0.35 & 0.38 & 0.55 & 0.55 & 0.29 & 0.37 & 0.63 \\
 
 
 
 
 
 
 
 
 
 
 
 
 
6
  \hline
7
+ bertimbau-large-essay-only-avg(A,B) & 0.52 & 0.69 & 0.68 & 0.33 & 0.43 & 0.32 & 0.19 & 0.26 & 0.24 & 0.48 & 0.61 & 0.60 & 0.29 & 0.37 & 0.46 \\
8
  \hline
9
+ bertugues-base-essay-only-avg(A,B) & 0.44 & 0.56 & 0.62 & 0.14 & 0.19 & 0.33 & 0.25 & 0.36 & 0.29 & 0.35 & 0.51 & 0.54 & 0.23 & 0.28 & 0.36 \\
 
10
  \hline
11
+ mbert-base-essay-only-avg(A,B) & 0.40 & 0.59 & 0.52 & 0.18 & 0.27 & 0.22 & 0.25 & 0.32 & 0.35 & 0.35 & 0.55 & 0.50 & 0.08 & 0.09 & 0.00 \\
 
12
  \hline\hline
13
  llama3.1-8b-lora-essay-only-r16-avg(A,B) & 0.53 & 0.67 & 0.69 & 0.26 & 0.36 & 0.36 & 0.26 & 0.30 & 0.43 & 0.31 & 0.45 & 0.45 & 0.21 & 0.22 & 0.36 \\
14
  \hline
 
34
  \hline
35
  phi4-lora-full-context-r8-avg(A,B) & 0.48 & 0.63 & 0.67 & 0.40 & 0.50 & 0.59 & 0.37 & 0.38 & 0.57 & 0.37 & 0.58 & 0.55 & 0.29 & 0.32 & 0.52 \\
36
  \hline\hline
37
+ deepseekR1-extractor-full\_context-avg(A,B) & 0.04 & 0.08 & 0.20 & 0.27 & 0.34 & 0.51 & 0.30 & 0.41 & 0.52 & 0.37 & 0.60 & 0.56 & 0.37 & 0.42 & 0.61 \\
38
  \hline
39
+ deepseekR1-graderPrompt-essay\_only-avg(A,B) & 0.17 & 0.25 & 0.44 & 0.05 & 0.05 & 0.03 & 0.19 & 0.19 & 0.39 & 0.21 & 0.25 & 0.48 & 0.31 & 0.34 & 0.55 \\
40
+ deepseekR1-graderPrompt-full\_context-avg(A,B) & 0.05 & 0.06 & 0.20 & 0.32 & 0.43 & 0.53 & 0.30 & 0.30 & 0.60 & 0.29 & 0.46 & 0.55 & 0.35 & 0.38 & 0.60 \\
41
  \hline
42
+ deepseekR1-studentPrompt-essay\_only-avg(A,B) & 0.11 & 0.17 & 0.36 & 0.13 & 0.26 & -0.02 & 0.32 & 0.34 & 0.38 & 0.27 & 0.39 & 0.52 & 0.37 & 0.43 & 0.55 \\
43
+ deepseekR1-studentPrompt-full\_context-avg(A,B) & 0.04 & 0.06 & 0.35 & 0.26 & 0.37 & 0.42 & 0.44 & 0.47 & 0.73 & 0.22 & 0.37 & 0.49 & 0.37 & 0.40 & 0.58 \\
44
  \hline
45
+ gpt4o-extractor-full\_context-avg(A,B) & 0.25 & 0.54 & 0.53 & 0.32 & 0.43 & 0.47 & 0.27 & 0.30 & 0.57 & 0.27 & 0.45 & 0.50 & 0.14 & 0.15 & 0.32 \\
46
+ \hline
47
+ gpt4o-graderPrompt-essay\_only-avg(A,B) & 0.21 & 0.45 & 0.49 & 0.16 & 0.22 & 0.28 & 0.20 & 0.27 & 0.28 & 0.29 & 0.39 & 0.51 & 0.32 & 0.35 & 0.54 \\
48
+ gpt4o-graderPrompt-full\_context-avg(A,B) & 0.25 & 0.52 & 0.55 & 0.31 & 0.44 & 0.56 & 0.27 & 0.33 & 0.45 & 0.26 & 0.47 & 0.50 & 0.24 & 0.26 & 0.48 \\
49
+ \hline
50
+ gpt4o-studentPrompt-essay\_only-avg(A,B) & 0.22 & 0.43 & 0.51 & 0.16 & 0.27 & 0.20 & 0.26 & 0.30 & 0.38 & 0.30 & 0.40 & 0.51 & 0.28 & 0.31 & 0.55 \\
51
+ gpt4o-studentPrompt-full\_context-avg(A,B) & 0.21 & 0.42 & 0.48 & 0.34 & 0.43 & 0.52 & 0.27 & 0.30 & 0.53 & 0.26 & 0.37 & 0.49 & 0.17 & 0.19 & 0.35 \\
52
+ \hline
53
+ sabia3-extractor-full\_context-avg(A,B) & 0.10 & 0.26 & 0.31 & 0.16 & 0.24 & 0.28 & 0.20 & 0.29 & 0.21 & 0.18 & 0.38 & 0.38 & 0.22 & 0.24 & 0.51 \\
54
+ \hline
55
+ sabia3-graderPrompt-essay\_only-avg(A,B) & 0.23 & 0.42 & 0.53 & 0.11 & 0.12 & 0.06 & 0.28 & 0.33 & 0.34 & 0.24 & 0.43 & 0.55 & 0.33 & 0.38 & 0.59 \\
56
+ sabia3-graderPrompt-full\_context-avg(A,B) & 0.24 & 0.50 & 0.50 & 0.33 & 0.43 & 0.50 & 0.33 & 0.37 & 0.54 & 0.31 & 0.49 & 0.53 & 0.28 & 0.32 & 0.50 \\
57
+ \hline
58
+ sabia3-studentPrompt-essay\_only-avg(A,B) & 0.35 & 0.66 & 0.69 & 0.11 & 0.11 & 0.01 & 0.23 & 0.32 & 0.30 & 0.31 & 0.53 & 0.52 & 0.29 & 0.35 & 0.51 \\
59
+ sabia3-studentPrompt-full\_context-avg(A,B) & 0.35 & 0.60 & 0.58 & 0.28 & 0.42 & 0.47 & 0.21 & 0.24 & 0.45 & 0.28 & 0.43 & 0.39 & 0.27 & 0.28 & 0.54 \\
60
  \hline\hline
61
  \end{tabular}%
evaluation_table_full.txt CHANGED
@@ -2,70 +2,25 @@
2
  \hline\hline
3
  & \multicolumn{3}{c|}{\textbf{C1}} & \multicolumn{3}{c|}{\textbf{C2}} & \multicolumn{3}{c|}{\textbf{C3}} & \multicolumn{3}{c|}{\textbf{C4}} & \multicolumn{3}{c|}{\textbf{C5}} \\ \hline
4
  & F1$_{ma}$ & F1$_{w}$ & QWK & F1$_{ma}$ & F1$_{w}$ & QWK & F1$_{ma}$ & F1$_{w}$ & QWK & F1$_{ma}$ & F1$_{w}$ & QWK & F1$_{ma}$ & F1$_{w}$ & QWK \\ \hline
5
- deepseekR1-extractor-full\_context-avg(A,B) & 0.04 & 0.08 & 0.20 & 0.27 & 0.34 & 0.51 & 0.30 & 0.41 & 0.52 & 0.37 & 0.60 & 0.56 & 0.37 & 0.42 & 0.61 \\
6
- deepseekR1-extractor-full\_context-concat(A,B) & 0.03 & 0.08 & 0.21 & 0.29 & 0.31 & 0.51 & 0.32 & 0.40 & 0.52 & 0.31 & 0.59 & 0.56 & 0.38 & 0.42 & 0.61 \\
7
- deepseekR1-extractor-full\_context-onlyA & 0.02 & 0.05 & 0.24 & 0.31 & 0.39 & 0.45 & 0.27 & 0.41 & 0.51 & 0.36 & 0.57 & 0.49 & 0.38 & 0.42 & 0.58 \\
8
- deepseekR1-extractor-full\_context-onlyB & 0.06 & 0.12 & 0.17 & 0.23 & 0.30 & 0.57 & 0.33 & 0.40 & 0.54 & 0.38 & 0.62 & 0.62 & 0.36 & 0.43 & 0.64 \\
9
- \hline
10
- deepseekR1-graderPrompt-essay\_only-avg(A,B) & 0.17 & 0.25 & 0.44 & 0.05 & 0.05 & 0.03 & 0.19 & 0.19 & 0.39 & 0.21 & 0.25 & 0.48 & 0.31 & 0.34 & 0.55 \\
11
- deepseekR1-graderPrompt-essay\_only-concat(A,B) & 0.16 & 0.25 & 0.44 & 0.04 & 0.05 & 0.03 & 0.18 & 0.18 & 0.40 & 0.18 & 0.24 & 0.47 & 0.32 & 0.33 & 0.55 \\
12
- deepseekR1-graderPrompt-essay\_only-onlyA & 0.17 & 0.25 & 0.45 & 0.08 & 0.08 & 0.02 & 0.12 & 0.17 & 0.34 & 0.15 & 0.24 & 0.40 & 0.30 & 0.31 & 0.52 \\
13
- deepseekR1-graderPrompt-essay\_only-onlyB & 0.17 & 0.25 & 0.43 & 0.02 & 0.03 & 0.04 & 0.26 & 0.22 & 0.44 & 0.26 & 0.25 & 0.55 & 0.33 & 0.37 & 0.58 \\
14
- deepseekR1-graderPrompt-full\_context-avg(A,B) & 0.05 & 0.06 & 0.20 & 0.32 & 0.43 & 0.53 & 0.30 & 0.30 & 0.60 & 0.29 & 0.46 & 0.55 & 0.35 & 0.38 & 0.60 \\
15
- deepseekR1-graderPrompt-full\_context-concat(A,B) & 0.06 & 0.06 & 0.20 & 0.36 & 0.40 & 0.51 & 0.31 & 0.29 & 0.60 & 0.25 & 0.46 & 0.55 & 0.36 & 0.37 & 0.60 \\
16
- deepseekR1-graderPrompt-full\_context-onlyA & 0.09 & 0.09 & 0.20 & 0.32 & 0.43 & 0.41 & 0.26 & 0.25 & 0.59 & 0.29 & 0.42 & 0.52 & 0.32 & 0.35 & 0.54 \\
17
- deepseekR1-graderPrompt-full\_context-onlyB & 0.02 & 0.03 & 0.20 & 0.33 & 0.43 & 0.65 & 0.33 & 0.36 & 0.61 & 0.30 & 0.49 & 0.58 & 0.38 & 0.41 & 0.65 \\
18
- \hline
19
- deepseekR1-studentPrompt-essay\_only-avg(A,B) & 0.11 & 0.17 & 0.36 & 0.13 & 0.26 & -0.02 & 0.32 & 0.34 & 0.38 & 0.27 & 0.39 & 0.52 & 0.37 & 0.43 & 0.55 \\
20
- deepseekR1-studentPrompt-essay\_only-concat(A,B) & 0.10 & 0.17 & 0.36 & 0.15 & 0.25 & -0.01 & 0.29 & 0.33 & 0.38 & 0.26 & 0.39 & 0.52 & 0.37 & 0.43 & 0.55 \\
21
- deepseekR1-studentPrompt-essay\_only-onlyA & 0.10 & 0.15 & 0.35 & 0.11 & 0.26 & -0.01 & 0.25 & 0.31 & 0.33 & 0.21 & 0.40 & 0.49 & 0.33 & 0.36 & 0.50 \\
22
- deepseekR1-studentPrompt-essay\_only-onlyB & 0.11 & 0.18 & 0.37 & 0.15 & 0.26 & -0.03 & 0.39 & 0.37 & 0.43 & 0.33 & 0.38 & 0.54 & 0.41 & 0.50 & 0.59 \\
23
- deepseekR1-studentPrompt-full\_context-avg(A,B) & 0.04 & 0.06 & 0.35 & 0.26 & 0.37 & 0.42 & 0.44 & 0.47 & 0.73 & 0.22 & 0.37 & 0.49 & 0.37 & 0.40 & 0.58 \\
24
- deepseekR1-studentPrompt-full\_context-concat(A,B) & 0.04 & 0.06 & 0.35 & 0.30 & 0.35 & 0.41 & 0.46 & 0.46 & 0.73 & 0.20 & 0.36 & 0.49 & 0.39 & 0.40 & 0.58 \\
25
- deepseekR1-studentPrompt-full\_context-onlyA & 0.03 & 0.07 & 0.37 & 0.24 & 0.30 & 0.37 & 0.45 & 0.42 & 0.69 & 0.17 & 0.40 & 0.47 & 0.31 & 0.34 & 0.52 \\
26
- deepseekR1-studentPrompt-full\_context-onlyB & 0.05 & 0.06 & 0.34 & 0.28 & 0.43 & 0.47 & 0.43 & 0.53 & 0.77 & 0.28 & 0.33 & 0.51 & 0.43 & 0.46 & 0.64 \\
27
- \hline
28
- gpt4o-extractor-full\_context-avg(A,B) & 0.25 & 0.54 & 0.53 & 0.32 & 0.43 & 0.47 & 0.27 & 0.30 & 0.57 & 0.27 & 0.45 & 0.50 & 0.14 & 0.15 & 0.32 \\
29
- gpt4o-extractor-full\_context-concat(A,B) & 0.23 & 0.54 & 0.54 & 0.36 & 0.41 & 0.47 & 0.29 & 0.28 & 0.57 & 0.28 & 0.45 & 0.50 & 0.15 & 0.15 & 0.31 \\
30
- gpt4o-extractor-full\_context-onlyA & 0.25 & 0.54 & 0.58 & 0.35 & 0.49 & 0.44 & 0.29 & 0.34 & 0.55 & 0.20 & 0.44 & 0.49 & 0.14 & 0.14 & 0.33 \\
31
- gpt4o-extractor-full\_context-onlyB & 0.24 & 0.53 & 0.48 & 0.29 & 0.38 & 0.50 & 0.25 & 0.26 & 0.59 & 0.34 & 0.47 & 0.52 & 0.15 & 0.17 & 0.31 \\
32
- \hline
33
- gpt4o-graderPrompt-essay\_only-avg(A,B) & 0.21 & 0.45 & 0.49 & 0.16 & 0.22 & 0.28 & 0.20 & 0.27 & 0.28 & 0.29 & 0.39 & 0.51 & 0.32 & 0.35 & 0.54 \\
34
- gpt4o-graderPrompt-essay\_only-concat(A,B) & 0.19 & 0.45 & 0.49 & 0.20 & 0.19 & 0.29 & 0.18 & 0.26 & 0.28 & 0.26 & 0.39 & 0.51 & 0.32 & 0.34 & 0.54 \\
35
- gpt4o-graderPrompt-essay\_only-onlyA & 0.17 & 0.42 & 0.48 & 0.14 & 0.20 & 0.29 & 0.20 & 0.34 & 0.29 & 0.17 & 0.38 & 0.48 & 0.26 & 0.26 & 0.49 \\
36
- gpt4o-graderPrompt-essay\_only-onlyB & 0.25 & 0.47 & 0.50 & 0.17 & 0.24 & 0.28 & 0.19 & 0.21 & 0.28 & 0.40 & 0.40 & 0.54 & 0.37 & 0.43 & 0.59 \\
37
- \hline
38
- gpt4o-studentPrompt-essay\_only-avg(A,B) & 0.22 & 0.43 & 0.51 & 0.16 & 0.27 & 0.20 & 0.26 & 0.30 & 0.38 & 0.30 & 0.40 & 0.51 & 0.28 & 0.31 & 0.55 \\
39
- gpt4o-studentPrompt-essay\_only-concat(A,B) & 0.20 & 0.42 & 0.51 & 0.18 & 0.26 & 0.20 & 0.24 & 0.29 & 0.38 & 0.28 & 0.39 & 0.51 & 0.29 & 0.30 & 0.55 \\
40
- gpt4o-studentPrompt-essay\_only-onlyA & 0.19 & 0.40 & 0.51 & 0.16 & 0.31 & 0.19 & 0.22 & 0.30 & 0.36 & 0.18 & 0.39 & 0.46 & 0.25 & 0.25 & 0.52 \\
41
- gpt4o-studentPrompt-essay\_only-onlyB & 0.24 & 0.45 & 0.50 & 0.15 & 0.24 & 0.20 & 0.30 & 0.29 & 0.40 & 0.42 & 0.40 & 0.55 & 0.31 & 0.37 & 0.57 \\
42
- gpt4o-studentPrompt-full\_context-avg(A,B) & 0.21 & 0.42 & 0.48 & 0.34 & 0.43 & 0.52 & 0.27 & 0.30 & 0.53 & 0.26 & 0.37 & 0.49 & 0.17 & 0.19 & 0.35 \\
43
- gpt4o-studentPrompt-full\_context-concat(A,B) & 0.18 & 0.42 & 0.48 & 0.38 & 0.41 & 0.51 & 0.25 & 0.29 & 0.53 & 0.24 & 0.37 & 0.49 & 0.17 & 0.19 & 0.35 \\
44
- gpt4o-studentPrompt-full\_context-onlyA & 0.15 & 0.36 & 0.48 & 0.36 & 0.48 & 0.47 & 0.26 & 0.36 & 0.50 & 0.17 & 0.37 & 0.43 & 0.14 & 0.16 & 0.37 \\
45
- gpt4o-studentPrompt-full\_context-onlyB & 0.26 & 0.48 & 0.48 & 0.31 & 0.37 & 0.57 & 0.28 & 0.25 & 0.56 & 0.35 & 0.37 & 0.55 & 0.21 & 0.22 & 0.34 \\
46
  \hline
47
- sabia3-extractor-full\_context-avg(A,B) & 0.10 & 0.26 & 0.31 & 0.16 & 0.24 & 0.28 & 0.20 & 0.29 & 0.21 & 0.18 & 0.38 & 0.38 & 0.22 & 0.24 & 0.51 \\
48
- sabia3-extractor-full\_context-concat(A,B) & 0.09 & 0.26 & 0.31 & 0.15 & 0.21 & 0.28 & 0.19 & 0.27 & 0.21 & 0.17 & 0.38 & 0.38 & 0.23 & 0.23 & 0.52 \\
49
- sabia3-extractor-full\_context-onlyA & 0.09 & 0.24 & 0.29 & 0.21 & 0.34 & 0.29 & 0.20 & 0.37 & 0.24 & 0.19 & 0.42 & 0.35 & 0.22 & 0.25 & 0.46 \\
50
- sabia3-extractor-full\_context-onlyB & 0.11 & 0.28 & 0.33 & 0.12 & 0.14 & 0.27 & 0.20 & 0.21 & 0.19 & 0.18 & 0.35 & 0.40 & 0.21 & 0.23 & 0.56 \\
51
  \hline
52
- sabia3-graderPrompt-essay\_only-avg(A,B) & 0.23 & 0.42 & 0.53 & 0.11 & 0.12 & 0.06 & 0.28 & 0.33 & 0.34 & 0.24 & 0.43 & 0.55 & 0.33 & 0.38 & 0.59 \\
53
- sabia3-graderPrompt-essay\_only-concat(A,B) & 0.21 & 0.42 & 0.53 & 0.09 & 0.11 & 0.06 & 0.25 & 0.32 & 0.34 & 0.22 & 0.43 & 0.55 & 0.33 & 0.37 & 0.59 \\
54
- sabia3-graderPrompt-essay\_only-onlyA & 0.23 & 0.44 & 0.51 & 0.15 & 0.10 & 0.09 & 0.22 & 0.34 & 0.30 & 0.15 & 0.42 & 0.50 & 0.26 & 0.30 & 0.54 \\
55
- sabia3-graderPrompt-essay\_only-onlyB & 0.22 & 0.40 & 0.55 & 0.07 & 0.13 & 0.03 & 0.33 & 0.33 & 0.38 & 0.32 & 0.45 & 0.60 & 0.41 & 0.46 & 0.63 \\
56
- sabia3-graderPrompt-full\_context-avg(A,B) & 0.24 & 0.50 & 0.50 & 0.33 & 0.43 & 0.50 & 0.33 & 0.37 & 0.54 & 0.31 & 0.49 & 0.53 & 0.28 & 0.32 & 0.50 \\
57
- sabia3-graderPrompt-full\_context-concat(A,B) & 0.23 & 0.50 & 0.50 & 0.37 & 0.41 & 0.49 & 0.37 & 0.36 & 0.54 & 0.29 & 0.49 & 0.53 & 0.29 & 0.31 & 0.50 \\
58
- sabia3-graderPrompt-full\_context-onlyA & 0.23 & 0.50 & 0.48 & 0.37 & 0.45 & 0.47 & 0.37 & 0.39 & 0.53 & 0.22 & 0.52 & 0.53 & 0.29 & 0.36 & 0.51 \\
59
- sabia3-graderPrompt-full\_context-onlyB & 0.26 & 0.51 & 0.51 & 0.29 & 0.41 & 0.52 & 0.29 & 0.35 & 0.55 & 0.40 & 0.47 & 0.53 & 0.27 & 0.28 & 0.48 \\
60
  \hline
61
- sabia3-studentPrompt-essay\_only-avg(A,B) & 0.35 & 0.66 & 0.69 & 0.11 & 0.11 & 0.01 & 0.23 & 0.32 & 0.30 & 0.31 & 0.53 & 0.52 & 0.29 & 0.35 & 0.51 \\
62
- sabia3-studentPrompt-essay\_only-concat(A,B) & 0.32 & 0.66 & 0.69 & 0.08 & 0.11 & 0.02 & 0.22 & 0.30 & 0.30 & 0.29 & 0.52 & 0.52 & 0.30 & 0.34 & 0.51 \\
63
- sabia3-studentPrompt-essay\_only-onlyA & 0.31 & 0.61 & 0.66 & 0.14 & 0.08 & 0.04 & 0.20 & 0.41 & 0.27 & 0.23 & 0.56 & 0.54 & 0.29 & 0.32 & 0.47 \\
64
- sabia3-studentPrompt-essay\_only-onlyB & 0.40 & 0.72 & 0.72 & 0.08 & 0.14 & -0.02 & 0.25 & 0.23 & 0.33 & 0.38 & 0.49 & 0.49 & 0.30 & 0.38 & 0.55 \\
65
- sabia3-studentPrompt-full\_context-avg(A,B) & 0.35 & 0.60 & 0.58 & 0.28 & 0.42 & 0.47 & 0.21 & 0.24 & 0.45 & 0.28 & 0.43 & 0.39 & 0.27 & 0.28 & 0.54 \\
66
- sabia3-studentPrompt-full\_context-concat(A,B) & 0.32 & 0.60 & 0.57 & 0.31 & 0.40 & 0.46 & 0.23 & 0.22 & 0.45 & 0.25 & 0.43 & 0.39 & 0.27 & 0.28 & 0.53 \\
67
- sabia3-studentPrompt-full\_context-onlyA & 0.33 & 0.58 & 0.54 & 0.30 & 0.38 & 0.35 & 0.23 & 0.28 & 0.43 & 0.18 & 0.46 & 0.41 & 0.25 & 0.25 & 0.54 \\
68
- sabia3-studentPrompt-full\_context-onlyB & 0.37 & 0.62 & 0.62 & 0.26 & 0.46 & 0.59 & 0.18 & 0.19 & 0.47 & 0.38 & 0.41 & 0.36 & 0.30 & 0.31 & 0.53 \\
69
  \hline\hline
70
  llama3.1-8b-lora-essay-only-r16-avg(A,B) & 0.53 & 0.67 & 0.69 & 0.26 & 0.36 & 0.36 & 0.26 & 0.30 & 0.43 & 0.31 & 0.45 & 0.45 & 0.21 & 0.22 & 0.36 \\
71
  llama3.1-8b-lora-essay-only-r16-concat(A,B) & 0.48 & 0.67 & 0.69 & 0.25 & 0.35 & 0.36 & 0.25 & 0.28 & 0.43 & 0.26 & 0.45 & 0.45 & 0.22 & 0.21 & 0.36 \\
@@ -127,24 +82,73 @@ phi4-lora-full-context-r8-concat(A,B) & 0.43 & 0.62 & 0.67 & 0.39 & 0.47 & 0.59
127
  phi4-lora-full-context-r8-onlyA & 0.45 & 0.61 & 0.66 & 0.28 & 0.46 & 0.56 & 0.25 & 0.33 & 0.53 & 0.30 & 0.58 & 0.50 & 0.25 & 0.28 & 0.49 \\
128
  phi4-lora-full-context-r8-onlyB & 0.52 & 0.64 & 0.68 & 0.53 & 0.54 & 0.62 & 0.49 & 0.44 & 0.61 & 0.44 & 0.57 & 0.60 & 0.34 & 0.35 & 0.55 \\
129
  \hline\hline
130
- bertimbau-base-essay-only-avg(A,B) & 0.42 & 0.52 & 0.60 & 0.26 & 0.37 & 0.36 & 0.23 & 0.28 & 0.35 & 0.38 & 0.55 & 0.55 & 0.29 & 0.37 & 0.63 \\
131
- bertimbau-base-essay-only-concat(A,B) & 0.37 & 0.52 & 0.60 & 0.25 & 0.35 & 0.35 & 0.22 & 0.27 & 0.35 & 0.32 & 0.55 & 0.55 & 0.30 & 0.36 & 0.63 \\
132
- bertimbau-base-essay-only-onlyA & 0.35 & 0.52 & 0.59 & 0.18 & 0.34 & 0.28 & 0.17 & 0.29 & 0.34 & 0.40 & 0.58 & 0.49 & 0.29 & 0.34 & 0.60 \\
133
- bertimbau-base-essay-only-onlyB & 0.49 & 0.51 & 0.61 & 0.34 & 0.39 & 0.44 & 0.29 & 0.27 & 0.36 & 0.36 & 0.52 & 0.61 & 0.30 & 0.40 & 0.65 \\
134
  \hline
135
- bertimbau-large-essay-only-avg(A,B) & 0.52 & 0.69 & 0.68 & 0.33 & 0.43 & 0.32 & 0.19 & 0.26 & 0.24 & 0.48 & 0.61 & 0.60 & 0.29 & 0.37 & 0.46 \\
136
- bertimbau-large-essay-only-concat(A,B) & 0.46 & 0.69 & 0.68 & 0.32 & 0.41 & 0.32 & 0.17 & 0.26 & 0.25 & 0.46 & 0.60 & 0.60 & 0.30 & 0.36 & 0.46 \\
137
- bertimbau-large-essay-only-onlyA & 0.49 & 0.71 & 0.69 & 0.26 & 0.43 & 0.24 & 0.14 & 0.25 & 0.18 & 0.31 & 0.54 & 0.53 & 0.34 & 0.43 & 0.49 \\
138
- bertimbau-large-essay-only-onlyB & 0.54 & 0.67 & 0.67 & 0.40 & 0.44 & 0.41 & 0.24 & 0.26 & 0.30 & 0.65 & 0.67 & 0.67 & 0.25 & 0.31 & 0.43 \\
 
 
 
 
139
  \hline
140
- bertugues-base-essay-only-avg(A,B) & 0.44 & 0.56 & 0.62 & 0.14 & 0.19 & 0.33 & 0.25 & 0.36 & 0.29 & 0.35 & 0.51 & 0.54 & 0.23 & 0.28 & 0.36 \\
141
- bertugues-base-essay-only-concat(A,B) & 0.39 & 0.56 & 0.61 & 0.14 & 0.18 & 0.33 & 0.26 & 0.35 & 0.29 & 0.29 & 0.51 & 0.54 & 0.24 & 0.27 & 0.36 \\
142
- bertugues-base-essay-only-onlyA & 0.35 & 0.53 & 0.54 & 0.14 & 0.29 & 0.34 & 0.22 & 0.36 & 0.29 & 0.37 & 0.50 & 0.50 & 0.24 & 0.31 & 0.37 \\
143
- bertugues-base-essay-only-onlyB & 0.53 & 0.60 & 0.70 & 0.14 & 0.10 & 0.33 & 0.28 & 0.35 & 0.28 & 0.32 & 0.51 & 0.58 & 0.22 & 0.24 & 0.35 \\
 
 
 
 
144
  \hline
145
- mbert-base-essay-only-avg(A,B) & 0.40 & 0.59 & 0.52 & 0.18 & 0.27 & 0.22 & 0.25 & 0.32 & 0.35 & 0.35 & 0.55 & 0.50 & 0.08 & 0.09 & 0.00 \\
146
- mbert-base-essay-only-concat(A,B) & 0.35 & 0.59 & 0.51 & 0.19 & 0.26 & 0.22 & 0.22 & 0.32 & 0.36 & 0.29 & 0.55 & 0.50 & 0.08 & 0.09 & 0.00 \\
147
- mbert-base-essay-only-onlyA & 0.34 & 0.56 & 0.42 & 0.17 & 0.29 & 0.24 & 0.19 & 0.30 & 0.31 & 0.37 & 0.57 & 0.40 & 0.06 & 0.04 & 0.01 \\
148
- mbert-base-essay-only-onlyB & 0.46 & 0.62 & 0.61 & 0.19 & 0.26 & 0.21 & 0.30 & 0.35 & 0.40 & 0.34 & 0.53 & 0.59 & 0.10 & 0.14 & -0.01 \\
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
149
  \hline\hline
150
  \end{tabular}%
 
2
  \hline\hline
3
  & \multicolumn{3}{c|}{\textbf{C1}} & \multicolumn{3}{c|}{\textbf{C2}} & \multicolumn{3}{c|}{\textbf{C3}} & \multicolumn{3}{c|}{\textbf{C4}} & \multicolumn{3}{c|}{\textbf{C5}} \\ \hline
4
  & F1$_{ma}$ & F1$_{w}$ & QWK & F1$_{ma}$ & F1$_{w}$ & QWK & F1$_{ma}$ & F1$_{w}$ & QWK & F1$_{ma}$ & F1$_{w}$ & QWK & F1$_{ma}$ & F1$_{w}$ & QWK \\ \hline
5
+ bertimbau-base-essay-only-avg(A,B) & 0.42 & 0.52 & 0.60 & 0.26 & 0.37 & 0.36 & 0.23 & 0.28 & 0.35 & 0.38 & 0.55 & 0.55 & 0.29 & 0.37 & 0.63 \\
6
+ bertimbau-base-essay-only-concat(A,B) & 0.37 & 0.52 & 0.60 & 0.25 & 0.35 & 0.35 & 0.22 & 0.27 & 0.35 & 0.32 & 0.55 & 0.55 & 0.30 & 0.36 & 0.63 \\
7
+ bertimbau-base-essay-only-onlyA & 0.35 & 0.52 & 0.59 & 0.18 & 0.34 & 0.28 & 0.17 & 0.29 & 0.34 & 0.40 & 0.58 & 0.49 & 0.29 & 0.34 & 0.60 \\
8
+ bertimbau-base-essay-only-onlyB & 0.49 & 0.51 & 0.61 & 0.34 & 0.39 & 0.44 & 0.29 & 0.27 & 0.36 & 0.36 & 0.52 & 0.61 & 0.30 & 0.40 & 0.65 \\
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
9
  \hline
10
+ bertimbau-large-essay-only-avg(A,B) & 0.52 & 0.69 & 0.68 & 0.33 & 0.43 & 0.32 & 0.19 & 0.26 & 0.24 & 0.48 & 0.61 & 0.60 & 0.29 & 0.37 & 0.46 \\
11
+ bertimbau-large-essay-only-concat(A,B) & 0.46 & 0.69 & 0.68 & 0.32 & 0.41 & 0.32 & 0.17 & 0.26 & 0.25 & 0.46 & 0.60 & 0.60 & 0.30 & 0.36 & 0.46 \\
12
+ bertimbau-large-essay-only-onlyA & 0.49 & 0.71 & 0.69 & 0.26 & 0.43 & 0.24 & 0.14 & 0.25 & 0.18 & 0.31 & 0.54 & 0.53 & 0.34 & 0.43 & 0.49 \\
13
+ bertimbau-large-essay-only-onlyB & 0.54 & 0.67 & 0.67 & 0.40 & 0.44 & 0.41 & 0.24 & 0.26 & 0.30 & 0.65 & 0.67 & 0.67 & 0.25 & 0.31 & 0.43 \\
14
  \hline
15
+ bertugues-base-essay-only-avg(A,B) & 0.44 & 0.56 & 0.62 & 0.14 & 0.19 & 0.33 & 0.25 & 0.36 & 0.29 & 0.35 & 0.51 & 0.54 & 0.23 & 0.28 & 0.36 \\
16
+ bertugues-base-essay-only-concat(A,B) & 0.39 & 0.56 & 0.61 & 0.14 & 0.18 & 0.33 & 0.26 & 0.35 & 0.29 & 0.29 & 0.51 & 0.54 & 0.24 & 0.27 & 0.36 \\
17
+ bertugues-base-essay-only-onlyA & 0.35 & 0.53 & 0.54 & 0.14 & 0.29 & 0.34 & 0.22 & 0.36 & 0.29 & 0.37 & 0.50 & 0.50 & 0.24 & 0.31 & 0.37 \\
18
+ bertugues-base-essay-only-onlyB & 0.53 & 0.60 & 0.70 & 0.14 & 0.10 & 0.33 & 0.28 & 0.35 & 0.28 & 0.32 & 0.51 & 0.58 & 0.22 & 0.24 & 0.35 \\
 
 
 
 
19
  \hline
20
+ mbert-base-essay-only-avg(A,B) & 0.40 & 0.59 & 0.52 & 0.18 & 0.27 & 0.22 & 0.25 & 0.32 & 0.35 & 0.35 & 0.55 & 0.50 & 0.08 & 0.09 & 0.00 \\
21
+ mbert-base-essay-only-concat(A,B) & 0.35 & 0.59 & 0.51 & 0.19 & 0.26 & 0.22 & 0.22 & 0.32 & 0.36 & 0.29 & 0.55 & 0.50 & 0.08 & 0.09 & 0.00 \\
22
+ mbert-base-essay-only-onlyA & 0.34 & 0.56 & 0.42 & 0.17 & 0.29 & 0.24 & 0.19 & 0.30 & 0.31 & 0.37 & 0.57 & 0.40 & 0.06 & 0.04 & 0.01 \\
23
+ mbert-base-essay-only-onlyB & 0.46 & 0.62 & 0.61 & 0.19 & 0.26 & 0.21 & 0.30 & 0.35 & 0.40 & 0.34 & 0.53 & 0.59 & 0.10 & 0.14 & -0.01 \\
 
 
 
 
24
  \hline\hline
25
  llama3.1-8b-lora-essay-only-r16-avg(A,B) & 0.53 & 0.67 & 0.69 & 0.26 & 0.36 & 0.36 & 0.26 & 0.30 & 0.43 & 0.31 & 0.45 & 0.45 & 0.21 & 0.22 & 0.36 \\
26
  llama3.1-8b-lora-essay-only-r16-concat(A,B) & 0.48 & 0.67 & 0.69 & 0.25 & 0.35 & 0.36 & 0.25 & 0.28 & 0.43 & 0.26 & 0.45 & 0.45 & 0.22 & 0.21 & 0.36 \\
 
82
  phi4-lora-full-context-r8-onlyA & 0.45 & 0.61 & 0.66 & 0.28 & 0.46 & 0.56 & 0.25 & 0.33 & 0.53 & 0.30 & 0.58 & 0.50 & 0.25 & 0.28 & 0.49 \\
83
  phi4-lora-full-context-r8-onlyB & 0.52 & 0.64 & 0.68 & 0.53 & 0.54 & 0.62 & 0.49 & 0.44 & 0.61 & 0.44 & 0.57 & 0.60 & 0.34 & 0.35 & 0.55 \\
84
  \hline\hline
85
+ deepseekR1-extractor-full\_context-avg(A,B) & 0.04 & 0.08 & 0.20 & 0.27 & 0.34 & 0.51 & 0.30 & 0.41 & 0.52 & 0.37 & 0.60 & 0.56 & 0.37 & 0.42 & 0.61 \\
86
+ deepseekR1-extractor-full\_context-concat(A,B) & 0.03 & 0.08 & 0.21 & 0.29 & 0.31 & 0.51 & 0.32 & 0.40 & 0.52 & 0.31 & 0.59 & 0.56 & 0.38 & 0.42 & 0.61 \\
87
+ deepseekR1-extractor-full\_context-onlyA & 0.02 & 0.05 & 0.24 & 0.31 & 0.39 & 0.45 & 0.27 & 0.41 & 0.51 & 0.36 & 0.57 & 0.49 & 0.38 & 0.42 & 0.58 \\
88
+ deepseekR1-extractor-full\_context-onlyB & 0.06 & 0.12 & 0.17 & 0.23 & 0.30 & 0.57 & 0.33 & 0.40 & 0.54 & 0.38 & 0.62 & 0.62 & 0.36 & 0.43 & 0.64 \\
89
  \hline
90
+ deepseekR1-graderPrompt-essay\_only-avg(A,B) & 0.17 & 0.25 & 0.44 & 0.05 & 0.05 & 0.03 & 0.19 & 0.19 & 0.39 & 0.21 & 0.25 & 0.48 & 0.31 & 0.34 & 0.55 \\
91
+ deepseekR1-graderPrompt-essay\_only-concat(A,B) & 0.16 & 0.25 & 0.44 & 0.04 & 0.05 & 0.03 & 0.18 & 0.18 & 0.40 & 0.18 & 0.24 & 0.47 & 0.32 & 0.33 & 0.55 \\
92
+ deepseekR1-graderPrompt-essay\_only-onlyA & 0.17 & 0.25 & 0.45 & 0.08 & 0.08 & 0.02 & 0.12 & 0.17 & 0.34 & 0.15 & 0.24 & 0.40 & 0.30 & 0.31 & 0.52 \\
93
+ deepseekR1-graderPrompt-essay\_only-onlyB & 0.17 & 0.25 & 0.43 & 0.02 & 0.03 & 0.04 & 0.26 & 0.22 & 0.44 & 0.26 & 0.25 & 0.55 & 0.33 & 0.37 & 0.58 \\
94
+ deepseekR1-graderPrompt-full\_context-avg(A,B) & 0.05 & 0.06 & 0.20 & 0.32 & 0.43 & 0.53 & 0.30 & 0.30 & 0.60 & 0.29 & 0.46 & 0.55 & 0.35 & 0.38 & 0.60 \\
95
+ deepseekR1-graderPrompt-full\_context-concat(A,B) & 0.06 & 0.06 & 0.20 & 0.36 & 0.40 & 0.51 & 0.31 & 0.29 & 0.60 & 0.25 & 0.46 & 0.55 & 0.36 & 0.37 & 0.60 \\
96
+ deepseekR1-graderPrompt-full\_context-onlyA & 0.09 & 0.09 & 0.20 & 0.32 & 0.43 & 0.41 & 0.26 & 0.25 & 0.59 & 0.29 & 0.42 & 0.52 & 0.32 & 0.35 & 0.54 \\
97
+ deepseekR1-graderPrompt-full\_context-onlyB & 0.02 & 0.03 & 0.20 & 0.33 & 0.43 & 0.65 & 0.33 & 0.36 & 0.61 & 0.30 & 0.49 & 0.58 & 0.38 & 0.41 & 0.65 \\
98
  \hline
99
+ deepseekR1-studentPrompt-essay\_only-avg(A,B) & 0.11 & 0.17 & 0.36 & 0.13 & 0.26 & -0.02 & 0.32 & 0.34 & 0.38 & 0.27 & 0.39 & 0.52 & 0.37 & 0.43 & 0.55 \\
100
+ deepseekR1-studentPrompt-essay\_only-concat(A,B) & 0.10 & 0.17 & 0.36 & 0.15 & 0.25 & -0.01 & 0.29 & 0.33 & 0.38 & 0.26 & 0.39 & 0.52 & 0.37 & 0.43 & 0.55 \\
101
+ deepseekR1-studentPrompt-essay\_only-onlyA & 0.10 & 0.15 & 0.35 & 0.11 & 0.26 & -0.01 & 0.25 & 0.31 & 0.33 & 0.21 & 0.40 & 0.49 & 0.33 & 0.36 & 0.50 \\
102
+ deepseekR1-studentPrompt-essay\_only-onlyB & 0.11 & 0.18 & 0.37 & 0.15 & 0.26 & -0.03 & 0.39 & 0.37 & 0.43 & 0.33 & 0.38 & 0.54 & 0.41 & 0.50 & 0.59 \\
103
+ deepseekR1-studentPrompt-full\_context-avg(A,B) & 0.04 & 0.06 & 0.35 & 0.26 & 0.37 & 0.42 & 0.44 & 0.47 & 0.73 & 0.22 & 0.37 & 0.49 & 0.37 & 0.40 & 0.58 \\
104
+ deepseekR1-studentPrompt-full\_context-concat(A,B) & 0.04 & 0.06 & 0.35 & 0.30 & 0.35 & 0.41 & 0.46 & 0.46 & 0.73 & 0.20 & 0.36 & 0.49 & 0.39 & 0.40 & 0.58 \\
105
+ deepseekR1-studentPrompt-full\_context-onlyA & 0.03 & 0.07 & 0.37 & 0.24 & 0.30 & 0.37 & 0.45 & 0.42 & 0.69 & 0.17 & 0.40 & 0.47 & 0.31 & 0.34 & 0.52 \\
106
+ deepseekR1-studentPrompt-full\_context-onlyB & 0.05 & 0.06 & 0.34 & 0.28 & 0.43 & 0.47 & 0.43 & 0.53 & 0.77 & 0.28 & 0.33 & 0.51 & 0.43 & 0.46 & 0.64 \\
107
  \hline
108
+ gpt4o-extractor-full\_context-avg(A,B) & 0.25 & 0.54 & 0.53 & 0.32 & 0.43 & 0.47 & 0.27 & 0.30 & 0.57 & 0.27 & 0.45 & 0.50 & 0.14 & 0.15 & 0.32 \\
109
+ gpt4o-extractor-full\_context-concat(A,B) & 0.23 & 0.54 & 0.54 & 0.36 & 0.41 & 0.47 & 0.29 & 0.28 & 0.57 & 0.28 & 0.45 & 0.50 & 0.15 & 0.15 & 0.31 \\
110
+ gpt4o-extractor-full\_context-onlyA & 0.25 & 0.54 & 0.58 & 0.35 & 0.49 & 0.44 & 0.29 & 0.34 & 0.55 & 0.20 & 0.44 & 0.49 & 0.14 & 0.14 & 0.33 \\
111
+ gpt4o-extractor-full\_context-onlyB & 0.24 & 0.53 & 0.48 & 0.29 & 0.38 & 0.50 & 0.25 & 0.26 & 0.59 & 0.34 & 0.47 & 0.52 & 0.15 & 0.17 & 0.31 \\
112
+ \hline
113
+ gpt4o-graderPrompt-essay\_only-avg(A,B) & 0.21 & 0.45 & 0.49 & 0.16 & 0.22 & 0.28 & 0.20 & 0.27 & 0.28 & 0.29 & 0.39 & 0.51 & 0.32 & 0.35 & 0.54 \\
114
+ gpt4o-graderPrompt-essay\_only-concat(A,B) & 0.19 & 0.45 & 0.49 & 0.20 & 0.19 & 0.29 & 0.18 & 0.26 & 0.28 & 0.26 & 0.39 & 0.51 & 0.32 & 0.34 & 0.54 \\
115
+ gpt4o-graderPrompt-essay\_only-onlyA & 0.17 & 0.42 & 0.48 & 0.14 & 0.20 & 0.29 & 0.20 & 0.34 & 0.29 & 0.17 & 0.38 & 0.48 & 0.26 & 0.26 & 0.49 \\
116
+ gpt4o-graderPrompt-essay\_only-onlyB & 0.25 & 0.47 & 0.50 & 0.17 & 0.24 & 0.28 & 0.19 & 0.21 & 0.28 & 0.40 & 0.40 & 0.54 & 0.37 & 0.43 & 0.59 \\
117
+ gpt4o-graderPrompt-full\_context-avg(A,B) & 0.25 & 0.52 & 0.55 & 0.31 & 0.44 & 0.56 & 0.27 & 0.33 & 0.45 & 0.26 & 0.47 & 0.50 & 0.24 & 0.26 & 0.48 \\
118
+ gpt4o-graderPrompt-full\_context-concat(A,B) & 0.23 & 0.52 & 0.55 & 0.34 & 0.41 & 0.56 & 0.26 & 0.32 & 0.45 & 0.24 & 0.47 & 0.50 & 0.25 & 0.26 & 0.48 \\
119
+ gpt4o-graderPrompt-full\_context-onlyA & 0.19 & 0.45 & 0.55 & 0.37 & 0.52 & 0.56 & 0.23 & 0.37 & 0.47 & 0.19 & 0.44 & 0.46 & 0.23 & 0.22 & 0.44 \\
120
+ gpt4o-graderPrompt-full\_context-onlyB & 0.31 & 0.59 & 0.56 & 0.24 & 0.37 & 0.57 & 0.31 & 0.29 & 0.44 & 0.33 & 0.50 & 0.54 & 0.26 & 0.31 & 0.51 \\
121
+ \hline
122
+ gpt4o-studentPrompt-essay\_only-avg(A,B) & 0.22 & 0.43 & 0.51 & 0.16 & 0.27 & 0.20 & 0.26 & 0.30 & 0.38 & 0.30 & 0.40 & 0.51 & 0.28 & 0.31 & 0.55 \\
123
+ gpt4o-studentPrompt-essay\_only-concat(A,B) & 0.20 & 0.42 & 0.51 & 0.18 & 0.26 & 0.20 & 0.24 & 0.29 & 0.38 & 0.28 & 0.39 & 0.51 & 0.29 & 0.30 & 0.55 \\
124
+ gpt4o-studentPrompt-essay\_only-onlyA & 0.19 & 0.40 & 0.51 & 0.16 & 0.31 & 0.19 & 0.22 & 0.30 & 0.36 & 0.18 & 0.39 & 0.46 & 0.25 & 0.25 & 0.52 \\
125
+ gpt4o-studentPrompt-essay\_only-onlyB & 0.24 & 0.45 & 0.50 & 0.15 & 0.24 & 0.20 & 0.30 & 0.29 & 0.40 & 0.42 & 0.40 & 0.55 & 0.31 & 0.37 & 0.57 \\
126
+ gpt4o-studentPrompt-full\_context-avg(A,B) & 0.21 & 0.42 & 0.48 & 0.34 & 0.43 & 0.52 & 0.27 & 0.30 & 0.53 & 0.26 & 0.37 & 0.49 & 0.17 & 0.19 & 0.35 \\
127
+ gpt4o-studentPrompt-full\_context-concat(A,B) & 0.18 & 0.42 & 0.48 & 0.38 & 0.41 & 0.51 & 0.25 & 0.29 & 0.53 & 0.24 & 0.37 & 0.49 & 0.17 & 0.19 & 0.35 \\
128
+ gpt4o-studentPrompt-full\_context-onlyA & 0.15 & 0.36 & 0.48 & 0.36 & 0.48 & 0.47 & 0.26 & 0.36 & 0.50 & 0.17 & 0.37 & 0.43 & 0.14 & 0.16 & 0.37 \\
129
+ gpt4o-studentPrompt-full\_context-onlyB & 0.26 & 0.48 & 0.48 & 0.31 & 0.37 & 0.57 & 0.28 & 0.25 & 0.56 & 0.35 & 0.37 & 0.55 & 0.21 & 0.22 & 0.34 \\
130
+ \hline
131
+ sabia3-extractor-full\_context-avg(A,B) & 0.10 & 0.26 & 0.31 & 0.16 & 0.24 & 0.28 & 0.20 & 0.29 & 0.21 & 0.18 & 0.38 & 0.38 & 0.22 & 0.24 & 0.51 \\
132
+ sabia3-extractor-full\_context-concat(A,B) & 0.09 & 0.26 & 0.31 & 0.15 & 0.21 & 0.28 & 0.19 & 0.27 & 0.21 & 0.17 & 0.38 & 0.38 & 0.23 & 0.23 & 0.52 \\
133
+ sabia3-extractor-full\_context-onlyA & 0.09 & 0.24 & 0.29 & 0.21 & 0.34 & 0.29 & 0.20 & 0.37 & 0.24 & 0.19 & 0.42 & 0.35 & 0.22 & 0.25 & 0.46 \\
134
+ sabia3-extractor-full\_context-onlyB & 0.11 & 0.28 & 0.33 & 0.12 & 0.14 & 0.27 & 0.20 & 0.21 & 0.19 & 0.18 & 0.35 & 0.40 & 0.21 & 0.23 & 0.56 \\
135
+ \hline
136
+ sabia3-graderPrompt-essay\_only-avg(A,B) & 0.23 & 0.42 & 0.53 & 0.11 & 0.12 & 0.06 & 0.28 & 0.33 & 0.34 & 0.24 & 0.43 & 0.55 & 0.33 & 0.38 & 0.59 \\
137
+ sabia3-graderPrompt-essay\_only-concat(A,B) & 0.21 & 0.42 & 0.53 & 0.09 & 0.11 & 0.06 & 0.25 & 0.32 & 0.34 & 0.22 & 0.43 & 0.55 & 0.33 & 0.37 & 0.59 \\
138
+ sabia3-graderPrompt-essay\_only-onlyA & 0.23 & 0.44 & 0.51 & 0.15 & 0.10 & 0.09 & 0.22 & 0.34 & 0.30 & 0.15 & 0.42 & 0.50 & 0.26 & 0.30 & 0.54 \\
139
+ sabia3-graderPrompt-essay\_only-onlyB & 0.22 & 0.40 & 0.55 & 0.07 & 0.13 & 0.03 & 0.33 & 0.33 & 0.38 & 0.32 & 0.45 & 0.60 & 0.41 & 0.46 & 0.63 \\
140
+ sabia3-graderPrompt-full\_context-avg(A,B) & 0.24 & 0.50 & 0.50 & 0.33 & 0.43 & 0.50 & 0.33 & 0.37 & 0.54 & 0.31 & 0.49 & 0.53 & 0.28 & 0.32 & 0.50 \\
141
+ sabia3-graderPrompt-full\_context-concat(A,B) & 0.23 & 0.50 & 0.50 & 0.37 & 0.41 & 0.49 & 0.37 & 0.36 & 0.54 & 0.29 & 0.49 & 0.53 & 0.29 & 0.31 & 0.50 \\
142
+ sabia3-graderPrompt-full\_context-onlyA & 0.23 & 0.50 & 0.48 & 0.37 & 0.45 & 0.47 & 0.37 & 0.39 & 0.53 & 0.22 & 0.52 & 0.53 & 0.29 & 0.36 & 0.51 \\
143
+ sabia3-graderPrompt-full\_context-onlyB & 0.26 & 0.51 & 0.51 & 0.29 & 0.41 & 0.52 & 0.29 & 0.35 & 0.55 & 0.40 & 0.47 & 0.53 & 0.27 & 0.28 & 0.48 \\
144
+ \hline
145
+ sabia3-studentPrompt-essay\_only-avg(A,B) & 0.35 & 0.66 & 0.69 & 0.11 & 0.11 & 0.01 & 0.23 & 0.32 & 0.30 & 0.31 & 0.53 & 0.52 & 0.29 & 0.35 & 0.51 \\
146
+ sabia3-studentPrompt-essay\_only-concat(A,B) & 0.32 & 0.66 & 0.69 & 0.08 & 0.11 & 0.02 & 0.22 & 0.30 & 0.30 & 0.29 & 0.52 & 0.52 & 0.30 & 0.34 & 0.51 \\
147
+ sabia3-studentPrompt-essay\_only-onlyA & 0.31 & 0.61 & 0.66 & 0.14 & 0.08 & 0.04 & 0.20 & 0.41 & 0.27 & 0.23 & 0.56 & 0.54 & 0.29 & 0.32 & 0.47 \\
148
+ sabia3-studentPrompt-essay\_only-onlyB & 0.40 & 0.72 & 0.72 & 0.08 & 0.14 & -0.02 & 0.25 & 0.23 & 0.33 & 0.38 & 0.49 & 0.49 & 0.30 & 0.38 & 0.55 \\
149
+ sabia3-studentPrompt-full\_context-avg(A,B) & 0.35 & 0.60 & 0.58 & 0.28 & 0.42 & 0.47 & 0.21 & 0.24 & 0.45 & 0.28 & 0.43 & 0.39 & 0.27 & 0.28 & 0.54 \\
150
+ sabia3-studentPrompt-full\_context-concat(A,B) & 0.32 & 0.60 & 0.57 & 0.31 & 0.40 & 0.46 & 0.23 & 0.22 & 0.45 & 0.25 & 0.43 & 0.39 & 0.27 & 0.28 & 0.53 \\
151
+ sabia3-studentPrompt-full\_context-onlyA & 0.33 & 0.58 & 0.54 & 0.30 & 0.38 & 0.35 & 0.23 & 0.28 & 0.43 & 0.18 & 0.46 & 0.41 & 0.25 & 0.25 & 0.54 \\
152
+ sabia3-studentPrompt-full\_context-onlyB & 0.37 & 0.62 & 0.62 & 0.26 & 0.46 & 0.59 & 0.18 & 0.19 & 0.47 & 0.38 & 0.41 & 0.36 & 0.30 & 0.31 & 0.53 \\
153
  \hline\hline
154
  \end{tabular}%
runs/api_models/gpt-4o/gpt-4o-2024-11-20-grader-zero-shot-C1-full_context/gpt-4o-2024-11-20-grader-zero-shot-C1-full_context_inference_results.jsonl DELETED
The diff for this file is too large to render. See raw diff
 
runs/api_models/gpt-4o/gpt-4o-2024-11-20-grader-zero-shot-C2-full_context/gpt-4o-2024-11-20-grader-zero-shot-C2-full_context_inference_results.jsonl CHANGED
The diff for this file is too large to render. See raw diff
 
runs/api_models/gpt-4o/gpt-4o-2024-11-20-grader-zero-shot-C3-full_context/gpt-4o-2024-11-20-grader-zero-shot-C3-full_context_inference_results.jsonl CHANGED
The diff for this file is too large to render. See raw diff
 
runs/api_models/gpt-4o/gpt-4o-2024-11-20-grader-zero-shot-C4-full_context/gpt-4o-2024-11-20-grader-zero-shot-C4-full_context_inference_results.jsonl DELETED
The diff for this file is too large to render. See raw diff
 
runs/api_models/gpt-4o/gpt-4o-2024-11-20-grader-zero-shot-C5-full_context/gpt-4o-2024-11-20-grader-zero-shot-C5-full_context_inference_results.jsonl DELETED
The diff for this file is too large to render. See raw diff