Hugging Face's logo

Datasets:
patched-codes
/
static-analysis-eval

Modalities:
Text
Formats:
parquet
Size:
< 1K
ArXiv:
DOI:
Libraries:
Datasets
pandas
License:
Dataset card Data Studio Files
xet
Community
3
codelion commited on
Commit
a7938e2
·
verified ·
1 Parent(s): e30a807

Upload 6 files

Browse files
Files changed (6) hide show
  1. gpt-4o-0-shot_semgrep_1.85.0_20240820_210136.log +76 -0
  2. gpt-4o-3-shot-sim_semgrep_1.85.0_20240821_025455.log +80 -0
  3. gpt-4o-3-shot_semgrep_1.85.0_20240820_215534.log +77 -0
  4. gpt-4o-mini-0-shot_semgrep_1.85.0_20240820_201236.log +75 -0
  5. gpt-4o-mini-3-shot-sim_semgrep_1.85.0_20240821_023541.log +82 -0
  6. gpt-4o-mini-3-shot_semgrep_1.85.0_20240820_213814.log +76 -0
gpt-4o-0-shot_semgrep_1.85.0_20240820_210136.log ADDED
@@ -0,0 +1,76 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ Evaluation Run Log
2
+ ==================
3
+
4
+ Date and Time: 2024-08-20 21:19:29
5
+ Model: gpt-4o
6
+ Semgrep Version: 1.85.0
7
+ Caching: Disabled
8
+
9
+ Total Tests: 113
10
+ Passing Tests: 60
11
+ Score: 53.10%
12
+
13
+ Number of few-shot examples: 0
14
+ Use similarity for examples: No
15
+ Oracle mode: No
16
+ Fixed Files:
17
+ - 916728.py
18
+ - 932523.py
19
+ - 093118.py
20
+ - 627547.py
21
+ - 773378.py
22
+ - 884804.py
23
+ - 879024.py
24
+ - 530858.py
25
+ - 837764.py
26
+ - 429723.py
27
+ - 778047.py
28
+ - 036289.py
29
+ - 102308.py
30
+ - 695407.py
31
+ - 545558.py
32
+ - 549500.py
33
+ - 804802.py
34
+ - 539416.py
35
+ - 589414.py
36
+ - 763767.py
37
+ - 001029.py
38
+ - 422890.py
39
+ - 780018.py
40
+ - 703706.py
41
+ - 215937.py
42
+ - 124108.py
43
+ - 452701.py
44
+ - 109129.py
45
+ - 508391.py
46
+ - 513433.py
47
+ - 262477.py
48
+ - 454489.py
49
+ - 494107.py
50
+ - 387722.py
51
+ - 116843.py
52
+ - 222094.py
53
+ - 426331.py
54
+ - 032394.py
55
+ - 041528.py
56
+ - 204197.py
57
+ - 514256.py
58
+ - 239585.py
59
+ - 557095.py
60
+ - 299989.py
61
+ - 765068.py
62
+ - 287641.py
63
+ - 672233.py
64
+ - 218664.py
65
+ - 409624.py
66
+ - 192152.py
67
+ - 076051.py
68
+ - 245327.py
69
+ - 434281.py
70
+ - 930264.py
71
+ - 476533.py
72
+ - 087698.py
73
+ - 614629.py
74
+ - 588795.py
75
+ - 494330.py
76
+ - 782536.py
gpt-4o-3-shot-sim_semgrep_1.85.0_20240821_025455.log ADDED
@@ -0,0 +1,80 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ Evaluation Run Log
2
+ ==================
3
+
4
+ Date and Time: 2024-08-21 03:16:06
5
+ Model: gpt-4o
6
+ Semgrep Version: 1.85.0
7
+ Caching: Disabled
8
+
9
+ Total Tests: 113
10
+ Passing Tests: 64
11
+ Score: 56.64%
12
+
13
+ Number of few-shot examples: 3
14
+ Use similarity for examples: Yes
15
+ Oracle mode: No
16
+ Fixed Files:
17
+ - 916728.py
18
+ - 773378.py
19
+ - 627547.py
20
+ - 093118.py
21
+ - 879024.py
22
+ - 884804.py
23
+ - 948858.py
24
+ - 530858.py
25
+ - 837764.py
26
+ - 429723.py
27
+ - 778047.py
28
+ - 036289.py
29
+ - 102308.py
30
+ - 695407.py
31
+ - 545558.py
32
+ - 804802.py
33
+ - 549500.py
34
+ - 539416.py
35
+ - 886160.py
36
+ - 763767.py
37
+ - 589414.py
38
+ - 422890.py
39
+ - 001029.py
40
+ - 780018.py
41
+ - 703706.py
42
+ - 124108.py
43
+ - 215937.py
44
+ - 452701.py
45
+ - 109129.py
46
+ - 508391.py
47
+ - 513433.py
48
+ - 262477.py
49
+ - 006394.py
50
+ - 454489.py
51
+ - 494107.py
52
+ - 387722.py
53
+ - 116843.py
54
+ - 938513.py
55
+ - 222094.py
56
+ - 426331.py
57
+ - 032394.py
58
+ - 791267.py
59
+ - 041528.py
60
+ - 204197.py
61
+ - 514256.py
62
+ - 557095.py
63
+ - 610060.py
64
+ - 765068.py
65
+ - 672233.py
66
+ - 287641.py
67
+ - 218664.py
68
+ - 409624.py
69
+ - 192152.py
70
+ - 076051.py
71
+ - 245327.py
72
+ - 870482.py
73
+ - 434281.py
74
+ - 476533.py
75
+ - 930264.py
76
+ - 087698.py
77
+ - 614629.py
78
+ - 588795.py
79
+ - 494330.py
80
+ - 782536.py
gpt-4o-3-shot_semgrep_1.85.0_20240820_215534.log ADDED
@@ -0,0 +1,77 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ Evaluation Run Log
2
+ ==================
3
+
4
+ Date and Time: 2024-08-20 22:13:25
5
+ Model: gpt-4o
6
+ Semgrep Version: 1.85.0
7
+ Caching: Disabled
8
+
9
+ Total Tests: 113
10
+ Passing Tests: 61
11
+ Score: 53.98%
12
+
13
+ Number of few-shot examples: 3
14
+ Use similarity for examples: No
15
+ Oracle mode: No
16
+ Fixed Files:
17
+ - 916728.py
18
+ - 773378.py
19
+ - 627547.py
20
+ - 093118.py
21
+ - 879024.py
22
+ - 884804.py
23
+ - 837764.py
24
+ - 530858.py
25
+ - 429723.py
26
+ - 778047.py
27
+ - 036289.py
28
+ - 102308.py
29
+ - 695407.py
30
+ - 549500.py
31
+ - 804802.py
32
+ - 545558.py
33
+ - 886160.py
34
+ - 539416.py
35
+ - 589414.py
36
+ - 422890.py
37
+ - 001029.py
38
+ - 780018.py
39
+ - 703706.py
40
+ - 452701.py
41
+ - 215937.py
42
+ - 124108.py
43
+ - 109129.py
44
+ - 508391.py
45
+ - 513433.py
46
+ - 262477.py
47
+ - 006394.py
48
+ - 494107.py
49
+ - 387722.py
50
+ - 222094.py
51
+ - 426331.py
52
+ - 938513.py
53
+ - 116843.py
54
+ - 032394.py
55
+ - 204197.py
56
+ - 041528.py
57
+ - 514256.py
58
+ - 239585.py
59
+ - 610060.py
60
+ - 557095.py
61
+ - 916680.py
62
+ - 765068.py
63
+ - 672233.py
64
+ - 287641.py
65
+ - 218664.py
66
+ - 409624.py
67
+ - 192152.py
68
+ - 076051.py
69
+ - 245327.py
70
+ - 476533.py
71
+ - 434281.py
72
+ - 930264.py
73
+ - 087698.py
74
+ - 614629.py
75
+ - 588795.py
76
+ - 494330.py
77
+ - 782536.py
gpt-4o-mini-0-shot_semgrep_1.85.0_20240820_201236.log ADDED
@@ -0,0 +1,75 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ Evaluation Run Log
2
+ ==================
3
+
4
+ Date and Time: 2024-08-20 20:27:27
5
+ Model: gpt-4o-mini
6
+ Semgrep Version: 1.85.0
7
+ Caching: Disabled
8
+
9
+ Total Tests: 113
10
+ Passing Tests: 59
11
+ Score: 52.21%
12
+
13
+ Number of few-shot examples: 0
14
+ Use similarity for examples: No
15
+ Oracle mode: No
16
+ Fixed Files:
17
+ - 916728.py
18
+ - 177699.py
19
+ - 093118.py
20
+ - 773378.py
21
+ - 627547.py
22
+ - 879024.py
23
+ - 884804.py
24
+ - 948858.py
25
+ - 530858.py
26
+ - 837764.py
27
+ - 429723.py
28
+ - 036289.py
29
+ - 778047.py
30
+ - 102308.py
31
+ - 549500.py
32
+ - 804802.py
33
+ - 545558.py
34
+ - 539416.py
35
+ - 886160.py
36
+ - 001029.py
37
+ - 780018.py
38
+ - 422890.py
39
+ - 703706.py
40
+ - 452701.py
41
+ - 215937.py
42
+ - 124108.py
43
+ - 109129.py
44
+ - 508391.py
45
+ - 513433.py
46
+ - 262477.py
47
+ - 494107.py
48
+ - 387722.py
49
+ - 116843.py
50
+ - 426331.py
51
+ - 032394.py
52
+ - 041528.py
53
+ - 204197.py
54
+ - 514256.py
55
+ - 557095.py
56
+ - 299989.py
57
+ - 765068.py
58
+ - 287641.py
59
+ - 672233.py
60
+ - 230568.py
61
+ - 218664.py
62
+ - 409624.py
63
+ - 263731.py
64
+ - 192152.py
65
+ - 076051.py
66
+ - 245327.py
67
+ - 476533.py
68
+ - 434281.py
69
+ - 930264.py
70
+ - 885715.py
71
+ - 087698.py
72
+ - 588795.py
73
+ - 614629.py
74
+ - 782536.py
75
+ - 494330.py
gpt-4o-mini-3-shot-sim_semgrep_1.85.0_20240821_023541.log ADDED
@@ -0,0 +1,82 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ Evaluation Run Log
2
+ ==================
3
+
4
+ Date and Time: 2024-08-21 02:53:36
5
+ Model: gpt-4o-mini
6
+ Semgrep Version: 1.85.0
7
+ Caching: Disabled
8
+
9
+ Total Tests: 113
10
+ Passing Tests: 66
11
+ Score: 58.41%
12
+
13
+ Number of few-shot examples: 3
14
+ Use similarity for examples: Yes
15
+ Oracle mode: No
16
+ Fixed Files:
17
+ - 916728.py
18
+ - 177699.py
19
+ - 932523.py
20
+ - 773378.py
21
+ - 093118.py
22
+ - 627547.py
23
+ - 879024.py
24
+ - 884804.py
25
+ - 948858.py
26
+ - 530858.py
27
+ - 837764.py
28
+ - 429723.py
29
+ - 036289.py
30
+ - 778047.py
31
+ - 695407.py
32
+ - 545558.py
33
+ - 804802.py
34
+ - 539416.py
35
+ - 589414.py
36
+ - 422890.py
37
+ - 886160.py
38
+ - 001029.py
39
+ - 780018.py
40
+ - 703706.py
41
+ - 215937.py
42
+ - 124108.py
43
+ - 452701.py
44
+ - 109129.py
45
+ - 513433.py
46
+ - 262477.py
47
+ - 006394.py
48
+ - 454489.py
49
+ - 494107.py
50
+ - 387722.py
51
+ - 426331.py
52
+ - 222094.py
53
+ - 116843.py
54
+ - 791267.py
55
+ - 032394.py
56
+ - 192634.py
57
+ - 204197.py
58
+ - 041528.py
59
+ - 693973.py
60
+ - 514256.py
61
+ - 610060.py
62
+ - 557095.py
63
+ - 765068.py
64
+ - 287641.py
65
+ - 672233.py
66
+ - 230568.py
67
+ - 218664.py
68
+ - 409624.py
69
+ - 192152.py
70
+ - 076051.py
71
+ - 245327.py
72
+ - 870482.py
73
+ - 476533.py
74
+ - 434281.py
75
+ - 930264.py
76
+ - 087698.py
77
+ - 310532.py
78
+ - 614629.py
79
+ - 588795.py
80
+ - 779518.py
81
+ - 494330.py
82
+ - 782536.py
gpt-4o-mini-3-shot_semgrep_1.85.0_20240820_213814.log ADDED
@@ -0,0 +1,76 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ Evaluation Run Log
2
+ ==================
3
+
4
+ Date and Time: 2024-08-20 21:52:42
5
+ Model: gpt-4o-mini
6
+ Semgrep Version: 1.85.0
7
+ Caching: Disabled
8
+
9
+ Total Tests: 113
10
+ Passing Tests: 60
11
+ Score: 53.10%
12
+
13
+ Number of few-shot examples: 3
14
+ Use similarity for examples: No
15
+ Oracle mode: No
16
+ Fixed Files:
17
+ - 916728.py
18
+ - 717170.py
19
+ - 093118.py
20
+ - 773378.py
21
+ - 627547.py
22
+ - 879024.py
23
+ - 948858.py
24
+ - 530858.py
25
+ - 837764.py
26
+ - 429723.py
27
+ - 036289.py
28
+ - 102308.py
29
+ - 778047.py
30
+ - 695407.py
31
+ - 545558.py
32
+ - 804802.py
33
+ - 539416.py
34
+ - 886160.py
35
+ - 422890.py
36
+ - 780018.py
37
+ - 001029.py
38
+ - 703706.py
39
+ - 215937.py
40
+ - 452701.py
41
+ - 109129.py
42
+ - 508391.py
43
+ - 513433.py
44
+ - 262477.py
45
+ - 006394.py
46
+ - 454489.py
47
+ - 494107.py
48
+ - 387722.py
49
+ - 116843.py
50
+ - 426331.py
51
+ - 032394.py
52
+ - 041528.py
53
+ - 204197.py
54
+ - 514256.py
55
+ - 557095.py
56
+ - 765068.py
57
+ - 672233.py
58
+ - 287641.py
59
+ - 230568.py
60
+ - 218664.py
61
+ - 409624.py
62
+ - 076051.py
63
+ - 192152.py
64
+ - 245327.py
65
+ - 870482.py
66
+ - 434281.py
67
+ - 930264.py
68
+ - 476533.py
69
+ - 885715.py
70
+ - 087698.py
71
+ - 310532.py
72
+ - 614629.py
73
+ - 779518.py
74
+ - 588795.py
75
+ - 494330.py
76
+ - 782536.py