Datasets:

jmichaelov
/

bhs

item int64 0 999	context stringlengths 19 45	ending_good stringclasses 4 values	ending_bad stringclasses 4 values
0	Ardiek emakumea ikusten	dute.	dituzte.
1	Abeslariak arkitektoak aurkitu	zituen.	zuen.
2	Ahateak azeriak esnatu	zituen.	zuen.
3	Sukaldariek euritakoa egingo	dute.	dituzte.
4	Epaileek mailua egingo	dute.	dituzte.
5	Neskek saltzailea entzuten	dute.	dituzte.
6	Arrantzaleak saltzaileak errespetatzen	ditu.	du.
7	Indioilarrak lorezainak entzungo	ditu.	du.
8	Abeslariak mailuak erakutsiko	ditu.	du.
9	Enpresaburuek panpina garbitu	zuten.	zituzten.
10	Lapurrak neskak ikusi	zituen.	zuen.
11	Atsoak pastelak prestatuko	ditu.	du.
12	Kazetariek luma hartu	zuten.	zituzten.
13	Arrantzaleek arana prestatzen	dute.	dituzte.
14	Sukaldariek panpina saltzen	dute.	dituzte.
15	Agureak gailetak ekarriko	ditu.	du.
16	Liburuzainak psikologoak marraztu	zituen.	zuen.
17	Sorosleek tomatea prestatzen	dute.	dituzte.
18	Mapatxeek eulia entzuten	dute.	dituzte.
19	Azeriak idazkariak esnatzen	ditu.	du.
20	Musikariak jostorratzak egiten	ditu.	du.
21	Atsoak gozoak prestatzen	ditu.	du.
22	Pilotuak mangoak garbituko	ditu.	du.
23	Entrenatzaileak mangoak jan	zituen.	zuen.
24	Atsoak ordenagailuak salduko	ditu.	du.
25	Botikariak loreak bilatuko	ditu.	du.
26	Zirujauak arkatzak hartu	zituen.	zuen.
27	Arranoak otsoak esnatzen	ditu.	du.
28	Gizonak erizainak ezagutuko	ditu.	du.
29	Neskek arrosa harrapatzen	dute.	dituzte.
30	Saltzaileak pintzelak bilatzen	ditu.	du.
31	Ikasleak intxaurrak prestatuko	ditu.	du.
32	Lapurrek arkatza erabiltzen	dute.	dituzte.
33	Ingeniariek autoa egiten	dute.	dituzte.
34	Sukaldariek baloia erosten	dute.	dituzte.
35	Botikariek kontularia errespetatzen	dute.	dituzte.
36	Irakasleek neska errespetatzen	dute.	dituzte.
37	Arrantzaleak pintzelak hartuko	ditu.	du.
38	Erizainak haurrak errespetatu	zituen.	zuen.
39	Saltzaileak gailetak jaten	ditu.	du.
40	Margolariak dortokak aurkitu	zituen.	zuen.
41	Tximinoek arranoa aurkitu	zuten.	zituzten.
42	Abokatuek intxaurra jango	dute.	dituzte.
43	Marrazoak poltsak erakutsi	zituen.	zuen.
44	Epaileak laranjak salduko	ditu.	du.
45	Abeslariak platerrak garbituko	ditu.	du.
46	Argazkilariek udarea saldu	zuten.	zituzten.
47	Saltzaileak sagarrak ekarri	zituen.	zuen.
48	Idazleek koilara erosi	zuten.	zituzten.
49	Mapatxeak edalontziak ikusi	zituen.	zuen.
50	Aktoreek masusta prestatuko	dute.	dituzte.
51	Albaitariak pastelak saldu	zituen.	zuen.
52	Lapurrek euritakoa saldu	zuten.	zituzten.
53	Agureek haurra errespetatuko	dute.	dituzte.
54	Txakurrek igela esnatzen	dute.	dituzte.
55	Zirujauak edalontziak erakutsiko	ditu.	du.
56	Kontulariek eskumuturrekoa egin	zuten.	zituzten.
57	Lorezainek lehoinabarra marraztu	zuten.	zituzten.
58	Txoriek lehendakaria esnatuko	dute.	dituzte.
59	Medikuak botilak saltzen	ditu.	du.
60	Margolariak mertxikak prestatzen	ditu.	du.
61	Zaldiak arkatzak erakusten	ditu.	du.
62	Kirolariak kalderak garbituko	ditu.	du.
63	Arrantzaleak basabitxiloreak egin	zituen.	zuen.
64	Atsoek tomatea salduko	dute.	dituzte.
65	Ertzainak programatzaileak entzuten	ditu.	du.
66	Neskek zaldia entzuten	dute.	dituzte.
67	Ikasleek edalontzia saldu	zuten.	zituzten.
68	Dantzariek basabitxilorea saltzen	dute.	dituzte.
69	Sorosleek lapurra errespetatu	zuten.	zituzten.
70	Emakumeak poltsak erabiliko	ditu.	du.
71	Arranoek musikaria entzungo	dute.	dituzte.
72	Pilotuek baloia hartu	zuten.	zituzten.
73	Abokatuek mertxika ekarri	zuten.	zituzten.
74	Saltzaileek sagarra jan	zuten.	zituzten.
75	Agureek intxaurra prestatu	zuten.	zituzten.
76	Olerkariak sardexkak erabiltzen	ditu.	du.
77	Zaldiak botilak aurkituko	ditu.	du.
78	Psikologoak musikariak entzuten	ditu.	du.
79	Ahateak ordenagailuak bilatuko	ditu.	du.
80	Zientzialariak burkoak ekarriko	ditu.	du.
81	Zirujauek azenarioa jango	dute.	dituzte.
82	Jirafek arraina entzungo	dute.	dituzte.
83	Olerkariek gerezia erosiko	dute.	dituzte.
84	Arratoiak jostorratzak erakusten	ditu.	du.
85	Nekazariek arkatza aurkitzen	dute.	dituzte.
86	Mutilek gozoa bilatu	zuten.	zituzten.
87	Zirujauek hamsterra bilatzen	dute.	dituzte.
88	Lehendakariek liburuzaina ezagutzen	dute.	dituzte.
89	Nerabeek erregela erakutsi	zuten.	zituzten.
90	Hontzek elefantea esnatu	zuten.	zituzten.
91	Mutilak marrubiak ekartzen	ditu.	du.
92	Lapurrak agureak errespetatuko	ditu.	du.
93	Txakurrak kirolariak bilatuko	ditu.	du.
94	Zaldiek kopa aurkitu	zuten.	zituzten.
95	Antilopeak enpresaburuak esnatuko	ditu.	du.
96	Idazkariak atsoak entzungo	ditu.	du.
97	Nekazariak ordenagailuak ikusi	zituen.	zuen.
98	Zirujauek lorea ekartzen	dute.	dituzte.
99	Lehendakariek mangoa garbituko	dute.	dituzte.

End of preview. Expand in Data Studio

BHS: Controlled Evaluation of Syntactic Knowledge in Basque, Hindi, and Swahili

This benchmark is made up of "targeted syntactic evaluation tests for three low-resource languages (Basque, Hindi, and Swahili)" from the paper 'Controlled Evaluation of Syntactic Knowledge in Multilingual Language Models' (Kryvosheieva & Levy, 2025).

Dataset Details

Dataset Sources

Repository: https://github.com/dariakryvosheieva/syntactic_generalization_multilingual
Paper: https://aclanthology.org/2025.loreslm-1.30/

Uses

This benchmark is designed to evaluate the syntactic capabilities of langauge models.

Dataset Structure

Basque tasks:

basque-DO-S_DO_V_AUX
basque-DO-S_IO_DO_V_AUX
basque-IO-IO_S_V_AUX
basque-IO-S_IO_DO_V_AUX
basque-S-IO_S_V_AUX
basque-S-S_DO_V_AUX
basque-S-S_IO_DO_V_AUX
basque-S-S_V_AUX

Hindi Tasks:

hindi-S_O_V
hindi-S_PossPRN_O_V
hindi-S_PossPRN_PossN_O_V
hindi-S_ne_O_V
hindi-S_ne_PossPRN_O_V
hindi-S_ne_PossPRN_PossN_O_V

Swahili Tasks:

swahili-N_of_Poss_D_AP_V_ni_AN
swahili-N_of_Poss_D_AP_ni_AN
swahili-N_of_Poss_D_A_V
swahili-N_of_Poss_D_A_V1_V2
swahili-N_of_Poss_D_V
swahili-N_of_Poss_D_ni_A
swahili-N_of_Poss_V
swahili-N_of_Poss_ni_A

Citation

BibTeX:

@inproceedings{kryvosheieva-levy-2025-controlled,
    title = "Controlled Evaluation of Syntactic Knowledge in Multilingual Language Models",
    author = "Kryvosheieva, Daria and Levy, Roger",
    editor = "Hettiarachchi, Hansi and Ranasinghe, Tharindu and Rayson, Paul and Mitkov, Ruslan and Gaber, Mohamed and Premasiri, Damith and Tan, Fiona Anting and Uyangodage, Lasitha",
    booktitle = "Proceedings of the First Workshop on Language Models for Low-Resource Languages",
    month = jan,
    year = "2025",
    address = "Abu Dhabi, United Arab Emirates",
    publisher = "Association for Computational Linguistics",
    url = "https://aclanthology.org/2025.loreslm-1.30/",
    pages = "402--413"
}

APA:

Kryvosheieva, D., & Levy, R. (2025). Controlled Evaluation of Syntactic Knowledge in Multilingual Language Models. In Proceedings of the First Workshop on Language Models for Low-Resource Languages (pp. 402-413).

Downloads last month: 62

Curated by:

Daria Kryvosheieva and Roger Levy

Language(s) (NLP):

Basque, Hindi, and Swahili

Size of downloaded dataset files:

3.35 MB

Size of the auto-converted Parquet files:

609 kB

Number of rows:

22,000