Một từ nguyên bắt nguồn từ Yemen là yamin, có nghĩa là ở bên phải, vì phía nam ở bên phải khi đối diện với mặt trời mọc. Một từ khác bắt nguồn từ Yemen, có nghĩa là trọng tội, vì phần lớn đất nước là màu mỡ. Người La Mã gọi nó là Arabia Felix (Ả Rập hạnh phúc) trái ngược với Saudi Deserta (Ả Rập Xê Út). Nó giáp với Ả Rập Xê Út về phía bắc, Biển Đỏ ở phía tây, Vịnh Aden và Biển Ả Rập ở phía nam, và Oman về phía đông. Mặc dù thủ đô được tuyên bố theo hiến pháp của Yemen là thành phố Sana'a, thành phố này đã nằm dưới sự kiểm soát của phiến quân kể từ tháng 2 năm 2015.