Помощь в верстки дизайна в Android
Когда указываете layout_weight, попробуйте поиграться с соответствующими параметрами layout_width и layout_height. Я не помню подробностей, но либо wrap_content, либо 0dp должен подойти, если я правильно понял задачу.

Ну и заодно, некрасиво использовать рядом match_parent и fill_parent.
Для таких целей RelativeLayout - самое то.
TableLayout - не очень удобная вещь
Вот 4 кнопки:

<?xml version="1.0" encoding="utf-8"?>
<relativelayout xmlns:android="http://schemas.android.com/apk/res/android" android:layout_width="match_parent" android:layout_height="match_parent"><view android:id="@+id/emptyview" android:layout_width="0dp" android:layout_height="0dp" android:layout_alignparenttop="true" android:layout_centerhorizontal="true" /><button android:id="@+id/button1" android:layout_width="wrap_content" android:layout_height="wrap_content" android:layout_alignparentleft="true" android:layout_alignparenttop="true" android:layout_toleftof="@+id/emptyview" android:text="Button1" />

    

    <button android:id="@+id/button2" android:layout_width="wrap_content" android:layout_height="wrap_content" android:layout_alignparentright="true" android:layout_alignparenttop="true" android:layout_torightof="@+id/button1" android:text="Button2" />

    <button android:id="@+id/button3" android:layout_width="wrap_content" android:layout_height="wrap_content" android:layout_alignparentleft="true" android:layout_alignright="@+id/button1" android:layout_below="@+id/button1" android:text="Button3" />

    <button android:id="@+id/button4" android:layout_width="wrap_content" android:layout_height="wrap_content" android:layout_alignleft="@+id/button2" android:layout_alignparentright="true" android:layout_below="@+id/button2" android:text="Button4" />

</relativelayout>