Где логическая ошибка?
Чересчур сложно вычисляете. Лучше сначала аналитически упрощать формулу, тогда меньше места для ошибок в программе останется.
Пусть нижнее (большее) основание a, верхнее (меньшее) - b.
Высота трапеции (равнобедренной) h = (a-b)*tg(α)/2
Площадь трапеции S = (a+b)*h/2 = (a+b)*(a-b)*tg(α)/4 = (a2-b2)*tg(α)/4
> (a-b)/2
Проверьте, не случилось ли у вас тут целочисленного деления