В чем ошибка в моем коде?
может надо писать 
if x == '+' ...
if x == '-'  ...
if x == '*'  ...
if x == '/'  ...
Вы не написали версию питона. Если вторая - то там есть разница между input и raw_input. Во втором питоне input выполняет ввод выражения, а raw_input() - читает символы "как есть".
Можно сделать все гораздо проще:>>> a=float(input('Введіть перше число:  '))
Введіть перше число:  7
>>> b=float(input('Введіть друге число:  '))
Введіть друге число:  3
>>> x=raw_input('Арифметична дiя:  ')
Арифметична дiя:  -
>>> if x in ('+','-','*','/'):
...      print(eval('{a}{expr}{b}'.format(a=a, b=b, expr=x)))
...
4.0
И в условиях вы упустили что сравнивать надо переменную x с символами, а не просто проверять символы на True - у вас условие не отработает корректно.