Где находится настройки SMTP при дефолтной инсталяции Gitlab-ce, какой используется почтовик по умолчанию?
/etc/gitlab/gitlab.rb тут ВСЁ. Почта нормально настраивается оттуда. После этого отлично работает. По крайне мере у меня.
После изменений надо делать gitlab-ctl reconfigure и gitlab-ctl restart
Конфигурить вручную конфиг из opt и т.д. не стоит - gitlab.rb всё перезапишет при первом же вызове.
На официальном сайте в документации большинство вещей очень неплохо описаны.
Отличие ee и ce версий традиционны для любого подобного софта.
Могу ответить только на пукт 5:
По умолчанию для всей ОС используется локальный почтовый сервис postfix, который из коробки скорее всего будет пытатся слать почту от имени username@localhost и врядли ее ктото примет. Проверить эту версию просто - посмотрите есть ли ошибки в /var/log/maillog