Что учить ASP.NET MVC 5 или ASP.NET Core?
ASP.NET 5 и ASP.NET Core, это одно и то же, просто Core более позднее название.
Вот перевод - ASP.NET 5 мертв — представляем ASP.NET Core 1.0 и ....
Что же касается изучения технологии, то лучше исходить из конкретного проекта и задач, которые будет решать проект. Если это проект, который необходимо поддерживать и он построен на ASP.NET MVC 4, то именно этот подход и изучай. Если же требуется создать новый проект и в качестве сервера выбрана операционная система Linux, то тут выбор может быть за Core или Mono.
ASP.NET Core - это тренд, изучая его сейчас, можно быть уверенным в будущих заказах или работе, постепенно всё будет стремиться к кроссплатформенности, это же захват новых рынков, ты только представь, сколько специалистов по C#/VB.NET уже существует.
Если говорить об отличиях, то они безусловно есть, например встроенный DI контейнер или нюансы, касающиеся самой платформы, но если ты уже знаком с ASP.NET MVC 4, то будешь чувствовать себя, как рыба в воде.
В дополнение к Core рекомендую освоить Docker, это тоже сейчас тренд и на мой взгляд очень удобный подход к разработке с помощью контейнеров, но это уже другая тема.UPD. 07/10/2016
Ещё по теме интересная статья от 25 мая 2016 года, перед конференцией DotNext в Санкт-Петербурге - ASP.NET Core сегодня: за и против
Учить надо ЯП, а не фреймворки.