Новая материнская плата для R9 5950x или новая сборка на 7950x?
Менять мать точно не стоит. Прирост производительности будет минимальным.
Охлаждение как-бы можно заменить, но я бы посмотрел на реальные сценарии использования сначала. Если у вас процессор загружен часто и температура растёт - можно и поменять, если какие-то кратковременные нагрузки и температура вырасти не успевает - менять, кмк не стоит.
Насчёт памяти - это вообще от ваших задач зависит. Не хватает - смело добавляйте. Если той, что есть достаточно - вы не получите никакой пользы от дополнительного объёма озу.
Получается, у вас один путь апгрейда - увеличивать объём озу. 

Если не хватает процессора, то конечно придётся менять все сразу: мать+проц+память.

Насчёт целесообразности перехода на новый сокет: скорее всего, сейчас соотношение цена/производительность будет на стороне вашей текущей конфигурации.
Лучше продать и собрать на интел i7 12700
По деньгам почти тож самое выйдет