Как посмотреть, сколько памяти потребляет программа в linux?
smem --processfilter="[f]irefox" -t
--processfilter="[f]irefox" - отфильтрует нужные процессы
-t - выведет сумму по отфильтрованным
Строго говоря - никак, учитывая shared memory и кэш. И ваш btop, кстати, скорее всего тоже неправду показывает.