Как правильно написать правило для NGINX?
Как-то так:
location /getfile {
  try_files $arg_dir/$arg_name @genfile;
}
locaiton @genfile {
  ......
}

и в @genfile отдавать новый файл с помощью X-Accel-Redirect
Если имя в base64, то в @genfile можно декодировать и опять же послать с помощью X-Accel-Redirect
Можно попробовать сделать rewrite с regexp'ом, который вытащит значение параметров. А дальше использовать try_files.

Здесь wiki.nginx.org/Pitfalls есть описание этого паттерна.

На тему base64 — можно файлы хранить с именами сразу в base64, если к ним так обращаются.