Как сгенерить md5 строку на Google Script?
Здравствуйте.

Мне кажется, что у вас неполные представления о методах Google Apps Script, алгоритмах хэширования и системах исчисления.

Во-первых, computeDigest возвращает массив Byte[], что он и должен делать.
Во-вторых, вам просто его надо "преобразовать в 16-ричную хэш строку", как сказано выше.

Попробуйте сделать так:

function test(){
  Logger.log(toMD5('56'));
}
const toMD5 = function(charset, toByte) {
  charset = charset || Utilities.Charset.UTF_8;
  var digest = Utilities.computeDigest(Utilities.DigestAlgorithm.MD5, this, charset);
  if(toByte) return digest;
  var __ = '';
  for (i = 0; i < digest.length; i++) {
    var byte = digest[i];
    if (byte < 0) byte += 256;
    var bStr = byte.toString(16);
    if (bStr.length == 1) bStr = '0' + bStr;
    __ += bStr;
  }
  return __;
}
Потому-что он возвращает байт-массив.
Нужно в цикле его преобразовать в 16-ричную хэш строку.P.S 
MD5 - это последовательность 16-ричных цифр, так что там могут быть символы 0-9a-f, а не те, что вы написали в примере.