Как безопасно хранить личные ключи шифрования на флешке?
Вопрос на столько сложный, что не имеет однозначного ответа.
Если вот прямо по вашему тексту - возможно подойдет флешка с аппаратным шифрованием и паролем типа такой - https://habrahabr.ru/company/acelab/blog/256287/
На ней можно хранить ключи, доступ к ней без знания пин-кода невозможен, данные будут уничтожены при подборе пароля.
Keepass для паролей и ключевых фраз.
truecrypt для файлов и документов (например, приватных половинок сертификатов)