Флешки с крепким входом USB
Есть флешки, которые почти не торчат из USB порта. Такую, думаю будет сложно случайно задеть и вынуть.

Кроме этого можно наоборот попробовать сделать связь флешка->компьютер мягче и подключать флешку через очень короткий шнурок.
Используйте USB-удлинитель. Если у вас они постоянно ломаются, то ничего с этим не поделаешь. Как сказали выше, если найдете крепкую флешку, то сломаете порт. А это чревато, я так один раз спалил материнку: задел ногой торчащую из десктопа флешку, она вылезла вместе с портом, ну и потом пипец, комп вообще перестал загружаться.