Допиливание TinyMCE?
В поставке есть готовый модуль example, добавляем его в код запуска

plugins: «example,»
theme_advanced_buttons1: «example,

В самом левом углу появится кнопочка T, ее содержимое в plugins/example/dialog.htm, там же конфиг модуля. Прикрутить загрузку файла и готово.
Видел на форуме TinyMCE подобные вопросы, но они так и остались без ответа, видимо нужно писать плагин посмотрите как работают уже готовые: www.tinymce.com/wiki.php/Buttons/controls