Как изменить генерацию галереи в wordpress?
В WordPress есть специальный фильтр post_gallery, который позволяет "перехватить" вывод стандартной галереи WordPress и заменить своей. Такие плагины как Jetpack Tiled Galleries используют именно его.
Скорее всего в wp-includes/media.php.
Да, так и есть
add_shortcode('gallery', 'gallery_shortcode');