Добавить и удалить элемент на JS/jQuery?
id - уникальный идентификатор элемента, больше одного на странице быть не должно, используйте класс элемента - <span class="delete_me">Удалить</span> и соответствующий селектор $('.delete_me'). 
Далее, новосозданные элементы не существовали на момент создания листенеров, соответственно не будут откликаться на вызов по клику, привязывать надо на document, и затем отслеживать нажатие на нужный класс: 
$document.on('click', '.delete_me', function(){
    doStuff();
})
И обращаться надо не к div, а к $(this), элементу сработавшему на листенер(читайте про контекст событий).
https://jsfiddle.net/Luaoq64v/
И не надо использовать такую смесь чистого жс и жк, и в голове каша и в коде.
Аттрибут id у элемента должен быть уникальным на всей странице, используйте class. Чтобы удалить тот элемент, на который вы кликаете нужно использовать this.