Vào triều vua Lý Thánh Tông ( 1057 ) đã cho xây dựng tháp báo Thiên ( nay là vị trí Nhà thờ Lớn ) bên hồ Lục Thuỷ . Tất cả những gì sử sách để lại về thời các vua Lý không thấy nói đến hồ Hoàn Gươm cũng như rùa . Theo Đại Việt sử ký , sau khi kháng chiến chống quân Nguyên thắng lợi , vua Trần Nhân Tông đã cho dựng một miếu thờ các liệt sỹ ở một địa điểm gần hồ Lục Thuỷ . Tuy nhiên , sử sách cũng không ghi chép nhiều về đền này và các nhà viết sử chỉ suy đoán đền nằm ở phía Bắc hồ . Điều đó cũng cho thấy đời các vua Trần cũng chưa có tên Hồ Gươm và cũng không có cuốn sách nào ghi lại sự tích gì ở hồ Lục Thuỷ liên quan đến rùa . Ai cũng biết truyền thuyết Lê Lợi trả lại gươm thần cho rùa vàng sau khi đánh tan giặc Minh . Cách kể trong dân gian , trong sách , trên các văn bia có đôi chỗ khác nhau nhưng có thể tóm tắt : Đầu năm 1428 , Lê Thái Tổ cùng quần thần bơi thuyền trên hồ Lục Thuỷ dạo mát và ngắm cảnh , bỗng nhiên ngài thấy có ánh vàng loang loáng dưới nước và một lúc sau rùa vàng ngoi lên mặt nước rồi về phía thuyền buồm của nhà vua . Lúc này , Lê Thái Tổ chợt nhớ đến lưỡi gươm mà Lê Thận cho với hai chữ " Thuận Thiên " đã giúp ngài đánh tan giặc ngoại xâm . Khi ngài vừa rút gươm ra khỏi vỏ thì lưỡi gươm đã tự bay về phía rùa vàng . Rùa ngậm lưỡi gươm và lặn xuống hồ và từ đấy hồ có tên là hồ Hoàn Gươm ( dân gian quen gọi là Hồ Gươm ) .
Trước khi Lý Thái Tổ định đô trên nền thành Đại La đổ nát thì mảnh đất này có rất nhiều sông ngòi , hồ ao , kênh rạch và nối dòng với sông Hồng . Phía bắc của hồ Lục Thuỷ ( Hồ Gươm ngày nay ) có hồ Diên Hưng ( khu vực phố Hàng Ngang hiện nay ) , hồ Thái Cực ( khu vực phố Hàng Bè hiện nay ) .