Kim Ngưu có nghĩa là trâu vàng . Theo truyền thuyết dân gian , trâu vàng ở Trung Quốc khi nghe thấy tiếng chuông đồng đen của thiền sư Nguyễn Minh Không ở nước Nam tưởng là tiếng trâu mẹ gọi liền chạy sang . Trên con đường nó chạy , vết chân lún xuống biến thành sông Kim Ngưu . Đến phía tây thành Thăng Long thì tiếng chuông dứt , Trâu Vàng liền xới tung đất để tìm mẹ và chỗ đất bị nó xới chính là hồ Tây ngày nay . Hiện ở gần phủ Tây Hồ ( thuộc phường Quảng An ) có đền thờ Kim Ngưu . Sông Kim Ngưu cổ là chi lưu của sông Tô Lịch . Xưa có 2 nguồn nước cung cấp cho Tô Lịch là sông Hồng ở cửa Hà Khẩu ( tương ứng với đầu phố Hàng Buồm hiện nay ) và từ sông Thiên Phù . Sông Thiên Phù cũng lấy nước sông Hồng bắt đầu cửa Nhật Tân chảy qua các phường Xuân La , Xuân Đỉnh đến khu vực chợ Bưởi ngày nay thì cấp nước cho Tô Lịch . Sông Thiên Phù nay không còn , nó bị bồi lấp từ nửa đầu thế kỷ 18 . Từ khu vực chợ Bưởi , Tô Lịch bám theo chân thành Thăng Long chảy ra Cầu Giấy sau đó chảy qua phường Yên Hoà , Láng , Lủ … Sông Kim Ngưu là chi lưu của Tô Lịch hay nói cách khác nó được tiếp nước từ Tô Lịch ở ô Cầu Giấy .
Nhị Hà quanh bắc sang đông Kim Ngưu , Tô Lịch là sông bên này Nhị Hà là tên khác của sông Hồng chảy ở phía bắc và phía đông kinh thành Thăng Long . Còn Kim Ngưu , Tô Lịch là 2 con sông nhỏ hơn chảy từ phía tây quặt xuống phía nam Thăng Long .