Đến Kim Liên là một trong ''Thăng Long Tứ Trấn'' đã có từ thời vua Lý Thái Tổ (vua Lý Công Uẩn) dời đô từ Hoa Lư về Thăng Long. Ngay từ khi dựng Đô, vua Lý Công Uẩn đã tìm thấy niềm tin vào kinh thành bền vững, thấy các hướng đều có các vị phúc thần che chở, bảo vệ. Qua các tư liệu, thiw tịch, văn bia, săc phong về di tích đều khẳng định Đền Kim Liên là nơi thờ Thần Cao Sơn, một nhân vật quan trọng trong Điện Thần Việt cổ. Theo văn bản cổ nhất có niên hiệu Hồng Thuận thứ 3 (năm 1510) có ghi tên di tích là ''Cao Sơn Đại Vương Thần Từ''
Ngày 13/4 (ngày 16 tháng 3 âm lịch), UBND phường Phương Liên - Trung Tự (quận Đống Đa, Hà Nội) long trọng tổ chức Lễ hội truyền thống di tích quốc gia đặc biệt Thăng Long Tứ Trấn - đền Kim Liên tại phố Kim Hoa. Đây là một trong những hoạt động văn hóa đặc sắc nhằm bảo tồn, phát huy giá trị di sản Thăng Long ngàn năm văn hiến.