Theo các tài liệu lịch sử, làng Phú Thượng (xã Hòa Sơn, huyện Hòa Vang) hình thành khoảng thế kỷ XVI. Tuy nhiên, không có nguồn tài liệu nào cho biết đình Phú Thượng xây dựng năm nào. Chỉ biết trước đây đình được xây dựng trên một gò đất cao bằng tranh tre nứa lá, làm nơi thờ Thành hoàng và các dòng họ Nguyễn, Phạm… có công lập làng.