บริเวณพระราชฐานเก่า อยู่ติดทะเลบริเวณโดยรอบร่มรื่นมาก ได้สร้างในสมัยรัชกาลที่ 5 เคยเป็นพระตำหนักที่ประทับของพระราชโอรสและพระราชธิดา เมื่อคราวเสด็จไปพักฟื้นหลังประชวรในเขตพระราชอุทยานมีบ่อน้ำขนาดใหญ่หลายแห่ง บ่อเหล่านี้ยังมีสภาพดีอยู่ แต่ละบ่อได้รับพระราชทานชื่ออย่างไพเราะ เช่น บ่ออัษฎางค์ บ่อพิศเพลิน เป็นต้น

นอกจากนี้ ยังมีวัดซื่งพระบาทสมเด็จพระเจ้าอยู่หัวรัชกาลที่ 5 โปรดสร้างขึ้น 2 แห่ง คือ วัดอัษฎางค์นิมิตร มีโบสถ์และเจดีย์ในศิลปะแบบยุโรป ตั้งอยู่บริเวณสูงสุดของยอดเขา และวัดจุฑาทิศน์ราชธรรมสุภา ตั้งอยู่บริเวณหมู่บ้านภาณุรังษีทางทิศเหนือของเกาะ