Το μεγαλύτερο ερημητήριο της Κρήτης, φυσικά απομονωμένο από τον υπόλοιπο πολιτισμό, ήταν τα δύσβατα Αστερούσια Όρη όπου λέγεται ότι έμεινε για δύο χρόνια ο Απόστολος Παύλος. Εκατοντάδες σπηλιές από τον Άγιο Νικήτα, τον Κουδουμά, τον Άγιο Αντώνιο, τον Άγιο Ιωάννη ως και το Ακρωτήριο Λίθινο, φιλοξένησαν τους φιλέρημους Χριστιανούς κάθε εποχής. Οι σχέσεις ανάμεσα στους ασκητές ήταν τόσο περιορισμένες, που στο Αγιοφάραγγο και το Μάρτσαλο μαζεύονταν μόνο μια φορά το χρόνο, στο Γουμενόσπηλιο, για να μετρηθούν και να δουν πόσοι επιζούν.
Σπήλαιο Αγίου Αντωνίου Κουδουμά 
Πάνω στο μονοπάτι που οδηγεί από τον Άγιο Ιωάννη Καπετανιανών στη Μονή Κουδουμά υπάρχει ένα εντυπωσιακό σπήλαιο με σχήμα Δ, μέσα στο οποίο υπάρχει το μικρό εκκλησάκι του Αγίου Αντωνίου.
Δυτικά από τη Μονή Κουδουμά, βρίσκεται το Αββακόσπηλιο, ένας σπηλαιώδης ναός στον οποίο ασκήτευε κατά τον 7ο αι. ο Όσιος Κοσμάς και θάφτηκε το σκήνωμα του, σύμφωνα με την παράδοση.
