Ο μικρός οικισμός της Κάτω Επισκοπής Σητείας υπήρξε πιθανότατα έδρα της Επισκοπής Σητείας κατά τη δεύτερη βυζαντινή περίοδο. Στο νεκροταφείο του χωριού βρίσκεται ο ναός των Αγίων Αποστόλων Πέτρου και Παύλου, ο οποίος αποτελεί μετασκευασμένο λουτρό του 11ου αιώνα, πιθανώς της επισκοπικής κατοικίας που βρισκόταν απέναντι, όπως ακριβώς και ο ναός των Αγίων Γεωργίου και Χαραλάμπους στην Επισκοπή Ιεράπετρας.
Ο ναός χωρίζεται σε τρία τμήματα και το κεντρικό μέρος στεγάζεται με οκταγωνικό τρούλο, ενώ τα άλλα δύο μέρη με ημικυλινδρική καμάρα. Το λουτρό μετατράπηκε σε ναό περίπου τον 15ο αιώνα, όταν είχε μεταφερθεί η επισκοπή Σητείας σε άλλη έδρα. Μέσα στο χώρο του ιερού υπάρχει γυάλινο κάλυμμα στο πάτωμα, για να μπορεί κάποιος να δει τμήμα από το λουτρό.