Η λέξη «καστός» στα αρχαία ελληνικά σημαίνει στέρεα γη.
Ο Καστός έχει έκταση μόλις επτάμιση τετραγωνικά χιλιόμετρα και πλάτος εννιακόσια μέτρα, και είναι η μικρότερη κατοικήσιμη νησίδα των Επτανήσων. Αποτελείται από χαμηλούς λόφους που ο ψηλότερος δεν ξεπερνά τα 150 μέτρα. Γειτονεύει με τον Κάλαμο με τον οποίο τους χωρίζει ένα στενό μόλις μισού μιλίου. Σε απόσταση τριών ναυτικών μιλίων βρίσκεται ο Μύτικας.
Στην είσοδο του λιμανιού, στη νότια μεριά, είναι χτισμένος ένας παλιός ανεμόμυλος. Η παραλία του λιμανιού έχει έξω βότσαλα και μέσα άμμο. Κοντά στο λιμάνι βρίσκεται και η νησίδα Πρασονήσι. Το χωριό του Καστού είναι χτισμένο αμφιθεατρικά γύρω από το λιμάνι με σπιτάκια που φιλοξενούν τους λιγοστούς κατοίκους (μόνο 50). Ανάμεσα στα σημαντικά μνημεία που διαθέτει το νησί είναι ο ναός του Αγίου Ιωάννη του Προδρόμου, ενοριακός και κοιμητηριακός ναός που χτίστηκε στα μέσα του 19ου αιώνα. Ο ναός του Αγίου Ιωάννη διακοσμείται από ελαιογραφίες μεγάλων διαστάσεων και αξιόλογης τεχνοτροπίας, που έγιναν από τον Σπυρίδωνα Γαζή. Στις 23 και 24 Ιουνίου που γιορτάζει ο Άγιος γίνεται πανηγύρι. Σε υπόγειο χώρο, στα θεμέλια του ναού, υπάρχει θολωτός λιθόκτιστος χώρος που ανήκει πιθανόν σε παλαιοχριστιανικό τάφο. Σε μικρή απόσταση προς τα βορειοανατολικά του ναού ανακαλύφθηκε πριν από πενήντα χρόνια παρόμοιος τάφος με οστά και πήλινα αναθήματα. Τους δυο καμαροσκέπαστους τάφους των πρώιμων χριστιανικών χρόνων, οι ντόπιοι τους αποκαλούν «κοιμητήρια».
Τέσσερα χιλιόμετρα έξω από τον οικισμό είναι χτισμένο το ξωκλήσι του Αγίου Αιμιλιανού, ανάμεσα στα ερείπια λιθόκτιστων σπιτιών όπου ήταν η πρωταρχική θέση του χωριού. Εκεί κοντά βρίσκεται και ο αιωνόβιος ελαιώνας του Καλικεριμιού.
Στο νησί υπάρχουν παλιά ελαιοτριβεία και ανεμόμυλοι. Ένας από αυτούς είναι ο πιο καλοδιατηρημένος στα Επτάνησα και λειτουργούσε μέχρι το 1949.
Λίγο πιο βόρεια από το λιμάνι του Καστού, στον Άγιο Αιμιλιανό, υπάρχει η σπηλιά Φωκότρυπα, με βάθος 30μέτρων και αμμουδιά στο εσωτερικό της, η οποία θεωρείται αξιοθέατο του νησιού. Από το όνομά της φαίνεται ότι στην περιοχή έβρισκαν καταφύγιο φώκιες.
Αξίζει με το σκάφος να βγει κανείς από το λιμάνι και με ρότα προς το νότιο κάβο (έπειτα από ένα μίλι περίπου) να φτάσει σε μία τοποθεσία που οι ντόπιοι αποκαλούν πισίνα. Παραλία δεν υπάρχει ενώ ένα παχύ στρώμα με φύκια έχει καλύψει τα βράχια της ακτής. Ο βυθός είναι από λευκή άμμο που δημιουργεί φωσφορίζουσες αποχρώσεις στα νερά. Μεγάλη προσοχή χρειάζεται στις ξέρες έξω από τη βορινή μεριά του όρμου, όπου βρίσκεται και το λιμάνι, είναι ασφαλής η πλεύση τουλάχιστον διακόσια μέτρα ανοικτά.
Ο μοναδικός φυσικός όρμος στη δυτική μεριά, που είναι απόκρημνη, σε απόσταση 700 μέτρα από το χωριό, είναι το ασφαλές αγκυροβόλιο του Σαρακήνικου. Έχει ένα μικρό μώλο στην παραλία, που δίνει τη δυνατότητα ελλιμενισμού ακόμα και σε κακοκαιρία για να μην αποκλείεται το νησί από τους ισχυρούς Α – ΒΑ ανέμους.
Στον Καστό λειτουργεί και το Θαλασσινό Μουσείο (Μουσείο Πετροφάλαινας).
Να σημειώσουμε ότι για τα δυο νησιά, τον Καστό και τον Κάλαμο, δεν υπάρχει ακτοπλοϊκή σύνδεση για αυτοκίνητα. Κυκλοφορούν μονάχα αυτά που διαθέτουν οι ντόπιοι για την εξυπηρέτηση των τουριστών και των ιδίων.