Κατά τη μυθολογία, η Ανάφη οφείλει το όνομά της στο γεγονός ότι αναδύθηκε (αναφάνηκε) από τα νερά του Αιγαίου, μετά από επιθυμία του Απόλλωνα για να προσφέρει καταφύγιο στους Αργοναύτες. Γι’ αυτό και οι κάτοικοι της, προς τιμή του, έκτισαν το ναό του Απόλλωνα Αιγλήτη (από την λέξη «αίγλη», δηλαδή αυτού που λάμπει) στην κορυφή Κάλαμος (όπου αργότερα χτίστηκε η εκκλησία της Παναγίας Καλαμιώτισσας).
Πάλι κατά την μυθολογία, το νησί ήταν η πατρίδα του Αιόλου, θεού των ανέμων, ο οποίος πρόσφερε στον Οδυσσέα τους ασκούς με τους ανέμους του.
Στην Ανάφη κατοίκισαν Φοίνικες και αργότερα Δωριείς οι οποίοι έμεναν στο κέντρο του νησιού. Στη διάρκεια του 5ου αι. π.Χ. η Ανάφη έγινε μέλος της Αθηναϊκής Συμμαχίας.
Στο Μεσαίωνα το νησί ανήκε στο Δουκάτο της Νάξου και κυβερνήθηκε από Βενετούς οι οποίοι, ανήμποροι να προστατέψουν το νησί από τους πειρατές, αναγκάστηκαν να καταφύγουν στην Κρήτη. Το 1537 λεηλατήθηκε από τον Τούρκο αρχιναύαρχο Μπαρμπαρόσα και κατόπιν υποδουλώθηκε στους Τούρκους. Ελευθερώθηκε το 1832 μαζί με τη Σαντορίνη.
Στα ανατολικά της Ανάφης δεσπόζει ο Βράχος, ένας ασβεστολιθικός μονόλιθος με ψηλότερη κορυφή το Κάλαμο που αποτελεί το κυριότερο αξιοθέατο του νησιού. Ο Κάλαμος αποτελεί τον δεύτερο μεγαλύτερο μονόλιθο της Μεσογείου, μετά το Γιβραλτάρ. Στην κορυφή του Καλάμου, στην οποία οδηγεί μονοπάτι από τη μονή Ζωοδόχου Πηγής, βρίσκεται η παλιά μονή της Παναγίας της Καλαμιώτισσας, που κτίσθηκε το 1715, δίπλα σε ερείπια μεσαιωνικού οχυρού.