Όπως και οι γειτονικοί γύρω Δήμοι, η περιοχή του Αλίμου κατοικείται συνεχώς από το 3000 π.Χ., με ευρήματα από την Νεολιθική Περίοδο, το Μυκηναϊκό πολιτισμό, τα Γεωμετρικά και Κλασσικά χρόνια κ.ο.κ.
Την χρυσή εποχή της Αθήνας, είναι γνωστός ως Δήμος Αλιμούντος, ανάμεσα στους Δήμους των Φαληρέων και των Αιξωνέων. Το όνομα του, όπως και το σημερινό «Άλιμος» προέρχονται από την ομηρική λέξη «αλς» που σημαίνει θάλασσα, ενώ η άλλη σύγχρονη ονομασία της περιοχής, «Καλαμάκι», θεωρείται πως πηγάζει είτε από ένα μεγάλο καλαμιώνα που υπήρχε στην περιοχή είτε από ένα χαρακτηριστικό τετράκλωνο κλωνάρι καλαμιάς που βρισκόταν σε κεντρικό σταυροδρόμι του οικισμού.
Στον Άλιμο, γύρω στα 460 π.Χ., γεννήθηκε ο μεγάλος ιστορικός Θουκυδίδης που μέχρι και σήμερα, είκοσι έξι αιώνες μετά την γέννηση του, διδάσκεται στα σπουδαιότερα πανεπιστήμια του κόσμου.
Σύμφωνα με τα ευρήματα από την αρχαϊκή αλλά και την Βυζαντινή περίοδο, το κέντρο δραστηριότητας του Δήμου Αλιμούντος υπήρξε ο λόφος της Αγίας Άννας, μεταξύ της λεωφόρου Αλίμου και του αεροδρομίου του Ελληνικού. Πάνω στο λόφο ανακαλύφθηκαν ερείπια αρχαίου ιερού, στο οποίο τελούνταν η ξακουστή γιορτή των Αθηναίων, τα Θεσμοφόρια.
Τα Θεσμοφόρια ήταν πανελλήνια θρησκευτική γιορτή αφιερωμένη στη θεά Δήμητρα, στην οποία συμμετείχαν μόνο γυναίκες οι οποίες απείχαν από ερωτικές δραστηριότητες σε όλο το διάστημα της εορτής. Επικεφαλής της γιορτής ήταν δύο γυναίκες, οι άρχουσες, που εκλέγονταν από τον όμιλο των άλλων γυναικών. Στα προεόρτια επικρατούσε κλίμα αστεϊσμού και πειραγμάτων μεταξύ των γυναικών, ενώ στην «Άνοδο» πραγματοποιούνταν πομπή προς το ιερό της θεάς με τις συμμετέχουσες να φέρουν στο κεφάλι βιβλία των θεσμών και των κανόνων. Η γιορτή επίσης περιλάμβανε τη «Μέση», το μέσο της γιορτής, όπου οι γυναίκες κάθονταν κοντά στο άγαλμα της θεάς πάνω σε κλαδιά λυγαριάς κι έτρωγαν μόνο «σησαμούντες», ένα γλυκό σαν παστέλι. Τη νύχτα γινόταν πυρσοφορία και ομαδικός χορός. Την τελευταία μέρα της γιορτής, την «Καλλιγένεια», γιορτάζονταν η ευφορία της γης, η ευτεκνία και η πολυτεκνία των γυναικών. Τα Θεσμοφόρια έκλειναν με τον «ευπαιδίας» αγώνα, όπου το βραβείο το έπαιρνε η μητέρα που είχε γεννήσει το ωραιότερο παιδί του έτους.
Στους έντεκα αιώνες της Βυζαντινής Αυτοκρατορίας, ολόκληρη η παραλιακή ζώνη της Αττικής αποδυναμώνεται, κυρίως επειδή υφίσταται τις επιθέσεις και τις λεηλασίες των πειρατών. Οι λιγοστοί κάτοικοι ασχολούνται με τη γεωργία και την κτηνοτροφία. Στην Τουρκοκρατία, ο Άλιμος ήταν ένα μεγάλο κτήμα που ανήκε σε δύο μπέηδες – το γειτονικό Μπραχάμι οφείλει το όνομά του σε ένα από αυτούς, τον Ιμπραήμ Χαμζά μπέη ενώ η γειτονική περιοχή του Ελληνικού είχε την ονομασία «Χασάνι», μια και αποτελούσε περιουσία του δεύτερου, Χασάν μπέη.
Ο Άλιμος όπως τον ξέρουμε σήμερα, αρχίζει να αναπτύσσεται στις αρχές του 20ού αιώνα. Την περίοδο της Κατοχής, εξαιτίας της γειτνίασής του με το αεροδρόμιο του Ελληνικού, έχει πολλούς Γερμανούς οι οποίοι επέταξαν κατοικίες και βίλες. Επειδή, όμως, αξιωματούχοι του γερμανικού στρατού διαμένουν κατά τη διάρκεια της Κατοχής στην περιοχή, το Καλαμάκι αποφεύγει τους εκτενείς βομβαρδισμούς. Την δεκαετία του 1960, ο πληθυσμός του Δήμου υπερδιπλασιάζεται και ξεκινούν τα πρώτα μεγάλα έργα. Η μαρίνα του Αλίμου κατασκευάστηκε επί Χούντας (1967 – 1974).