Η παρακμή της Αθήνας, μετά την τελευταία πνευματική άνθισή της, αρχίζει τους πρώτους βυζαντινούς αιώνες. Σ’ αυτό είχε συντελέσει και ο Χριστιανισμός.
Η εξάπλωση της νέας θρησκείας και η αναγνώρισή της για επίσημης του κράτους, ήταν φυσικό να βλάψει κατά κύριο λόγο την πόλη που είχε περισσότερο από κάθε άλλη καλλιεργήσει τις φιλοσοφικές και θρησκευτικές δοξασίες των αρχαίων Ελλήνων. Αναφέραμε σε άλλο κεφάλαιο πως ιδρύθηκε από τον Απόστολο Παύλο, γύρω στα 53, η Εκκλησία των Αθηνών και πως την θεμελίωσαν οι πρώτοι επίσκοποί της: Διονύσιος ο Αρεοπαγίτης, Νάρκισσος, Πόπλιος και Κοδράτος. Το κλίμα στην πόλη της Παλλάδος δεν ήταν ευνοϊκό για την ανάπτυξη του Χριστιανισμού. Οι Αθηναίοι, προσκολλημένοι στην αρχαία θρησκεία και ποτισμένοι με τις θεωρίες των παλαιών και των νεώτερων φιλοσόφων, δεν ήταν επιδεκτικοί να δεχτούν τη νέα φιλοσοφία του Χριστιανισμού. Γι’ αυτό, ολόκληρο τον πρώτο και δεύτερο αιώνα, ελάχιστες προόδους είχε σημειώσει η χριστιανική θρησκεία στην Αθήνα. Οι Αθηναίοι αντιπαθούσαν τους πρώτους χριστιανούς. Μας το μαρτυρεί ο σύγχρονός τους Λουκιανός. Αναφέρει ότι στις αθηναϊκές γιορτές, πριν αρχίσει η θρησκευτική τελετή, φώναζε ο κήρυκας: «Εάν είναι κανένας άθεος, ή χριστιανός, ή επικούρειος και έχει έλθει για κατάσκοπος, να φύγει». Και τους έδιωχναν πριν αρχίσει η γιορτή με τις κραυγές: «Έξω χριστιανοί!…». Παρά ταύτα, στους μεγάλους διωγμούς που έγιναν ολόκληρο τον 3ο αιώνα, οι χριστιανοί της Αθήνας και γενικότερα της Ελλάδος δεν έπαθαν τις διώξεις και τα ομαδικά μαρτύρια άλλων τόπων. Ούτε ακόμη και σ’ αυτούς τους θηριωδέστερους και διαρκέστερους διωγμούς επί Διοκλητιανού (303 – 305). Αυτό οφείλεται στο ότι οι Έλληνες ήταν πιο πολιτισμένοι και ήμεροι και γιατί οι χριστιανοί ήταν λίγοι και δεν έδιναν αφορμές. Ο μεγάλος σοφός και δογματικός του Χριστιανισμού Ωριγένης γράφει ότι η Εκκλησία του Θεού στην Αθήνα ήταν «πραεία και ευσταθής», αντίθετα με την Εκκλησία του Δήμου, που ήταν πάντα «θορυβώδης και στασιώδης».
Από τους πρώτους εκείνους Αθηναίους χριστιανούς, πολλοί ήταν μορφωμένοι και αξιόλογοι. Ο Ανάκλητος και ο φιλόσοφος Υγίνος, έγιναν το 2ο αιώνα επίσκοποι στη Ρώμη και σημειώνονται στη σειρά των παπών με την τιμητική προσθήκη: «το γένος Έλληνες εξ Αθηνών». Ο Ανάκλητος αναφέρεται δεύτερος, μετά τον Άγιο Πέτρο, Επίσκοπος Ρώμης. Αλλά και ο Πάπας Σίξτος Β΄, που «εμαρτύρησεν» επί Ουαλεριανού (258). Σε όλο το διάστημα των διωγμών αναφέρονται ελάχιστοι Αθηναίοι που πήραν το φωτοστέφανο του μαρτυρίου. Ανάμεσα σ’ αυτούς είναι ο επίσκοπος Λεωνίδας, που είχε ταξιδέψει στην Τροιζήνα και τον σταύρωσαν το 250 στην Κόρινθο. Σε μια νησίδα του Ιλισού, κοντά στο Στάδιο, είχαν αποθέσει τα λείψανα του Αγίου Λεωνίδα σε μια μικρή εκκλησία. Ήταν από τις τρεις πρώτες χριστιανικές εκκλησίες της Αθήνας. Οι άλλες δύο βρίσκονταν: στο Δαφνί ή στα Πατήσια η μία και η άλλη στους πρόποδες του Λυκαβηττού. Τις πρώτες εκκλησίες τις χτίζαν φτωχικές και μακριά από την πόλη. Οι ανασκαφές των Αθηνών δε μας παρουσίασαν χριστιανικούς ναούς μέσα στην Αθήνα ως τον 5ο αιώνα. Στις ανασκαφές του Κεραμεικού και της Αγοράς βρέθηκαν χριστιανικά λυχνάρια, που τοποθετούνται στα μέσα του 4ου αιώνα. Το πιθανότερο είναι πως τα χρησιμοποιούσαν στα σπίτια τους οι χριστιανοί των χρόνων εκείνων και όχι σε εκκλησίες.