Στο βόρειο τμήμα του χωριού ξεχωρίζουν τα ερείπια του Βυζαντινού Πύργου που δεσπόζει από τον λόφο με πανοραμική θέα σε όλο τον οικισμό αλλά και μακριά μέχρι τις κορυφές του Πάρνωνα με τα καστανοδάση, τα έλατα, τα πεύκα αλλά και ακόμα μακρύτερα μέχρι τον Αργολικό Κόλπο. Ο Πύργος σύμφωνα με τις ιστορικές πηγές κτίσθηκε από τους Βυζαντινούς τον 14ο αιώνα και αποτελούσε χρήσιμο οχυρωματικό έργο για τον έλεγχο του σημαντικού δρόμου που ξεκινούσε από την Αργολίδα και κατέληγε στην Λακωνική πεδιάδα.
Στην Πλατεία Καψαμπέλη πάνω από το παλιό κτήριο του Δημοτικού Σχολείου υπάρχει ο Πολιούχος Ναός της Μεταμόρφωσης του Σωτήρος. Η Εκκλησία αυτή κτίσθηκε το 1780 μετά από ειδική άδεια του τότε Τούρκου αγά της Τρίπολης που είχε επισκεφθεί την Καστάνιτσα και έμεινε απόλυτα ευχαριστημένος από τη φιλοξενία των κατοίκων και από τα όμορφα δώρα τους.
Στην Πλατεία του Αη-Γιάννη και στο κτήριο που μέχρι το 1992 στέγαζε, από το 1870, το Δημοτικό Σχολείο, διαμορφώθηκε το 2008 το Κέντρο Ενημέρωσης Καστάνιτσας με χρηματοδότηση από τα ειδικά Ευρωπαϊκά Προγράμματα.
Μέσα από την ιδιαίτερη αρχιτεκτονική ομορφιά της Καστάνιτσας ξεπροβάλλουν τα πυργόσπιτα που όλα τους κουβαλούν ιστορία αρκετών αιώνων. Διάσπαρτα σε όλες τις γειτονιές του χωριού αλλά κυρίως στη γειτονιά του Πύργου ξεχωρίζουν με τον επιβλητικό τους όγκο.
Πεντακόσια μέτρα από τον οικισμό και επί του επαρχιακού δρόμου Καστάνιτσας -Σίταινας το 2006 διαμορφώθηκε και αναπλάσθηκε ένας πολύ γραφικός χώρος, με πλακόστρωτα, παραδοσιακά φανάρια, λουλούδια, πλατάνια και όλα αυτά σε ένα καταπράσινο περιβάλλον γεμάτο από καστανιές, καρυδιές και αρκετά νερά.
Τόσο μέσα στο χωριό όσο και γύρω από αυτό υπάρχουν δέκα τουλάχιστον εκκλησίες και εξωκλήσια άριστα συντηρημένα από προσφορές των Συλλόγων αλλά και όλων των Καστανιτσιωτών. Αξίζει να αναφέρουμε τις εκκλησίες του Αγίου Νικολάου στη γειτονιά του Πύργου και του Ιωάννη Χρυσόστομου στην Πλατεία Α-Γιάννη, του Αγίου Γεωργίου ψηλότερα από το χωριό, όπου οδηγεί βατό σηματοδοτημένο μονοπάτι κ.ά.
Έξω απο το χωριό λειτουργούσαν τρεις νερόμυλοι που άλεθαν το σιτάρι. Απο συμφωνητικά του 1828 προκύπτει ότι από τότε λειτουργούσαν νερόμυλοι στην Καστάνιτσα. Σήμερα σώζονται τα ερείπια του τελευταίου νερόμυλου που λειτούργησε μέχρι το 1970 περίπου.
