Castellana nasce nell'alto Medioevo grazie alla colonizzazione operata dal Monastero di San Benedetto di Conversano nel X secolo, precisamente nel 901. Ciò è testimoniato da una pergamena che si riferisce all'atto di vendita di Ermenefrido, figlio di Ermuzio, e sua moglie Trasisperga a favore di Ianniperto. Il documento parla di un Castellano Vetere e di un Castellano Novo. Nel 1098 il Conte Goffredo di Conversano, di origini normanne, dona a San Benedetto tutto il territorio e consente all'abate di radunarvi gente per popolarlo.
La sua fondazione ufficiale viene fatta risalire nel dicembre 1171, quando l'Abate Eustasio donò il feudo di Castellano con buone condizioni di vassallaggio a due otrantini, Nicola e Costa, nel tentativo di ripopolare l'agglomerato di case esistenti, molte delle quali andate distrutte nel corso delle contese tra Ruggero II di Sicilia e i dinasti normanni, per goderne nuovamente delle rendite.
Il borgo vicus ricostruito ben presto si costituisce in universitas ed, in questo periodo è collocata la presunta visita di Federico II di Svevia e della sua sosta di una notte sotto l'ormai inesistente Olmo di Porta Grande. Durante la dominazione sveva il monastero conversanese di San Benedetto viene abbandonato, e nel 1226 Papa Clemente IV concede il convento di Conversano a un gruppo di monache cistercensi fuggite dalla Morea, regione della Grecia centrale. A loro vengono assegnate tutte le proprietà dell'antica abbazia, compresa Castellana, e la giurisdizione ecclesiastica: ovvero la potestà ordinaria su clero e popolo di Castellana più il diritto di impugnare il pastorale e cingere la mitra.
Nei primi anni del quattrocento, Castellana cercò di liberarsi dalle dipendenze feudali della Contea di Conversano e dalla badessa del monastero benedettino di Conversano a cui versava le decime. Approfittando della lotta che imperversava la casata dei d'Angiò per il trono del Regno di Napoli, nel 1407 trecento giovani castellanesi, guidati dal valoroso Ottavio da Castellana, si schierarono dalla parte del Re Ladislao d'Angiò all'assedio di Taranto contro Maria d'Enghien, sorella della badessa e vedova del principe Raimondo Orsini Del Balzo. Ammirati per le loro prove di valore, i combattenti castellanesi passarono alle cronache come i Leoni di Fortezza. Ottenuta la vittoria con la resa di Maria d'Enghien, con a seguito il suo matrimonio risolutore col re Ladislao d'Angiò, Castellana ottenne il privilegio promesso.
Dopo la morte di Ladislao, nel 1426, la Regina Giovanna II di Napoli nomina duca di Bari il nobile abruzzese Giacomo Caldora, il quale ottenne, tra gli altri, anche il territorio di Castellana. I Caldora ebbero potere sino al 1440 quando Antonio Caldora, figlio primogenito di Giacomo e suo successore al titolo di duca di Bari, venne spodestato dal viceduca Marino Reguardati da Norcia, che offrì l'intero ducato, assieme a Castellana, a Giovanni Antonio Orsini del Balzo, principe di Taranto e figlio di Maria d'Enghien dal suo primo marito.
Nel 1456, Castellana e l'intera contea di Conversano (comprendente anche i centri di Casamassima, Castiglione, Noci e Turi) costituirono la dote di Caterina, figlia di Giovanni Antonio Orsini Del Balzo, andata in sposa al duca d'Atri Giulio Antonio Acquaviva. Gli Acquaviva, che detennero i diritti feudatari fino alla loro abolizione nel 1806, furono feudatari più umani verso il popolo, mettendo in condizione i coloni di divenire piccoli proprietari che trasformarono il territorio, coltivando uva e grano e traendone rilevanti benefici economici.
Il disboscamento delle alte colline vicine alla città si concluse nel '700, quando le acque pluviali, non più trattenute dai boschi, allagarono il paese. Frequenti allagamenti (quattordici documentati fra il 1674 e il 1905) causarono numerose vittime e danni. Da ricordare soprattutto l'alluvione del 1674 che provocò oltre 100 vittime, quella del 28 agosto 1741, in cui l'acqua attinse a Largo Porta Grande a circa sei metri d'altezza, e quella del 9 novembre 1896 che provocò 4 vittime e rese inabitabili oltre 600 abitazioni causando danni considerevoli ai 2 000 abitanti nella parte più bassa del paese. L'emergenza fu risolta con la costruzione, dal 1911 al 1913 ad opera del Genio Civile, del Canalone che collegò le gravinelle alla gravina di San Jacopo. In più le costruzioni di nuove abitazioni avvennero non più in valle ma in cima alla collina, dai 280 m s.l.m. di Largo Porta Grande ai 300 m s.l.m. dove è situato l'attuale centro della città nei pressi della casa comunale.
Tabella delle inondazioni avvenute a Castellana Grotte
Nel 1938 la cittadina subisce una svolta turistica, grazie alla scoperta delle grotte da parte del professore Franco Anelli coadiuvato da Vito Matarrese (che in seguito scoprirà la Grotta Bianca). Nel 1950 il nome del Comune fu mutato da Castellana in Castellana Grotte, in omaggio alla scoperta.
Nel 1690, molto probabilmente per via di un carico di merci infetto attraccato nel porto di Monopoli, una terribile epidemia di peste si diffuse nel territorio a sud-est di Bari. Complici le carenti condizioni igieniche, la malattia si diffuse rapidamente, mietendo numerose vittime che decimarono la popolazione. A Castellana la peste arrivò il 23 dicembre 1690 e furono registrati 22 decessi, come attestato da documenti notarili del notaio Giacobbe Fanelli. Si narra (mancanza fonte) che la situazione cambiò durante la notte fra l'11 e il 12 gennaio 1691 quando due sacerdoti, don Giuseppe Gaetano Lanera e don Giosafat Pinto, pregarono incessantemente la Madonna detta della Vetrana per liberare la popolazione dalla peste (mancanza di fonte da citare, mancanza di prove scientifiche).
Dalla Madonna della Vetrana (appellativo che, secondo alcune fonti, deriverebbe da "veterana", cioè "antica"; secondo la tradizione popolare, invece, "vetrana" proverrebbe dall'omonimo termine dialettale, con cui si indicava la peste), ritratta in un quadro risalente al XIV secolo e ubicato in una chiesetta rupestre non lontano dal centro abitato di Castellana, i due sacerdoti ebbero sia pur separatamente la stessa ispirazione: ungere i bubboni dei malati con l'olio del lume che ardeva perennemente accanto a quello stesso quadro. Così facendo, e dando fuoco a tutto ciò che era stato in contatto con il morbo, da quel 12 gennaio a Castellana più nessuno morì di peste. Tutti attribuirono subito la liberazione dalla peste alla miracolosa intercessione della Vergine e la sua venerazione crebbe, tanto che le autorità sacre e laiche castellanesi, in segno di gratitudine, decisero di festeggiare ogni anno l'evento.
Intitolata a san Leone Magno come da epigrafe sulla facciata, è stata edificata nel 1383 ampliando una già esistente chiesa romanica a cui fu annessa una torre normanna difensiva, poi convertita in campanile. Ai lati della facciata principale si ammirano le statue di Leone Magno e di Giovanni Battista, fino ad allora collocate internamente sull'altare maggiore, mentre sul fastigio vi è la scultura della Madonna Consolatrice, compatrona castellanese. L'interno, suddiviso in tre larghe navate, è abbellito da arcate e da un affresco scoperto e restaurato di recente (1970) in sti