Il centro urbano di Palo del Colle sorge a 177 metri s.l.m., su di una piccola altura sul primo gradino delle Murge. Il nucleo medievale, detto “terra di Palo”, è nella parte alta dell’abitato, il moderno “borgo” cittadino, invece, si estende in pianura.
L’attuale Palo potrebbe essere identificata con l’antico centro apulo di Palio, i cui abitanti sono citati in un passo di Plinio il Vecchio.
In età feudale il borgo andò incontro ad un incremento demografico dovuto all’accoglienza di coloro che fuggivano dalle coste, minacciate da continue incursioni saracene. Nel secolo XVII Berardino Barzionevo ne ottenne il feudo passato successivamente sotto il controllo degli Orsini, e quindi dei Filomarino. Infine le vicissitudini politiche di Bari.