L'edificazione del palazzo venne completata nel 1584 con il loggiato del primo piano, di straordinaria bellezza, articolato in otto archi e quattro nicchie. Qui trovano posto quattro statue, ognuna a simboleggiare una delle quattro virtù cardinali (Fortezza, Giustizia, Prudenza e Temperanza), lo stemma della famiglia Sylos (una croce e tre conchiglie, attributo iconografico di San Giacomo di Compostela) e gli stemmi delle famiglie imparentate con i Sylos (i Vulpano, i Sersale e i Calò). Al di sotto del loggiato sono visibili i ritratti di Giovanni Alfonso Sylos e della moglie Laura Pietà. A livello stradale, un arco a sesto acuto è quanto rimane dell’antichissima Chiesa di Ognissanti, collegata nella parte interna da una scala, eliminata successivamente dal vescovo De Crescenzio.
Nella facciata di via Gian Donato Rogadeo (già via dei Mercanti) si aprono una serie di ambienti, non previsti nell'impianto originario, adibiti a botteghe nell'800. Il portale d'ingresso, in bugnato toscano, è caratterizzato sulla parte sommitale da una lunga trabeazione che termina con due medaglioni raffiguranti Giulio Cesare e Augusto. Tra i due medaglioni, un’architrave riporta un inno rivolto a Cristo: ‘CRISTUS VINCIT CRISTUS REGNAT CRISTUS IMPERAT’, ‘Cristo vince, Cristo regna, Cristo comanda’. Attraverso il portale di ingresso si accede ad un androne incorniciato da un porticato con esili colonne ingentilite da preziosi capitelli di stile corinzio. Questi elementi decorativi, di chiara ascendenza napoletana e dalmata, trovano riferimento nel chiostro olivetano dell’abbazia di San Leone a Bitonto risalente al 1524. Nell'angolo Nord-Est del cortile vi è la scala a due rampe, tramite cui si accede ai piani superiori.
Il palazzo è inserito nell’Elenco degli Edifici Monumentali d’Italia del 1902 ad opera dell’allora Ministero della Pubblica Istruzione. Dal 18 aprile 2009 il palazzo è sede della Galleria Nazionale della Puglia ‘Girolamo e Rosaria Devanna’, mecenati bitontini che nel 2004 hanno siglato un accordo con il Ministero dei Beni e delle Attività Culturali e il Comune di Bitonto per donare parte della loro collezione d’arte allo Stato Italiano con l’obbligo di allestire la collezione a Bitonto, in uno spazio pubblico e fruibile a tutti.