La storia della chiesa s'innesta in quella della confraternita ed è ricca di vicende significative. Fatta costruire per voto prima del Mille dalla nobile Romana Dottula, moglie di K. Iohannacio di origine greca, nata con il nome di S. Maria di Iohannacio, fu intitolata a S. Giuseppe nel XVII sec. Distrutta con la città di Bari nel 1156 dal re normanno Guglielmo il Malo, e riedificata; crollata nel 1756 e ricostruita dalla confraternita. Destinata alla demolizione per i danni subiti per lo scoppio del piroscafo americano Henderson nel porto di Bari nel 1945. Fu salvata dall'intervento dell'arcivescovo Mimmi e dai lavori di risanamento del Genio Civile di Bari. Dal 1675 al 1683, divenne Vicaria dei Santi Giuseppe e Gaetano. Negli anni '70 del secolo scorso fu intitolata alla Santa Trinità in seguito alla concessione da parte di mons. Magrassi agli Ortodossi rumeni, il cui sacerdote officiava in rito bizantino. Chiusa al culto, fu riaperta nel 1987 con la nomina di rettore della chiesa e padre spirituale dell'arciconfraternita di don Nicola Bux. Oggi la chiesa esercita un forte richiamo per i fedeli e ed è un vero gioiello di architettura sacra.