Appartenente alla casata degli omonimi marchesi, dopo avere frequentato il Collegio San Carlo a Modena si arruolò nelle truppe pontificie raggiungendo il grado di Maggiore. Improvvisamente abbandonò la carriera militare per dedicarsi a quella ecclesiastica, sebbene già in età avanzata. Fu nominato Elemosiniere da Papa Pio VII, che lo aggregò al Capitolo della Basilica Vaticana, consacrandolo Arcivescovo di Atene. Sotto il pontificato di Leone XII Filippo Filonardi venne destinato alla sede arcivescovile di Ferrara dove riuscì ad ottenere l'ammirazione del popolo e del clero, in particolar modo grazie alla creazione di due istituzioni cittadine: la Casa di ricovero e lavoro e il Discolato per giovani orfani. Il Papa gli dimostrò ripetutamente l'intenzione di elevarlo alla carica di Cardinale, ma egli si oppose sempre alla proposta.