Ilario Rossi ha sempre vissuto a lavorato a Bologna, dove il suo riferimento costante è stata l’opera di Giorgio Morandi, del quale è allievo all’Accademia di Belle Arti di quella città. Le sue opere sono soprattutto paesaggi, nature morte e figure interpretate attraverso una vena intimistica che stempera il rigore del tonalismo morandiano; dipinti che egli presenta con regolarità alle Biennali di Venezia e alle quadriennali romane già a partire dal 1939.
Nel primo dopoguerra, Rossi è tra i fondatori della Galleria Cronache, che svolge un fondamentale ruolo di aggiornamento della cultura bolognese. Accanto a lui sono gli amici come Giovanni Ciangottini, Pompilio Mandelli, Luciano Minguzzi e Carlo Corsi. Nel corso degli anni ’50 si avvicina alla pittura informale, accogliendo tempestivamente le più innovative suggestioni internazionali, e ricevendo anche l’attenzione di Francesco Arcangeli, insieme a quella di altri critici come Maurizio Calvesi, Marco Valsecchi, Adriano Baccilieri.
Nel 1965 ottiene la cattedra all’Accademia di Bologna, dove diventa direttore nel 1970. Nel 1971 è chiamato a insegnare all’Accademia di Brera, e nel 1976 Luigi Carluccio gli dedica una importante monografia.