Dopo una  carriera jazzistica ed orchestrale (con il maestro Cinico Angelini) decide di lanciarsi come solista leggero.Il suo primo disco, Ballata per una Tromba, riscosse un discreto successo; nel 1963 , partecipa alla colonna sonora del film L'amore difficile, scritta dal maestro Piero Umiliani con il brano Vicolo dell'amore 43.,Il colpo della sua vita avvenne nel 1964 con Il silenzio, versione leggera del "Silenzio fuori ordinanza" suonato nelle caserme. Il brano fu inciso per caso: in un concerto al Palaeur di Roma di fronte a un pubblico militare decise di eseguirlo con una malinconica parte recitata nella quale descrive bene la solitudine del militare di leva che dà una romantica buonanotte alla sua fidanzata lontana, e l'accoglienza fu esplosiva. Il disco vendette dieci milioni di copie, con picchi di successo anche nel nord Europa e in Giappone, dove Nini Rosso fece numerose tournée. Nello stesso anno partecipò al Cantagiro con Sono qui ad aspettarti, mentre l'anno seguente apparve nella trilogia di film musicarello Viale della canzone, 008 Operazione ritmo e Questi pazzi, pazzi italiani, diretti da Tullio Piacentini. Nel 1966 partecipò a Un disco per l'estate con Concerto per un amore. Altro buon successo fu, nel 1967, un altro brano dai toni malinconici, Uomo solo, utilizzato come sigla iniziale e finale della celebre serie televisiva Tenente Sheridan squadra omicidi. Nini Rosso fu anche attore, generalmente facendo la parte del trombettista, in alcuni musicarelli italiani degli anni sessanta: Sanremo, la grande sfida, In ginocchio da te, Little Rita nel far West, Canzoni bulli e pupe. Ha anche partecipato con il suo complesso al programma "La Macchina Meravigliosa" di Piero Angela (più precisamente la prima puntata dedicata all'orecchio). Muore per un tumore del polmone.