Admitido no Colégio Romano dos jesuítas, prosseguiu com êxito nos estudos, se doutorando em filosofia, convivendo com os melhores e mais preparados clérigos de sua geração. Depois, concluiu o curso de teologia com os Dominicanos de Minerva, onde conquistou muitos conhecimentos teológicos que lhe foram precisos para mais tarde ser um bom pregador e confessor de almas.
Em 1721 recebeu a unção sacerdotal. Como sacerdote, decidiu fundar a “Pia União de Sacerdotes Seculares”, dirigida por ele durante alguns anos. São João Batista de Rossi, não estava satisfeito e desejava obras mais abundantes. Sendo assim, fundou e dirigiu a Casa de Santa Gala, destinada para homens carentes e, depois, a Casa de São Luiz Gonzaga, para mulheres necessitadas.
Seu santo de devoção era São Luiz Gonzaga, por isso buscava seguir seu exemplo de vida em sua missão apostólica. Seu objetivo era acolher os mais necessitados, os doentes, encarcerados, pobres e pecadores. Possuía o dom do aconselhamento, era atencioso e paciente com os fiéis. Embora voltado às classes mais baixas da sociedade, não recusava seus serviços à comunidade, dirigia tudo com muita doçura e dedicação. Por este motivo, tornou-se o confessor das Irmãs da Caridade.
Morreu no dia 23 de maio de 1764, com sessenta e seis anos após ser vencido por uma doença. Tão pobre, não tinha dinheiro para pagar pelo funeral, que foi pago graças aos devotos que o amavam e eram gratos a ele. Foi canonizado pelo papa Leão XIII no ano de 1881.
São João Batista de Rossi, rogai por nós!