Aníbal Carmelo Troilo nació el 11 de julio de 1914, en el barrio del Abasto, en Capital Federal, Argentina. Cuando tenía 8 años sufrió la muerte de su padre. Su vocación artística surgió cuando aún cursaba la escuela primaria. El mismo Troilo comentó alguna vez que “el fueye me atraía tanto como una pelota de fútbol. La vieja se hizo rogar un poco, pero al final me dio el gusto y tuve mi primer bandoneón: diez pesos por mes en catorce cuotas. Y desde entonces nunca me separé de él”.
Su familia lo apodó Pichuco, sobrenombre con el que comenzó a ser conocido en el ambiente. En 1926, a la temprana edad de 12 años, tocó el bandoneón en un evento benéfico del Petit Colón, un cine del barrio del Abasto. A pedido del dueño del cine, pasó a integrar la orquesta estable del mismo. En 1930 se unió al conjunto Vardaro-Pugliese, que daba espectáculos en el Metropol de la calle Lavalle. La agrupación estaba integrada por Osvaldo Pugliese al piano, Alfredo Gobbi y Elvino Vardaro en violines, Miguel Jurado y Aníbal Troilo en bandoneones y Luis Adesso en contrabajo.
En 1932 fue llamado por Julio De Caro, quien formó una gran orquesta que debuto en el cine Astor. La orquesta contaba con Pedro Laurenz, Armando y Alejandro Blasco, Aníbal Troilo y Calixto Sallago en bandoneones; Francisco De Caro y José Maria Rizzuti en pianos; Vicente Tagliacozzo, Julio De Caro, Samuel Reznik, José Niessov y Sammy Friedenthal en violines; Vicente y José Sciarreta en contrabajos y Antonio Rodríguez Lesende como cantante. En 1933, Troilo participó en la película Los tres berretines, en un trío con José Maria Rizzutti en piano y Vicente Tagliacozzo ejecutando el violín.
Su asenso fue meteórico. El poeta Julián Centeya lo bautizó como -El Bandoneón Mayor de Buenos Aires-. Troilo fue autor de 60 excelentes Tangos. Los músicos que lo acompañaron en su carrera musical han elogiado cada aspecto de su persona. Su talento fue sorprendente, por lo precoz y la grandeza de su aporte al género. Los entendidos, afirman que su grandeza radica en que su pasión era tal, que eso mismo lo elevaba. Troilo cerraba sus ojos cuando tocaba pero no pudo explicar el motivo. En ocasiones dijo que lo hacía porque se sentía dentro de sí mismo.
Tras la muerte de Homero Manzi, una noche interrumpió un juego de Bacarat se aisló en una habitación para componer en un rato su obra Responso, un lamento que está catalogado como uno de los tangos más brillantes de todas las épocas. Lo grabó pero luego se negaba a tocarlo. Lo ha hecho a pedido del público, pero se sabe que sufría cuando lo hacía.
Troilo fue un melodista extraordinario, talentoso para la composición como lo demuestra en obras de su autoría para letras de Homero Manzi (Barrio de tango, Sur, Discepolín, Che Bandoneón. Troilo tuvo en su orquesta al innovador del tango, cuando joven, Ástor Piazzolla, a quien difirió con el orgullo de designarlo su arreglador. Troilo Siempre recordaba a Piazzola: “la gente quiere bailar, no perdamos el baile, porque si perdemos la milonga, sonamos”. Sus formaciones orquestales contaron con cantantes de renombre como, Edmundo Rivero, Roberto Goyeneche y Elba Berón.
El Bandoneón Mayor de Buenos Aires murió el 19 de mayo de 1975 en el Hospital Italiano, a causa de un derrame cerebral y sucesivos paros cardíacos.