Carlos Zilio ingressou no Instituto de Belas Artes da Guanabara em 1962 e estudou pintura com Iberê Camargo. Formou-se em psicologia pelo Instituto de Psicologia da Universidade Federal do Rio de Janeiro (UFRJ), em 1973. Em 1975, tornou-se um dos editores da revista Malasartes.
Sua produção dos anos 1960 e 1970 revela um amplo sentido de crítica social, como em Lute (1967) ou em Para um Jovem de Brilhante Futuro (1973). Em 1976, em razão de perseguição política, viaja para Paris, onde, em 1980, conclui doutorado em artes na Universidade de Paris VIII. Após seu retorno ao Brasil, cria e leciona no curso de especialização em História da Arte e História da Arquitetura no Brasil, e também no mestrado em História Social da Cultura na PUC/RJ.
Em 1978, decide dedicar-se unicamente à pintura, passando a realizar trabalhos abstratos. Contribui para essa escolha, como declara o próprio Zilio, o contato com a obra de Cézanne (1839 – 1906). Seus trabalhos também dialogam com a pintura de artistas norte-americanos, como Barnett Newman (1905 – 1970) ou Jasper Johns (1930). Realiza obras abstratas, pinturas gestuais em que trabalha freqüentemente com uma paleta monocromática.