城市绿化工作通常由城市人民政府城市绿化行政主管部门负责。具体来说：
公共绿地、风景林地、防护绿地、行道树及干道绿化带的绿化由城市人民政府城市绿化行政主管部门管理。
各单位管界内的防护绿地绿化由该单位按照国家有关规定管理。
单位自建的公园和单位附属绿地的绿化由该单位管理。
居住区绿地的绿化由城市人民政府城市绿化行政主管部门根据实际情况确定的单位管理。
城市苗圃、草圃和花圃等的绿化由其经营单位管理。
此外，国务院设立全国绿化委员会，统一组织领导全国城乡绿化工作，其办公室设在国务院林业行政主管部门。地方绿化管理体制由各省、自治区、直辖市人民政府根据本地实际情况规定。