Historia miejskiej zieleni urządzonej sięga roku 1905, kiedy to został przekazany miastu pierwszy park o powierzchni 6,8 ha jako wspólne przedsięwzięcie rybnickiego przedsiębiorcy J. Hasse i władz miasta dla mieszkańców Rybnika.
Od roku 1922 wraz z rozwojem miasta stopniowo powiększały się tereny zieleni miejskiej.
Rozstrzygnięty w 1938 r. Ogólnopolski Konkurs Zazielenienia Miast Polskich przyniósł Miastu zaszczytne drugie miejsce po Poznaniu.
Bardzo duże zasługi dla rozwoju i estetyki miasta wniósł Władysław Weber, burmistrz okresu międzywojennego i lat 1945-50.
Z jego inicjatywy nastąpił bardzo intensywny rozwój terenów zieleni i ogródków działkowych. Założono wiele nowych zieleńców powiększając w ten sposób areał zieleni urządzonej miasta.
Obecna powierzchniaterenów zieleni miejskiej przekracza 106 ha.
Zarząd Zieleni Miejskiej jest jednostką organizacyjną Gminy miasta Rybnik i prowadzi działalność w formie jednostki budżetowej, utworzona z dniem 1 stycznia 2003r. na podstawie Uchwały Nr 31/II/2002 Rady Miasta Rybnika z dnia 3 grudnia 2002r.
Zasadniczym celem zakładu jest utrzymanie odpowiedniego poziomu wegetacyjnego roślin i ich kondycji zdrowotnej w warunkach zieleni miejskiej, poprzez całoroczne prowadzenie prac konserwacyjno - pielęgnacyjnych. Pozwala to, na kontynuację tzw. ciągłości ekologicznej w ekotopie (siedlisku) miasta Rybnika.
Jednostka prowadzi prawne władanie terenami zieleni i cmentarzami komunalnymi Gminy miasta Rybnika na podstawie zawartych umów użyczenia.