Xuất thân là cầu thủ ở CLB Xe ca Hà Nội, nơi "giúp" ông có biệt danh Chung "xe ca". Ông sớm được biết tới nhờ sự nổi bật về thể hình, thể lực và có thể thi đấu được nhiều vị trí khác nhau như tiền đạo, tiền vệ, thậm chí khi cần ông có thể lui về chơi ở hàng hậu vệ. Tháng 9/1975, Mai Đức Chung chuyển sang đầu quân cho CLB Tổng cục đường sắt và gắn bó với đội bóng này đến khi treo giày, đây cũng là đội giúp ông có được vinh quang trong sự nghiệp càu thủ với chức vô địch quốc gia năm 1980. 

Dù có được những thành công không nhỏ như thế, nhưng có lẽ phải đến khi kết thúc đời cầu thủ, chuyển sang làm HLV, ông mới có được tất cả, từ thành tích đến địa vị và sự nể trọng. Trong sự nghiệp cầm quân của mình, ông Chung luôn tỏ ra rất mát tay và sớm có được thành công khi cùng ĐT nữ Việt Nam vô địch SEA Games 2003 và sau đó là chức vô địch SEA Games thứ 2 liên tiếp vào năm 2005. 

Bẵng đi một thời gian, HLV Mai Đức Chung trở lại nghiệp cầm quân ĐT nữ và gặt hái nhiều thành công trong 3 năm qua. Ấn tượng nhất là hai HCV liên tiếp ở SEA Games năm 2017 và 2019. Ngoài ra, nhà cầm quân lão làng này cùng các cô gái lên ngôi ở AFF Cup 2019 đầy thuyết phục. Đặc biệt hơn cả, nhà cầm quân sinh năm 1950 đã cùng ĐT nữ Việt Nam giành quyền góp mặt tại VCK World Cup 2023 tổ chức tại Australia và New Zealand.

4 lần giúp ĐTQG giành chức vô địch SEA Games, đó là kỷ lục vô tiền khoáng hậu ở ĐNÁ chứ không chỉ ở Việt Nam. Với tài năng của mình, HLV Mai Đức Chung xứng đáng với mọi lời ca ngợi và xứng đáng là người thầy lớn của bóng đá nữ Việt Nam.