Ο Μίμης Παπαϊωάννου γεννήθηκε το 1942 στη Νέα Νικομήδεια της Βέροιας και ξεκίνησε την καριέρα του στην ομάδα της γενέθλιας πόλης του, τη Νέα Γενεά Νέας Νικομηδείας. Το 1961 πήρε μεταγραφή στην ΑΕΚ έναντι 140.000 δραχμών.
Με την ΑΕΚ αγωνίστηκε επί 18 συνεχείς σεζόν και μαζί της γνώρισε μεγάλες διακρίσεις. Κατέκτησε πέντε πρωταθλήματα Α΄ Εθνικής (1963, 1968, 1971, 1978, 1979) και τρία Κύπελλα Ελλάδος (1964, 1966, 1978). Επίσης, αναδείχθηκε δύο φορές πρώτος σκόρερ (1964, 1966) και ήταν βασικός συντελεστής σε δύο εντυπωσιακές πορείες της ομάδας στα ευρωπαϊκά κύπελλα, το 1968-69 στο Κύπελλο Πρωταθλητριών και το 1976-77 στο Κύπελλο ΟΥΕΦΑ. Το 1979 σταμάτησε να αγωνίζεται στην Ελλάδα έπειτα από 483 αγώνες. Πέτυχε 234 γκολ, ρεκόρ για την εποχή που κατέρριψε ο συμπαίκτης του Θωμάς Μαύρος πολλά χρόνια αργότερα. Μέχρι σήμερα κατέχει την έκτη θέση σε συμμετοχές και την τρίτη θέση στους σκόρερ στην Α΄ εθνική. Είναι δε στην πρώτη θέση στους σκόρερ με την ίδια ομάδα. Παράλληλα αγωνιζόταν βασικός στην εθνική ομάδα, με την οποία σημείωσε ρεκόρ συμμετοχών (61 ματς) και γκολ (21) για την εποχή εκείνη. Το 1979 μετέβη στις Η.Π.Α., όπου έπαιξε για μια σεζόν στον Παγκύπριο Ν. Υόρκης ως παίκτης προπονητής και κατάφερε να κατακτήσει το νταμπλ στο τοπικό πρωτάθλημα και κύπελλο. Αν και πλησίαζε τα 40 προσέλκυσε το ενδιαφέρον της κορυφαίας επαγγελματικής λίγκας των ΗΠΑ, της NASL, αλλά είχε αποφασίσει να σταματήσει. Μετά το τέλος της αγωνιστικής του καριέρας επεδίωξε να εργαστεί ως προπονητής σε μερικές ομάδς, όπως στον Α.Ο. Κέρκυρα, χωρίς ιδιαίτερη επιτυχία. Επίσης, εργάστηκε λίγα χρόνια ως επαγγελματίας λαϊκός τραγουδιστής. Μάλιστα έχει γράψει και τραγουδήσει τον ύμνο της ΑΕΚ.
Αναδείχθηκε ως ο μεγαλύτερος Έλληνας ποδοσφαιριστής του 20ού αιώνα από τη διεθνή στατιστική υπηρεσία της ΦΙΦΑ.