Ο Γιάννης Κεφαλογιάννης γεννήθηκε στα Ανώγεια Ρεθύμνου Κρήτης. Σπούδασε σιην Ιατρική Σχολή του Πανεπιστημίου Αθηνών, ανακηρύχθηκε διδάκτωρ Παθολογίας του ίδιου πανεπιστημίου και διετέλεσε διευθυντής Παθολογικής Κλινικής. Εξελέγη βουλευτής Ρεθύμνης με την ΕΡΕ στις εκλογές του 1958, του 1961 και του 1963. Μετά τη Δικτατορία εξελέγη με τη ΝΔ σε όλες τις εκλογικές αναμετρήσεις από το 1974 έως και το 2004.
Σε κυβερνητικό επίπεδο έχει διατελέσει υφυπουργός Κοινωνικών Υπηρεσιών, υφυπουργός Εσωτερικών, υπουργός Δημόσιας Τάξης, αναπληρωτής υπουργός Μεταφορών και Επικοινωνιών, υπουργός Τουρισμού, υπουργός Επικρατείας και υπουργός Εσωτερικών.