Γεννήθηκε στη Κίο της Προποντίδας το 1913 της μικρά Ασίας. Δυο χρονών ορφάνεψε από πατέρα, αυτό ήταν το πρώτο χτύπημα στη σκληρή ζωή του. Το δεύτερο χτύπημα ήρθε μετά από μερικά χρόνια το 1922. Η φρίκη της καταστροφής και του ξεριζωμού αποτυπώθηκε βαθιά στον 9χρονο Γιάννη, συνοδεύοντας τον σε όλη την ζωή. Φεύγοντας από την Κίο μαζί με την μητέρα του Χρύσα και την γιαγιά του και με μόνη περιουσία μια μαξιλαροθήκη όπου είχαν φυλαγμένα κάποια χρυσαφικά πήγαν αρχικά στην Σαμοθράκη και τελικά κατέληξαν στον Πειραιά στις Τζιτζιφιές μαζί με τους θείους τους και την υπόλοιπη οικογένεια του. Ξεκίνησε δουλεύοντας σε ένα συνεργείο και ύστερα βγήκε στις οικοδομές. Η σκληρή βιοπάλη του απαγόρευσε να συνεχίσει το σχολείο.
Το 1928 ξεκίνησε να παίζει μουσική με μια φυσαρμόνικα αλλά η σχέση του με τη μουσική θα παρέμενε σε εκείνο το επίπεδο αν δεν ήταν το ποδόσφαιρο. Η μάνα του όσο αστείο και αν φαίνεται του πήρε ένα μαντολίνο για να μην παίζει ποδόσφαιρο επειδή φοβόταν μην ξανατραυματιστεί όπως είχε όντως τραυματιστεί σοβαρά. Αργότερα συνέχισε να παίζει μαντολίνο μέχρι που άκουσε το μπουζούκι. Το τραγούδι που άλλαξε τη ζωή του ήταν "Το μινόρε του τεκέ" του Γιάννη Χαλκιά. Από εκείνη την ημέρα ερωτεύτηκε το μπουζούκι και το υπηρέτησε πιστά μέχρι το τέλος της ζωής του.
Το 1953 ξεκίνησε μια περιοδεία στην Αμερική για την οποία έγινε γνωστός στους Έλληνες του εξωτερικού. Η ζωή και η ιστορία του είναι η μαρτυρία ενός γνήσιου λαϊκού καλλιτέχνη, ενός βάρδου της ψυχής. Στην πολύχρονη καριέρα του πέρασε μέσα από φωτιά και σίδηρο. Είδε εποχές δύσκολες, όχι μόνο για μουσικούς, αλλά για την Ελλάδα ολόκληρη: μικρασιατική καταστροφή, πείνα, φτώχεια, δυο παγκόσμιοι πόλεμοι, ένας εμφύλιος, κατοχή, δυο δικτατορίες, ξενιτιά. Στην αυτογραφία του λέει ντόμπρα και σταράτα, είδα τόσα και έζησα τόσα που δεν φτάνει όλο το χαρτί του κόσμου για να γραφτούνε. Τριάντα πέντε χρόνια σε σκηνές λαϊκών μαγαζιών, οχτακόσια τόσα τραγούδια, εμφανίσεις και περιοδείες στην Ελλάδα και στην βόρειο Αμερική, και μια πλούσια δισκογραφία μαρτυρούν την κολοσσιαία συνεισφορά του. Ο Γιάννης Παπαϊωάννου αποτύπωσε στα τραγούδια του τις χαρές, τις λύπες, τους καημούς και τα σκιρτήματα του ελληνικού λαού, δίνοντας μια ολόκληρη ζωή σε αυτό που ονομάζεται ελληνικό τραγούδι. O μπάρμπα-Γιάννης όπως τον αποκαλούν όσοι τον γνώρισαν και τον αγάπησαν ήταν ο πρωτομάστορας, ο πρωτοπόρος που ανέδειξε μια ολόκληρη γενιά καλλιτεχνών, μουσικών και τραγουδιστών. Μερικά από τα τραγούδια του όπως η Ψαροπούλα και η Φαληριώτισσα που βρίσκονται ακόμα στα χείλια μας και στις καρδιές μας είναι μια ζωντανή απόδειξη της διαχρονικότητας του έργου ενός μεγάλου συνθέτη. Σκοτώθηκε τα χαράματα της τρίτης Αυγούστου του 1972, το πρωί καθώς πήγαινε στα Βασιλικά της Σαλαμίνας στο σπίτι του.
