Από το 1931 έως το 1934 μαθητεύει κοντά στον Φ. Κόντογλου, ο οποίος τον φέρνει σε επαφή με την τεχνική και τις μεθόδους της αγιογραφίας και τα βυζαντινά μνημεία της Ελλάδας. Το 1935 – 1936 συνεχίζει τις σπουδές του στο Παρίσι, όπου γνωρίζεται με προσωπικότητες της ευρωπαϊκής σύγχρονης τέχνης, όπως ο Giacometti και o Matisse, από τον οποίο συγκρατεί τις αισθησιακές χρωματικές αρμονίες, και έρχεται σε επαφή με το έργο του Θεόφιλου μέσω του Teriade. Το 1952 του αφιερώνεται έκθεση στο Βρετανικό Συμβούλιο της Αθήνας και το 1956 παρουσιάζει έργα του, ως υποψήφιος για το βραβείο Guggenheim, στο Εθνικό Μουσείο Μοντέρνας Τέχνης του Παρισιού και στο Μουσείο Guggenheim της Νέας Υόρκης. Το 1958 συμμετέχει στην Βiennale της Βενετίας. Το 1981 οργανώνεται από το Μακεδονικό Μουσείο Σύγχρονης Τέχνης η πρώτη μεγάλη αναδρομική του έκθεση στο Αρχαιολογικό Μουσείο Θεσσαλονίκης. Το 1982 εγκαινιάστηκε το Μουσείο Γιάννη Τσαρούχη στο Μαρούσι, στο σπίτι του καλλιτέχνη, ενώ λειτουργεί και το Ίδρυμα Τσαρούχη με σκοπό τη διάδοση του έργου του ζωγράφου. Παράλληλα με το ζωγραφικό του έργο δημιούργησε σκηνικά και κοστούμια για θεατρικές και μουσικές παραστάσεις, για το Θέατρο Τέχνης του Κάρολου Κουν, το Εθνικό Θέατρο, και τη Σκάλα του Μιλάνου, ενώ δημοσίευσε και πλήθος συγγραμμάτων που χαρακτηρίζονται από το ειλικρινές αλλά και καυστικό ύφος του.