Καταγόταν από το χωριό Σερίμιο της Αντιόχειας. Σπούδασε νομικά στην Αντιόχεια και κατόπιν εξάσκησε το επάγγελμα του δικηγόρου. Εκάρη μοναχός και κατόπιν χειροτονήθηκε διάκονοςκαιπρεσβύτερος από τον Πατριάρχη Αντιοχείας Δόμνο Β΄. Εστάλη κατόπιν στην Κωνσταντινούπολη, ως αποκρισάριοςτου Πατριάρχη Αντιοχείας. Τρεις μέρες μετά την καθαίρεση τουΠατριάρχη Ευτύχιουκαι κατόπιν επιθυμίας του Αυτοκράτορα Ιουστινιανού, Πατριάρχης εξελέγη ο Ιωάννης, μάλλον στις 12 ή 15 Απριλίου του 565.
Λίγο μετά την εκλογή τουστον Πατριαρχικό Θρόνο, πέθανε ο Αυτοκράτορας Ιουστινιανός καιστο Θρόνο ανέβηκε οΙουστίνος Β', τον οποίο έστεψε Αυτοκράτορα ο Ιωάννης, στις 14 Νοεμβρίουτου565. Την περίοδο που ακολούθησε, καλλωπίστηκαν οι ναοί της Αγίας ΣοφίαςκαιτωνΑγίων Αποστόλων, ενώ κτίστηκαν πολλοί άλλοι ναοί. Κατά την ίδια περίοδο καθιερώθηκε να ψάλλεται τις Κυριακές οΧερουβικός Ύμνοςκαιτη Μεγάλη Πέμπτη το τροπάριο «τοῦ Δείπνου σουτοῦ Μυστικοῦ». Επί της Πατριαρχίας του κωδικοποιήθηκε τοΚανονικό Δίκαιοκαι προστέθηκαν νέοι κανόνες σε αυτούς προηγούμενων Συνόδων. Επίσης, με παρακίνησή τουο Αυτοκράτορας ακύρωσε τις χειροτονίες τωνμονοφυσιτών ιερέων και έκλεισε μοναστήρια ύποπτα για Μονοφυσιτισμό[2].