Πρώτος μουσικός στην οικογένειά του, ο Τουνζάι Γιλμάζ άρχισε την εκπαίδευσή του στη Σμύρνη και συνέχισε στο Κρατικό Ωδείο της Άγκυρας, αποφοιτώντας πρώτος από την τάξη του. Μαθητής ακόμη, έκανε την πρώτη ατομική του εμφάνιση ως σολίστ, ερμηνεύοντας σε πρώτη εκτέλεση στην Τουρκία το Κοντσέρτο για βιολί του Χίντεμιτ, με την Προεδρική Συμφωνική Ορχήστρα. Έδωσε το πρώτο του ρεσιτάλ με τον Φαζέλ Σάι.
Με κρατική γερμανική υποτροφία DAAD, συνέχισε τις σπουδές του σε τάξεις για σολίστ στο Μουσικό Πανεπιστήμιο του Φράιμπουργκ και του Σάρλαντ. Έχει εμφανιστεί με πολλές μεγάλες ορχήστρες σε ολόκληρο τον κόσμο, όπως με την Ορχήστρα Μοτσαρτέουμ του Σάλτσμπουργκ και την Ορχήστρα Δωματίου της Στουτγάρδης, και έχει δώσει πολλά ατομικά ρεσιτάλ. Με τη συνοδεία του Ρόμπερτ Μάρκαμ στο πιάνο, έχει εμφανιστεί σε πολλές πόλεις ανά τον κόσμο, όπως στην Άγκυρα, στο Βερολίνο, στην Κωνσταντινούπολη, στη Βοστόνη, στο Σικάγο και στη Νέα Υόρκη (Κάρνεγκι Χολ). Ο Γιλμάζ έχει χαρακτηριστεί «νεαρός πρίγκιπας των βιολονιστών» από τη γαλλική Nice-Matin, ενώ η Boston Globe τον περιέγραψε ως «εκλεπτυσμένο σολίστ του βιολιού».
Παράλληλα με την επιτυχημένη παγκόσμια σταδιοδρομία του, ο Τουνζάι Γιλμάζ είναι Κρατικός Σολίστ του Τουρκικού Υπουργείου Πολιτισμού, από το 1996. Είναι δεξιοτέχνης βιολονίστας και συντονιστής του Τρίο Αρκάς. Παίζει με το βενετσιάνικο βιολί «Κόκκινο διαμάντι» του Πιέτρο Πάολο Ντεβίτορ, που χρονολογείται στο 1731.