Matip est né le 08 Août 1991 d’une mère allemande et d’un père Camerounais (un ancien footballeur camerounais Jean Matip). Il est le frère du joueur allemand Marvin Matip, mais aussi un cousin de Joseph-Désiré Job. Matip est diplômé de la Gesamtschule Berger Feld à Gelsenkirchen en 2010 en Allemagne.
Il débute sa carrière avec le SC Weitmar 45 et est finalement repéré par le VfL Bochum en 1997. Après plusieurs années dans les équipes de VfL Bochum jeunes différents, Matip attire l’attention de Schalke 04 en juillet 2000. Il intègre l’équipe professionnelle lors de la saison 2009-2010. Ses débuts professionnels, se passent dans le Regionalliga contre le FC Saarbrücken le 17 octobre 2009, avant son entrée en Bundesliga le 7 novembre de la même année contre le Bayern Munich, rencontre au cours de laquelle il inscrit le but égalisateur, une égalisation qui lui vaut la désignation de l’homme du match. Le 2 Mars 2010, Matip signe un contrat de trois ans et demi avec Schalke 04.
Le défenseur camerounais a été appelé pour la première fois le 23 décembre 2009, par Paul Le Guen pour la Coupe d’Afrique des Nations 2010, mais il a ensuite refusé de prendre part au tournoi à cause des problèmes administratifs. Le 3 mars 2010, il joue son premier match sous les couleurs des Lions indomptables du Cameroun à Monaco dans un match amical contre l’Italie. Le 30 mai, Paul Le Guen annonce qu’il est retenu dans le groupe qui disputera la Coupe du monde de football de 2010.
Joueur polyvalent, il peut être aligné soit devant la défense, soit arrière latéral droit. Durant des tests effectués en juillet 2011 il est désigné joueur le plus rapide de l’effectif de Schalke 04.