Après plus de 10 ans d'enseignement dans l'Education nationale, Philippe Vergain devient conservateur du patrimoine (spécialité archéologie) en 1992. Il est archéologue en DRAC Aquitaine puis prend la responsabilité de services régionaux de l'archéologie en DRAC à partir de 1998 et jusqu'à 2005 en Auvergne puis en Languedoc-Roussillon (Conservateur régional de l'archéologie) assurant le suivi des politiques archéologiques régionales. Adjoint de la sous-directrice en charge de l'archéologie, l'ethnologie, l'inventaire et les systèmes d'information au sein de la direction patrimoine et architecture (DAPA) de 2005 à 2010, il devient dans la nouvelle Direction générale des patrimoines, le chef de la Mission de l'Inventaire général du patrimoine culturel (opérations décentralisées qui sont depuis 2007 confiées aux Conseils régionaux), l'Etat assurant le contrôle et les évolutions normatives et méthodologiques. Il a été administrateur du Conservatoire du littoral jusqu'à 2014 et représentant du ministère de la culture au COPRNM (Conseil d'Orientation pour la prévention des risques naturels majeurs auprès du MEDDE).
Il anime le groupe de travail demandé par cette instance sur "Patrimoine culturel et prévention des risques" dont le rapport sera disponible au premier semestre 2015. Il a animé le module e-patrimoines sur les Inventaires et participé à des formations en Chine, Bengladesh...