Heriberto se convirtió en el consejero más importante de Otón III, a quien acompañó a Roma en 996 y 997. En el año 999 fue elegido arzobispo de Colonia.
El 9 de Julio de 999 en la ciudad italiana de Benevento recibió la investidura eclesiástica y el palio del Papa Silvestre II,
En el año 1002 estuvo presente en el lecho de muerte del emperador en Paterno. Al regresar a Alemania con los restos del emperador y la insignia imperial, fue hecho prisionero por el futuro rey Enrique II, a cuya candidatura, Heriberto se había opuesto inicialmente.
El 7 de Junio de 1002, al ser elegido Enrique nuevo rey, le sirvió, le fue fiel y acompañó a Roma en 1004 para mediar entre el monarca y la Casa de Luxemburgo.
Heriberto nunca se ganó la total confianza de Enrique II hasta el año 1021, tras reconocer el rey su error y pedir perdón al arzobispo, el mismo año de la muerte del santo.
Heriberto fundó el monasterio benedictino y la iglesia de Deutz, (donde se encuentra su tumba). Siendo considerado santo ya en vida.
El Papa Gregorio VII lo canonizó entre 1073 y 1075. Su fiesta se celebra el mismo día de su fallecimiento, el 16 de Marzo.