Nació en medio de una familia noble de Sajonia, Alemania. Fue obispo de Bamberg, Alemania y después capellán de la corte del rey Enrique III el Negro. Conocido como hombre de recto y estricto. Coronado el 25 de diciembre de 1046. A mediados de 1046, el rey Enrique III llegó a Roma acompañado de una impresionante comitiva integrada por príncipes y dignatarios de la iglesia. Llevaba el propósito de ser coronado emperador y restablecer el orden en Roma que se debatía en el caos causado por la presencia de tres papas que reclamaban a la vez la legitimidad de su propio reinado. De los tres contendientes, Gregorio VI era el que tenía la posibilidad y la solvencia moral de reclamar el trono. Contrario a lo que se esperaba, Gregorio VI explicó que en ningún momento le animó un motivo oscuro, que no quiso cometer simonía sino tan solo librar a Roma de un papa indigno. Seguidamente abdicó dejando vacante la corona papal. El clero de Roma rogó a Enrique III que propusiera un candidato digno de la tiara papal. (Debe notarse que Enrique III era rey y no emperador, por tanto era ilegal su participación en el nombramiento de un nuevo papa).
Enrique III escogió a Adalberto, el arzobispo de la ciudad de Bremen, pero éste no aceptó la nominación. Seguidamente escogió a Suidger, obispo de Bamberg y a pesar de las protestas de éste último, fue coronado papa el 25 de diciembre de 1046. Clemente II Coronó emperador a Enrique III y a su esposa Agnes de Aquitania. Al ser coronado, Enrique III también recibió de parte de Clemente y los nobles de Roma, el distintivo de Patricio Romano, título que le daba el derecho de nombrar al próximo papa. Hombres brillantes de la época como Pedro Damiani (después canonizado por la iglesia católica), vieron esta acción como un hecho servil y perjudicial a la iglesia. En un tiempo en el que era común pagar para ser nombrado obispo de una ciudad, el emperador Enrique III que aborrecía la simonía jamás cobró por nombrar un funcionario eclesiástico; le elegía de acuerdo a sus méritos. Es una aberración que sea un emperador, rey, primer ministro o presidente quien nombre al personal que ocupa los cargos de dirigencia de la iglesia. Clemente II que al igual que Enrique III abominaba la simonía, convocó un sínodo en Roma, en enero de 1047. En él, se decretó que cualquier persona culpable de simonía fuera excomulgada. Cualquier religioso que fuera ordenado a cambio de un pago, sería penado juntamente con quien lo ordenara. Clemente II murió el 9 de octubre de 1047. Algunos aseguran que fue envenenado por partidarios del nefasto Benedicto IX. Fue enterrado en la catedral de Bamberg. Es el único papa que ha sido enterrado en Alemania. A su muerte, algunos obispos trataron de hacer volver al trono a Gregorio VI, a quien tenían en gran estima, pero Enrique III no aceptó su propuesta y nombró a Poppo que reinó con el nombre de Dámaso II.