Rehbein war Mitglied im Stadtrat Dransfeld (bis 1980) und im Samtgemeinderat Dransfeld (bis 1998). 1976 wählten ihn die Dransfelder zum Bürgermeister. – Das Amt übte er mit vier Jahren Unterbrechung bis 1996 aus. Dem Kreistag gehörte Heinrich Rehbein von 1976 bis 1998 an. Im November 1991 wurde er zum ehrenamtlichen Landrat des Landkreises Göttingen gewählt. Die Wahl zum ersten hauptamtlichen Landrat entschied er 1998 mit 57,5 Prozent klar für sich.

Im August 2002 musste der Dransfelder aus gesundheitlichen Gründen seinen Rücktritt erklären und in den Ruhestand gehen. Neben seinem Wirken als Politiker ist Rehbein für sein großes Engagement für die Partnerschaft der Samtgemeinde Dransfeld mit der ungarischen Stadt Rácalmás bekannt. 2005 wurde ihm vom damaligen ungarischen Staatspräsidenten das Ritterkreuz des Verdienstordens der Republik Ungarn für sein Engagement zur Vertiefung der deutsch-ungarischen Beziehungen verliehen.