Blaine istui Mainen osavaltion edustajainhuoneessa vuosina 1859–1862, joista kaksi viimeistä vuotta edustajainhuoneen puhemiehenä. Hänet valittiin republikaanina kongressiin vuonna 1863 ja edustajainhuoneen puhemieheksi 1868. Puhemiehenä ollessaan hän vaati perustuslakiin lisäystä, joka kieltäisi uskonnollisia kouluja käyttämästä julkisia varoja.
Vuonna 1876 Blaine valittiin senaattiin. Hän oli ehdolla republikaanien presidenttiehdokkaaksi 1876 ja 1880, mutta ei tullut valituksi.
Blaine toimi ulkoministerinä James Garfieldin, Chester A. Arthurin ja Benjamin Harrisonin hallinnoissa. Garfieldin murhan jälkeen hän jatkoi Arthurin hallituksessa joulukuuhun 1881, minkä jälkeen hän erosi. Vuonna 1889 hänestä tuli Harrisonin hallituksen ulkoministeri, mutta hän joutui eroamaan tästä tehtävästä kesäkuussa 1892 heikentyneen terveydentilansa vuoksi.[1]