Hög status
Hay föddes i Salem, Indiana 1838 som son till en läkare som hade flyttat västerut från Virginia, bodde en tid i Kentucky och bosatte sig så småningom i Indiana. Hay utbildades först i hemmet och sedan vid en privat akademi och gick på Illinois State College 1852. Tre år senare skrev han in sig vid Brown University och tog examen 1858. Hay studerade juridik på sin farbrors kontor och blev antagen till advokatsamfundet i Illinois 1861. Under denna tid träffade han Abraham Lincoln och spelade en liten roll i hans presidentkampanj. Efter Lincolns val valde den nye presidenten Hay till sin privatsekreterare.
Efter det amerikanska inbördeskriget tjänstgjorde Hay på flera diplomatiska poster, bland annat i Paris, Wien och Madrid. År 1870 lämnade han den diplomatiska tjänsten för att skriva. Han skulle så småningom publicera en studie om Lincoln i tio volymer, skriven tillsammans med John Nicolay.
Hay återvände till offentlig tjänst 1896 när den nyvalde presidenten McKinley utnämnde honom till ambassadör i Storbritannien. Han erbjöds posten som utrikesminister medan USA förhandlade fram fredsavtalet med Spanien efter att ha vunnit det spansk-amerikanska kriget. Han accepterade erbjudandet och trädde i tjänst i september 1898.