Nato il 17 giugno 1871 a Jacksonville, Florida, James Weldon Johnson fu incoraggiato dalla madre a studiare la letteratura inglese e la tradizione musicale europea. Frequentò l’Università di Atlanta, con la speranza che l’educazione ricevuta potesse essere utilizzata per promuovere gli interessi degli afroamericani. Dopo la laurea, accettò un lavoro come preside di una scuola superiore a Jacksonville.
Nel 1900, scrisse la canzone “Lift Every Voice and Sing” in occasione del compleanno di Lincoln; la canzone fu immensamente popolare nella comunità nera, e divenne nota come “Negro National Anthem”. Johnson si trasferì a New York nel 1901 per lavorare con suo fratello Rosamond, un compositore; dopo aver raggiunto un certo successo come autore di canzoni per Broadway, decise nel 1906 di accettare un lavoro come console degli Stati Uniti in Venezuela. Mentre era impiegato nel corpo diplomatico, Johnson fece pubblicare poesie su The Century Magazine e The Independent.
Nel 1912, Johnson pubblicò anonimamente il suo romanzo The Autobiography of an Ex-Colored Man (French and Company), la storia di un musicista che rifiuta le sue radici nere per una vita di comodità materiale nel mondo bianco. Il libro esplora la questione dell’identità razziale nel ventesimo secolo, un tema comune agli scrittori dell’Harlem Renaissance.
Con il suo talento nel persuadere persone di ideologie diverse a lavorare insieme per un obiettivo comune, Johnson divenne l’organizzatore nazionale della National Association for the Advancement of Colored People (NAACP) nel 1920. Ha curato The Book of American Negro Poetry (Harcourt Brace, 1922), un importante contributo alla storia della letteratura afroamericana. Il suo libro di poesie God’s Trombones (Viking Press, 1927) fu influenzato dalle sue impressioni del Sud rurale, tratte da un viaggio che fece in Georgia mentre era una matricola al college. Fu questo viaggio che accese il suo interesse per la tradizione popolare afroamericana.
James Weldon Johnson morì il 26 giugno 1938.