Né le 17 juin 1871 à Jacksonville, en Floride, James Weldon Johnson est encouragé par sa mère à étudier la littérature anglaise et la tradition musicale européenne. Il fréquente l’université d’Atlanta, avec l’espoir que l’éducation qu’il y reçoit puisse servir les intérêts des Afro-Américains. Après avoir obtenu son diplôme, il a accepté un poste de directeur de lycée à Jacksonville.
En 1900, il a écrit la chanson « Lift Every Voice and Sing » à l’occasion de l’anniversaire de Lincoln ; la chanson a été immensément populaire dans la communauté noire, et est devenue connue sous le nom d' »hymne national nègre. » Johnson s’est installé à New York en 1901 pour travailler avec son frère Rosamond, un compositeur ; après avoir connu un certain succès en tant qu’auteur de chansons pour Broadway, il a décidé en 1906 d’accepter un poste de consul des États-Unis au Venezuela. Alors qu’il est employé par le corps diplomatique, Johnson fait publier des poèmes dans The Century Magazine et The Independent.
En 1912, Johnson publie anonymement son roman The Autobiography of an Ex-Colored Man (French and Company), l’histoire d’un musicien qui rejette ses racines noires pour une vie de confort matériel dans le monde blanc. Le livre explore la question de l’identité raciale au vingtième siècle, un thème commun aux écrivains de la Harlem Renaissance.
Avec son talent pour persuader des personnes d’idéologies différentes de travailler ensemble pour un objectif commun, Johnson devient l’organisateur national de la National Association for the Advancement of Colored People (NAACP) en 1920. Il a publié The Book of American Negro Poetry (Harcourt Brace, 1922), une contribution majeure à l’histoire de la littérature afro-américaine. Son recueil de poésie God’s Trombones (Viking Press, 1927) a été influencé par ses impressions du Sud rural, tirées d’un voyage qu’il a fait en Géorgie alors qu’il était en première année de collège. C’est ce voyage qui a enflammé son intérêt pour la tradition populaire afro-américaine.
James Weldon Johnson est mort le 26 juin 1938.