Am 17. Juni 1871 in Jacksonville, Florida, geboren, wurde James Weldon Johnson von seiner Mutter ermutigt, englische Literatur und die europäische Musiktradition zu studieren. Er besuchte die Universität von Atlanta, in der Hoffnung, dass die dort erhaltene Ausbildung den Interessen der Afroamerikaner zugute kommen würde. Nach seinem Abschluss nahm er eine Stelle als Highschool-Direktor in Jacksonville an.
Im Jahr 1900 schrieb er anlässlich des Geburtstags von Lincoln das Lied „Lift Every Voice and Sing“, das in der schwarzen Gemeinschaft sehr beliebt war und als „Negro National Anthem“ bekannt wurde. Johnson zog 1901 nach New York, um mit seinem Bruder Rosamond, einem Komponisten, zusammenzuarbeiten. Nachdem er einige Erfolge als Songwriter am Broadway erzielt hatte, beschloss er 1906, eine Stelle als US-Konsul in Venezuela anzunehmen. Während seiner Tätigkeit im diplomatischen Corps veröffentlichte Johnson Gedichte im Century Magazine und in The Independent.
Im Jahr 1912 veröffentlichte Johnson anonym seinen Roman The Autobiography of an Ex-Colored Man (French and Company), die Geschichte eines Musikers, der seine schwarzen Wurzeln zugunsten eines materiell komfortablen Lebens in der weißen Welt ablehnt. Jahrhundert, ein gemeinsames Thema für die Schriftsteller der Harlem Renaissance.
Mit seinem Talent, Menschen mit unterschiedlichen Ideologien zur Zusammenarbeit für ein gemeinsames Ziel zu bewegen, wurde Johnson 1920 zum nationalen Organisator der National Association for the Advancement of Colored People (NAACP). Er war Herausgeber von The Book of American Negro Poetry (Harcourt Brace, 1922), einem wichtigen Beitrag zur Geschichte der afroamerikanischen Literatur. Sein Gedichtband God’s Trombones (Viking Press, 1927) wurde von seinen Eindrücken aus dem ländlichen Süden beeinflusst, die er auf einer Reise nach Georgia während seines Studiums gewonnen hatte. Es war diese Reise, die sein Interesse an der afroamerikanischen Volkstradition weckte.
James Weldon Johnson starb am 26. Juni 1938.