Nelle elezioni del 1977 divenne il primo sindaco afroamericano di New Orleans sconfiggendo il consigliere comunale Joseph V. DiRosa, un collega democratico alleato dell’ex sindaco Victor Schiro, con un voto di 90.500 a 84.300. Morial vinse con il 95% del voto dei neri e il 20% del voto dei bianchi, che provenivano principalmente dai distretti della classe media e alta di Uptown. Ha vinto questa elezione senza il supporto delle principali organizzazioni politiche nere locali, come SOUL e COUP. Durante la maggior parte della campagna elettorale, Morial è stato visto dalla maggior parte dei commentatori come un candidato spoiler con poche possibilità di vittoria. Morial fu una figura polarizzante come sindaco di New Orleans.
Morial condusse lunghe battaglie politiche con il Consiglio Comunale, guidato dal suo arcirivale Sidney Barthelemy, e con il COUP, l’organizzazione politica di Barthelemy. Trascorse gran parte del suo tempo come sindaco cercando di aumentare la forza e l’influenza dell’ufficio del sindaco sugli organi governativi indipendenti e statali, come il Sewerage and Water Board e il Dock Board (l’organo di supervisione del porto di New Orleans), uno sforzo che descrisse come una democratizzazione del governo della città. Costruì una potente macchina clientelare utilizzando dipendenti comunali non classificati e la usò per sconfiggere gli avversari nella legislatura statale – tra cui Hank Braden, Louis Charbonnet e Nick Connor – sponsorizzando personalmente sfidanti poco conosciuti. Nel 1978, Braden e Charbonnet gareggiarono per un seggio vacante al Senato dello Stato, che Braden rivendicò con un margine di 14 voti.
Nel suo primo mandato, Morial dovette affrontare uno sciopero dei lavoratori della sanità e uno sciopero della polizia che lo portò a cancellare la stagione delle parate del Mardi Gras del 1979. Il sindacato di polizia scommetteva, tra i suoi membri, che uno sciopero coincidente con il Mardi Gras avrebbe costretto la città a concedere molte delle loro richieste, ma Morial si rifiutò di cedere e fu sostenuto dai leader di molte delle krewes del Carnevale della città. I gruppi di New Orleans cancellarono le loro sfilate quell’anno o le spostarono nei sobborghi di altre parrocchie. Emblematico della linea dura di Morial nei confronti degli scioperanti della polizia fu il gesto napoleonico che fece mettendo il braccio dentro il cappotto e assumendo una posa caratteristicamente combattiva all’annuncio che stava cancellando il Mardi Gras.
La maggior parte dei risultati di Morial si verificarono nel suo primo mandato come sindaco. Espandendo gli sforzi del suo predecessore Moon Landrieu, Morial raddoppiò l’impegno della città nell’azione affermativa nell’assunzione dei lavoratori cittadini e introdusse quote di assunzione di minoranze per gli appaltatori della città. La percentuale di dipendenti neri nella forza lavoro della città è aumentata dal 40% nel 1977 al 53% nel 1985 sotto il mandato di Morial. Sotto l’amministrazione di Morial il numero di agenti neri nel NOPD fu aumentato fino a costituire un terzo della forza. Ma continui incidenti di brutalità da parte della polizia – in particolare l’uccisione di quattro neri ad Algeri nel 1980 – danneggiarono la reputazione di Morial nella comunità nera.
Morial fu responsabile per l’ottenimento di finanziamenti federali Urban Development Action Grant (UDAG) per diversi grandi progetti, tra cui Canal Place e lo sviluppo della fabbrica di birra Jax nel quartiere francese. Ha continuato a sostenere l’enfasi del precedente sindaco Moon Landrieu sul turismo e ha cercato di diversificare l’economia sviluppando il distretto industriale Almonaster-Michoud a New Orleans East, ora chiamato New Orleans Regional Business Park. Il centro di New Orleans subì un impressionante boom edilizio, con molteplici torri di uffici costruite per ospitare i quartieri generali, o grandi uffici regionali, di compagnie come Freeport-McMoRan, Pan American Life Insurance, Exxon, Chevron, Gulf Oil, Amoco, Mobil, Murphy Oil e Texaco. A metà degli anni ’80 queste aziende, insieme ad altri grandi datori di lavoro, come Royal Dutch Shell, Louisiana Land and Exploration e McDermott International, impiegavano migliaia di colletti bianchi in centro, con altre migliaia impiegati da altri che fornivano loro servizi. A causa di una moltitudine di fattori, tra cui la crisi petrolifera (1986), le inesorabili fusioni e ridimensionamenti aziendali, e un sostegno poco efficace da parte dei dipartimenti di sviluppo economico delle amministrazioni successive, nessuna di queste aziende, o i loro successori, mantengono oggi una grande presenza a New Orleans – a parte Shell e Pan American Life Insurance.
Morial vinse il suo secondo mandato in un ballottaggio del marzo 1982 con il collega democratico Ron Faucheux, un giovane membro bianco democratico della Camera dei Rappresentanti della Louisiana di New Orleans Est. Morial prevalse, 100.703 voti (53,2%) contro gli 88.583 di Faucheux (46,8%). Faucheux divenne in seguito un consulente e opinionista politico conosciuto a livello nazionale.
Al secondo mandato di Morial l’economia della città stava rallentando e l’aumento del conflitto con il consiglio comunale portò a una diminuzione della capacità dell’amministrazione Morial di governare efficacemente. La World’s Fair del 1984, che si svolse a metà del secondo mandato di Morial, fu un’imbarazzante debacle finanziaria che fu notata negativamente a livello nazionale. La World’s Fair dichiarò bancarotta mentre era ancora in funzione e non riuscì a pagare molti appaltatori, ferendo mortalmente numerose società di progettazione e costruzione di New Orleans. Più in generale, il fallimento finanziario della World’s Fair minò gravemente il morale della comunità e preannunciò minacciosamente i tempi duri della crisi petrolifera del 1986.
Dopo aver servito due mandati come sindaco, a Morial fu impedito dallo statuto della città di cercare un terzo mandato. Per due volte cercò di convincere gli elettori a cambiare lo statuto per permettergli di ricandidarsi, ma entrambe le proposte furono sonoramente sconfitte. La forza politica di Morial non finì dopo che lasciò il municipio nel 1986. Considerò la possibilità di candidarsi di nuovo come sindaco alle elezioni del 1990, e la sua morte improvvisa nel 1989 durante la campagna elettorale influenzò la rielezione del sindaco Barthelemy, dato che Morial morì prima di poter appoggiare un avversario.