En las elecciones de 1977 se convirtió en el primer alcalde afroamericano de Nueva Orleans al derrotar al concejal Joseph V. DiRosa, compañero demócrata aliado del ex alcalde Victor Schiro, por 90.500 votos a 84.300. Morial ganó con el 95 por ciento del voto negro y el 20 por ciento del voto blanco, que procedía principalmente de los recintos de clase media y alta de Uptown. Ganó estas elecciones sin el apoyo de las principales organizaciones políticas negras locales, como SOUL y COUP. Durante la mayor parte de la campaña electoral, la mayoría de los comentaristas consideraron a Morial como un candidato que se echaba a perder y que tenía pocas posibilidades de ganar. Morial fue una figura polarizadora como alcalde de Nueva Orleans.
Morial libró largas batallas políticas con el Ayuntamiento, dirigido por su archienemigo Sidney Barthelemy, y con COUP, la organización política de Barthelemy. Pasó gran parte de su tiempo como alcalde tratando de aumentar la fuerza y la influencia de la oficina del alcalde sobre los organismos gubernamentales independientes, como la Junta de Aguas y Alcantarillado y la Junta de Muelles (el órgano de supervisión del Puerto de Nueva Orleans), un esfuerzo que describió como una democratización de la gobernanza de la ciudad. Construyó una poderosa maquinaria de patrocinio con empleados municipales no clasificados y la utilizó para derrotar a sus oponentes en la legislatura estatal -como Hank Braden, Louis Charbonnet y Nick Connor- patrocinando personalmente a aspirantes poco conocidos. En 1978, Braden y Charbonnet compitieron por un escaño vacante en el Senado estatal, que Braden obtuvo por un margen de 14 votos.
En su primer mandato, Morial se enfrentó a una huelga de trabajadores de saneamiento y a una huelga policial que le llevó a cancelar la temporada de desfiles de Mardi Gras de 1979. El sindicato de la policía apostó, entre sus miembros, que una huelga que coincidiera con el Mardi Gras obligaría a la ciudad a conceder muchas de sus demandas, pero Morial se negó a ceder y contó con el apoyo de los líderes de muchas de las krewes del Carnaval de la ciudad. Las krewes de Nueva Orleans cancelaron sus desfiles ese año o los trasladaron a los suburbios de otras parroquias. El gesto napoleónico de Morial al meter el brazo dentro de su abrigo y adoptar su característica pose pugnaz al anunciar la cancelación del Mardi Gras es un ejemplo de la dureza de su postura frente a los huelguistas de la policía.
La mayoría de los logros de Morial se produjeron en su primer mandato como alcalde. Ampliando los esfuerzos de su predecesor Moon Landrieu, Morial redobló el compromiso de la ciudad con la acción afirmativa en la contratación de trabajadores municipales e introdujo cuotas de contratación de minorías para los contratistas de la ciudad. La proporción de empleados negros en la plantilla de la ciudad aumentó del 40% en 1977 al 53% en 1985 bajo el mandato de Morial. Bajo la administración de Morial, el número de agentes negros en el NOPD aumentó hasta constituir un tercio de la fuerza. Sin embargo, los continuos incidentes de brutalidad policial -sobre todo el asesinato de cuatro negros en Argel en 1980- dañaron la reputación de Morial en la comunidad negra.
Morial fue el responsable de conseguir la financiación federal de la Subvención de Acción para el Desarrollo Urbano (UDAG, por sus siglas en inglés) para varios proyectos importantes, como Canal Place y el desarrollo de la Cervecería Jax en el Barrio Francés. Siguió apoyando el énfasis del anterior alcalde, Moon Landrieu, en el turismo y trató de diversificar la economía desarrollando el Distrito Industrial Almonaster-Michoud en Nueva Orleans Este, ahora llamado Parque Empresarial Regional de Nueva Orleans. El centro de Nueva Orleans experimentó un impresionante boom de la construcción, con múltiples torres de oficinas construidas para albergar las sedes, o grandes oficinas regionales, de empresas como Freeport-McMoRan, Pan American Life Insurance, Exxon, Chevron, Gulf Oil, Amoco, Mobil, Murphy Oil y Texaco. A mediados de la década de 1980, estas empresas, junto con otros grandes empleadores, como Royal Dutch Shell, Louisiana Land and Exploration y McDermott International, empleaban a miles de trabajadores de cuello blanco en el centro de la ciudad, y a otros miles de personas que les prestaban servicios. Debido a multitud de factores, como la crisis del petróleo (1986), las inexorables fusiones y reducciones de tamaño de las empresas, y el apoyo poco eficaz de los departamentos de desarrollo económico de las administraciones posteriores, ninguna de estas empresas, ni sus sucesoras, mantienen una presencia importante en Nueva Orleans en la actualidad, aparte de Shell y Pan American Life Insurance.
Morial ganó su segundo mandato en una segunda vuelta electoral en marzo de 1982 con su compañero demócrata, Ron Faucheux, un joven miembro demócrata blanco de la Cámara de Representantes de Luisiana por Nueva Orleans Este. Morial se impuso con 100.703 votos (53,2%) frente a los 88.583 de Faucheux (46,8%). Faucheux se convirtió más tarde en un consultor político y experto conocido a nivel nacional.
En el segundo mandato de Morial, la economía de la ciudad se estaba ralentizando y el aumento de los conflictos con el Ayuntamiento hizo que disminuyera la capacidad de la administración de Morial para gobernar con eficacia. La Feria Mundial de 1984, que tuvo lugar a mediados del segundo mandato de Morial, fue una vergonzosa debacle financiera que fue comentada negativamente a nivel nacional. La Feria Mundial se declaró en bancarrota cuando aún estaba en funcionamiento y no pagó a muchos contratistas, hiriendo de muerte a numerosas empresas de diseño y construcción con sede en Nueva Orleans. En general, el fracaso financiero de la Feria Mundial minó gravemente la moral de la comunidad y presagió ominosamente los duros tiempos de la Caída del Petróleo de 1986.
Después de cumplir dos mandatos como alcalde, la carta de la ciudad impidió a Morial presentarse a un tercer mandato. Intentó en dos ocasiones convencer a los votantes de que cambiaran los estatutos para permitirle presentarse de nuevo, pero ambas propuestas fueron derrotadas rotundamente. La fuerza política de Morial no terminó cuando dejó el Ayuntamiento en 1986. Consideró la posibilidad de presentarse de nuevo a la alcaldía en las elecciones de 1990, y su repentina muerte en 1989 durante la campaña electoral influyó en la reelección del alcalde Barthelemy, ya que Morial murió antes de poder apoyar a un oponente.