La ciudad de Little Rock se fundó en 1814, junto al río Arkansas, y en 1836 se convirtió en la capital de este estado. Mucho tiempo atrás, en 1722, un explorador francés le dio nombre: la llamó "La Petite Roche" para distinguir esta "pequeña roca" de otras mayores río arriba.
A finales del siglo XIX era el centro comercial y administrativo de un estado que atravesaba una fase de expansión económica. En esta época se erigieron las edificaciones más emblemáticas de la ciudad. No obstante, el siglo XX no ha resultado muy positivo para el progreso de Arkansas. Las políticas de segregación racial se unieron a la corrupción de los gobernantes, lo que generó un ambiente poco propicio para el crecimiento económico.
Uno de los acontecimientos relacionados con la discriminación racial más conocidos es el ocurrido en 1957 cuando nueve estudiantes trataron de ingresar en un instituto público. Los políticos estatales (incluido en gobernador) querían impedir que se llevara a cabo la integración racial en las escuelas y los estudiantes sólo pudieron ejercer su legítimo derecho cuando Eisenhower envió al ejército para protegerlos. Al siguiente año y cuando uno de los estudiantes negros ya se había graduado, el recién reelegido gobernador Faubus cerró todas las escuelas estatales.