La ciudad fue fundada por los turboletas, un pueblo celtibérico que fue aliado de los cartagineses hasta que los romanos lo conquistaron y anexionaron el territorio a la provincia de Tarraco.
Los musulmanes llamaron a la ciudad Tirwal y trataron de recuperar la función militar de la ciudad, perdida en época romana. Además le dieron su estructura actual.
En 1171 Alfonso II el Casto conquistó la ciudad (según la leyenda, tras interpretar como buen augurio el bramido de un toro sobre el que había una estrella).
En 1176 la ciudad obtuvo sus Fueros, que le concedían gran autonomía y que respetaban a las minorías judía y morisca.
Durante la Edad Media, Teruel alcanzó gran importancia como centro comercial y punto en la ruta hacia el levante recién conquistado a los árabes.
De esta época datan algunos de los mitos más famosos de la ciudad: el de los Amantes de Teruel y el del juez Francisco Villanueva, quien murió por la defensa de los derechos forales.
En el año 1598 Felipe II abolió los Fueros de la ciudad, que comenzó así su decadencia.
Las guerras carlistas en el siglo XIX y la Guerra Civil en el XX causaron sangrientos episodios en la ciudad. La Batalla de Teruel fue especialmente cruel porque a la batalla se unió un frío de 20 grados bajo cero.
La emigración y el olvido institucional han marcado la posguerra y la más reciente historia de la ciudad.