Los orígenes del municipio de Los Olmos se remontan, al menos, a época del Hierro Inicial, tal y como atestiguan los restos arqueológicos encontrados en el yacimiento de el de Mas del Hambre, donde se constata la presencia de un pequeño poblado con restos de construcciones cuadradas o rectangulares realizadas con adobes y una abundante relación de restos cerámicos.
El núcleo más antiguo se situaba en lo alto de la población, sobre la calle del Rosario, en torno al desaparecido castillo. Albergaba la antigua iglesia parroquial de Santa Ana y su cementerio, y a ésta se debe el actual nombre que recibe esta parte de la localidad, «Santana».
Igualmente se constata la presencia de dos asentamientos de época romana: una villa de carácter agrícola ocupada desde el siglo I hasta el siglo II localizada en el paraje de la La Regadía, y otro de carácter indefinido en el Molino de Magallón.
Los Olmos pertenece a los territorios que Alfonso II dona a la Orden de Calatrava tras la reconquista cristiana en el siglo XII, aunque quizás tardó en repoblarse ya que en el censo de aldeas del Alfoz de Alcañiz de 1263 no aparece nombrado. A partir del siglo XVIII forma parte del corregimiento de Alcañiz, hasta la división provincial en 1833..