アルカラに人が住み始めたのは、先史時代からです。しかし、アルカラが本格的に栄えるのは今のサラゴサとメリダの中間点として機能したローマ時代で、当時の旅人はここで1度止ることが義務づけられていました。こうしてアルカラは行政的、商業的に発展していき、その様子は当時の著名な旅人の記述の中だけでなく、最近の発掘調査によっても明らかにされており、市の考古学教室のある“エル・フンカル”で見ることができます。ここにはおよそ2000年前のローマ人の集落の遺跡があり、綺麗なモザイクが発掘されています。
その後しばらくの町の様子は資料が不十分なためよくわかっていませんが、エナレス川の南西にある丘に集落を作り始め、城または砦を築くに至ったのではないかと推測されています。イスラム教徒の支配を経て、トレドの大司教がアルカラをキリスト教徒の手に取り戻したのは1118年のことで、以降、彼らがアルカラの行政・司法権を握ることになり、カスティリャの王もアルカラの行政に介入することはまれでありました。
トレドの大司教は歴代国王の政治的助言者であったため、彼らは度々アルカラに滞在しました。インド行き西回り新航路発見を計画していた航海者コロンブスがイサベル女王に謁見したのもアルカラです。
15世紀末、シスネロス大司教のもと、アルカラは中世の集落からルネッサンス都市へと変貌します。彼は数々の修道院をこの地に建立、1499年には聖職者教育のために教会法、文学、美術、神学、物理学、医学を教える大学を創立しました。王室、貴族の子息の多くはこの大学で学び、彼らは司教館に下宿していました。1547年に外科医の息子としてこの町で生まれたミゲル・デ・セルバンテスも、大学都市としてのアルカラの発展を目にしたことでしょう。
以降3世紀半の間、アルカラは大学都市として機能しますが、当時の女王イサベル二世の命によって1836年、大学はマドリッドに移転することになります。これが現在のコンプルテンセ大学です。その後アルカラが再び発展を見せるのはマドリッドの産業発展の広がりを受ける市民戦争後で、アルカラの人口は急速に増え、すぐに10万人に達しました。
1977年、再びアルカラに大学が創られ、80、90年代にアルカラの歴史的建造物を大学、地域のための施設として取り戻す運動が起こり、1998年、アルカラ大学とこの町はユネスコ世界遺産に指定されるに至りました。