Los orígenes del club se remontan a 1903, año en el que se fundo el Zaragoza Football Club. Junto a algunos personajes conocidos de la ciudad, el conde de Sobradiel constituye este primer equipo en la ciudad. Realizó funciones de jugador y presidente de este club pionero que jugaba en una explanada contigua a la estación del Campo Sepulcro, pero desaparecio en 1906.
Por su parte, otro nuevo equipo, el Iberia S.C. (Iberia Sociedad Cultural), nace también en los primeros años del siglo XX y se consolida como el equipo dominador del fútbol local debido a una estructura moderna, alejada de un concepto elitista del deporte que consigue acercar el fútbol a la población de la ciudad. Este equipo recibía el apodo de Avispas debido a sus colores del uniforme, camiseta gualdinegra y pantalón negro. El Iberia S.C. se caracterizaba por un juego viril, llevando bastantes aficionados a su campo de Torrero. Estuvo 2 temporadas a punto de subir a 1ª división.
Años más tarde, El Zaragoza tomate, llamado así porque vestía camiseta roja, con cuello y puños amarillos y pantalón blanco, arranca en 1921, fundado por D. Ricardo Arribas y un grupo de amigos estudiantes de medicina. El equipo es uno de los clubes fundadores de la Federación Aragonesa de Fútbol, que nace el 13 de septiembre de 1922, bajo la presidencia de D. José María Gayarre.
Esta convivencia de dos grandes equipos en la ciudad, apasionante para el aficionado, no tardó en ser cuestionada por varias personalidades del fútbol zaragozano que propugnaban una fusión. Aunque los primeros intentos resultaron fallidos, los Avispas y los Tomates, estaban destinados a unirse.
En diciembre de 1931 el Zaragoza C.D. es dado de baja por la Federación a causa de sus problemas económicos, lo que actúa como desencadenante para que el 18 de marzo de 1932, cinco representantes de cada entidad firmen un documento de fusión que supondrá la extinción del Iberia S.C. y la creación de un nuevo Club que asumiría sus derechos federativos.
Desde entonces, un nuevo club agruparía a los Avispas con el Zaragoza tomate bajo los colores blanco y azul celeste de la Federación Aragonesa con el nombre Zaragoza F.C.
Jose Maria Gayarre, presidente de la federación aragonesa, fue el primer presidente en funciones del nuevo Zaragoza F.C. El primer partido disputado fue un amistoso jugado dos días después de su fundación, el 20 de marzo de 1932 ante el Valladolid en el campo de Torrero, en el que venció (4-0) con goles que firmaron Rolloso (2), Zorrozúa y Anduíza. La primera cuota establecida para los socios fue de tres pesetas mensuales para las localidades de fondo y general, y cinco pesetas para las de tribuna.
