Il est le fils d´un Hongrois, Pál Nagy-Bócsay Sárközy né à Budapest, en 1928, dans une famille de l´aristocratie hongroise, possédant des terres et un château à Alattyán, à 100 km de la capitale.À l´arrivée de l´Armée rouge en 1944, la famille est contrainte à l´exil. Après de nombreuses péripéties à travers l´Autriche et l´Allemagne, Paul Sarkozy rencontre un recruteur de la Légion Étrangère à Baden-Baden. Il signe pour cinq ans et fait ses classes en Algérie à Sidi-Bel-Abbès. Il est cependant déclaré inapte au départ en Indochine, puis démobilisé à Marseille en 1948. Son nom est alors francisé en « Paul Sarkozy de Nagy-Bocsa ». Devenu publicitaire, il rencontre en 1949 Andrée Mallah, qu´il épouse. Cette dernière, fille d´un médecin du XVIIe arrondissement de Paris, juif séfarade de Salonique, est alors étudiante en droit.
comme le judaïsme se transmet par la mère, sarkozy est juif.