وقد غيّر الرومان الذين بدأوا حكم فلسطين منذ 63 ق م من سياستهم تجاه الحكم الذاتي اليهودي منذ السنة السادسة للميلاد فبدأوا حكما مباشرا على القدس وباقي فلسطين، وعندما ثار اليهود على الرومان 66-70 م أخمد الإمبراطور الروماني تيتوس الثورة بقسوة، ودمر الهيكل والقدس، كما قضي الرومان على ثورة أخرى وأخيرة لليهود 132-135 فدمروا القدس وحرثوا موقعها ومنع اليهود من دخولها والسكن فيها، وسمح للمسيحيين فقط بالإقامة على أن لا يكونوا من أصل يهودي، وأقام الرومان مدينة جديدة فوق خرائب أورشليم القدس يموها (إيليا كابيتولينا) ولذلك عرفت القدس فيما بعد بإسم إيلياء وهو الاسم الأول للإمبراطور الروماني في ذلك الوقت هارديان واستمر حظر دخول اليهود للقدس مائتي سنة أخرى.
وبعد انتهاء عهد هارديان زاد باطراد عدد المسيحيين المقيميين بالقدس ومع اعتناق الامبراطور قسطنطين الأول للمسيحية وزيارة أمه الملكة هيلانة للقدس سنة 320 م بدأ طابع القدس المسيحي يغلب على طابعها الوثني وشيد قسطنطين نفسه كنيسة القيامة ودأب خلفاؤه على الإكثار من بناء الكنائس والنصب المسيحية في فلسطين وسمح البيزنطيون لليهود بدخول القدس يوما واحدا في السنة فقط، للبكاء قرب حاجز كان لا يزال باقيا في موقع المعبد وقد أبقى البيزنطيون عليه إكراماً لما كان قد تكهن به المسيح عليه السلام (إنجيل متى 24:2)