Le palais épiscopal est construit au VIIIe siècle en partie à l’extérieur du rempart romain et à proximité de l’ancienne porte Viennoise.
La façade en briques percée de baies géminées (baies groupées par deux) - correspondant à une ancienne aile du palais – que l’on observe aujourd’hui à l’intérieur du musée de l’Ancien Évêché est un témoignage précieux de l’architecture et du mode de construction de l’époque.
Les lieux ont connu d'importantes modifications liées à la succession des quarante-huit dignitaires religieux qui les ont occupé. La construction de la façade - celle par laquelle les visiteurs accèdent au musée - a été commanditée par monseigneur Le Camus à la fin du XVIIe siècle dans l’esprit des palais urbains parisiens dotés d'une cour - actuellement, cette cour précède l'entrée du musée - et d'un escalier d’honneur - escalier qui dessert les espaces d'exposition.
Après l'expulsion de l'évêque en 1907 suite à la loi de séparation de l'Eglise et de l'Etat (1905), l'édifice est occupé par des laboratoires de recherche universitaire nouvellement créés tels que l'Institut de géographie alpine ou l'Institut de géologie alpine. En 1989, suite à un incendie qui ravage une partie du palais et à la découverte du baptistère sous la place Notre-Dame à l'occasion des travaux de construction de la ligne B du tram, un projet d’ensemble est engagé pour la restauration du bâtiment et sa transformation en musée départemental. Le musée de l'Ancien Évêché, qui permet d'accéder au baptistère paléochrétien, est inauguré en 1998.