Le bâtiment conçu selon les plans de l’architecte Georges-Henri Pingusson est un exemple typique de l’architecture moderne d’après-guerre. Il s’inscrit dans le projet de reconstruction de la ville de Sarrebruck initié par le gouverneur militaire et futur ambassadeur Gilbert Grandval. Les espaces résidentiels devaient être séparés des lieux dédiés aux mondanités et des lieux de travail, en privilégiant une architecture verticale. L’aile administrative du bâtiment de l’ambassade, dressée au bord de la Sarre et entourée d’un jardin de sculptures, mesurait ainsi 100 mètres de long pour seulement huit mètres de large. La résidence attenante de l’ambassadeur présentait des éléments architecturaux caractéristiques des châteaux baroques. Devant le bâtiment s’étendait une cour d’honneur avec un large escalier menant aux salles de réception. L’édifice était à l’image du pouvoir dont était investi le Gouverneur militaire et Haut-commissaire Gilbert Grandval après sa nomination au poste d’Ambassadeur de France.
Conscient de devoir quitter sa fonction et projetant la fondation d’une « Maison de France » – qui n’a finalement pas abouti – à hauteur de l’actuel pont Wilhelm-Heinrich, il avait mis le bâtiment à la disposition des projets de longue date qui prévoyaient de faire de Sarrebruck le siège de la Communauté européenne du Charbon et de l’Acier. Il avait à cette occasion confié à François Arnal la réalisation de deux tapisseries. Témoins de cette époque, ces deux œuvres conservées à ce jour représentent respectivement, dans un style abstrait, un ancien gisement de charbon et des personnages manipulant des coquilles. Le référendum du 23 octobre 1955 sur le statut européen de la Sarre réduisit à néant les projets autour de Sarrebruck. Entre 1960 et 2014, l’édifice servit de siège au ministère de l’Éducation et de la Culture. Depuis 1985, le bâtiment est inscrit sur la liste des monuments historiques et il doit faire l’objet de rénovations. Actuellement inoccupés, les locaux sont utilisés pour accueillir des événements (expositions, congrès, concerts).