Elle tire son nom du bâtiment situé à gauche, à l'angle de cette rue et de celle du Petits Remparts qui portait au temps du siège et qui porte encore aujourd'hui le nom de Grange Londy . Comme l'entrée de ce bâtiment se trouve dans la Rue du Petits Remparts
Ce lieu est présent dans le Plan de la Mairie de Sancerre