Le musée est situé dans la maison historique bâtie en granit en 1859 par Charles Carroll Colby. La famille Colby l’a habitée jusqu’en 1992 sans interruption, avant de l’offrir au Musée d’histoire de Stanstead avec son ameublement d’époque.