大元帅府前身为始建于清光绪33年(1907年)的广东士敏土(cement)厂,也就是广东水泥厂。广东水泥厂是当时我国第二大水泥厂,其生产规模仅次于天津开平水泥厂。1917年7月,孙中山来到广州,建立中华民国军政府,任海陆军大元帅,开展护法运动的时候,征用这里作为大元帅府;1923年2月,孙中山重返广州进行革命活动,同样也在这里建立陆海军大元帅大本营。孙中山逝世后,这里曾作为国父文化教育馆两广分馆、国父纪念馆等。广州解放后,该处先后成为部队和省有关部门的办公用房,在1964年后成为广东省农业机械供应公司办公和居住用房。1998年10月,大元帅府的旧址被移交给广州市文物管理部门,筹建孙中山大元帅府纪念馆。