上海外文书店的前身是国际书店上海分店,成立于1950年4月,属北京国际书店和新华书店华东总分店双重领导。1953年和1956年,先后停止了西书业的进口书刊业务和西书业的私人经营,相关业务亦先后划归国际书店上海分店。1958年8月,正式更名为“上海外文书店(Shanghai Foreign Languages Bookstore)”,并归上海市出版局领导。
之后的书店几经变迁。1985年5月,在上海外文书店基础上成立了全国第一家地方性图书进出口公司——上海外文图书公司(Shanghai Book Traders 英文缩写SBT);1992年1月,中国出版对外贸易总公司上海分公司并入上海外文图书公司。目前,上海外文书店是上海外文图书公司旗下的主要核心企业。此外,公司还拥有上海美术书店、上海海文音像出版社等。