1913年8月5日，長野縣諏訪郡中洲村（今長野縣諏訪市中洲）農家出身的巖波茂雄在東京市神田區南神保町16番地（今東京都千代田區神田神保町）開了壹家舊書店，命名為“巖波書店”，以橋口五葉繪制的《甕》（かめ）作為第壹代商標。由於采用“公開標價販賣”（正劄販売）方法，在當時很受註目。1914年9月，巖波書店刊行了夏目漱石的小說《心》，正式進軍出版業。1916年1月1日，巖波書店拍攝第壹張紀念照片。在漱石身故之後，他們又刊行《夏目漱石全集》，獲得了飛躍性的發展。他們的招牌也是由漱石親自題字。
1920年2月5日，巖波書店購入位於東京都神田區今川小路的壹棟三層樓建築物，巖波書店發行部與移至該地，兼作倉庫之用。1923年9月1日，日本發生關東大地震，巖波書店位於南神保町的總部（兼總店）、位於今川小路的營業部（兼倉庫）與位於有樂町的印刷廠遭大火燒毀，損失約80萬日圓，巖波書店店員22人、巖波家族8人全部平安。火災過後，巖波書店總部原地重建，門市部同時販售舊書與新書。
1929年10月9日，巖波書店編輯部遷移至位於壹橋的原東京商科大學（1949年改制為壹橋大學）建築物，為鋼筋混凝土結構，地上二層樓，總面積249.4坪；之後，頂樓加蓋第三層樓，辭典部、校正部遷入三樓。1933年12月10日，巖波書店以取自法國畫家讓-弗朗索瓦·米勒（Jean-François Millet）的繪畫作品《播種者》（種をまく人）為底稿，由兒島喜久雄加工作為第二代商標，由詩人兼雕刻家高村光太郎加工作為店章；巖波書店並首先將第二代商標使用於同日創刊的叢書《巖波全書》。1934年2月5日，巖波書店發行橋田邦彥《碧潭集》，首次將第二代商標使用於單行本。
1940年1月13日，內務省命令巖波書店報告津田左右吉著作的印刷及裝訂狀況。1940年1月21日，巖波茂雄被東京地方檢事局（今東京地方檢察廳）傳喚，從該日上午至下午17時30分訊問津田左右吉著作相關問題。1940年1月24日，警視廳命令巖波書店報告津田左右吉著作的庫存量。1940年1月31日，巖波書店向東京地方檢事局報告津田左右吉著作的庫存量。1940年2月3日，東京地方檢事局命令巖波書店提出津田左右吉著作相關問題始末報告書。1940年2月10日，巖波書店發行的津田左右吉著作《古事記及日本書紀之研究》（古事記及日本書紀の研究）被查禁、扣押。1940年2月12日，巖波書店發行的兩本津田左右吉著作《神代史研究》（神代史の研究）與《上代日本社會及思想》（上代日本の社會及思想）被查禁。1940年3月8日，津田左右吉與巖波茂雄被檢察官依《出版法》（明治26年4月14日法律第15號）第26條起訴，是為“津田事件”。1942年5月，津田左右吉被判禁錮3個月，巖波茂雄被判禁錮3個月，皆緩刑2年；津田左右吉提上訴。1944年，正在上訴中的該案由於時效已過，被裁定不起訴處分。
1945年9月，巖波茂雄因腦出血而病倒於巖波家族位於熱海市伊豆山的別墅“惜櫟莊”。1946年4月25日，巖波茂雄逝世，享年64歲，法號為“文猷院剛堂宗茂居士”。1949年4月25日，巖波書店改組為株式會社，其社長不再由巖波家族世襲。1990年8月，巖波書店拆除舊總部，原址改建為巖波書店總部大樓。