渡辺與八郎は湯治湯として知られた武蔵温泉（現・二日市温泉）が庶民の湯治湯としては勿論のこと、商都博多発展のための格好の商談の場となると考え、地元富豪の谷彦一と組んで湯町の開発を進めました。1898（明治31）年に温泉宿「武蔵屋」を開業、公衆浴場である「川湯」や福岡藩時代は藩主専用温泉だった「御前湯」に加えて、温泉発祥の場所である薬師如来のそばに「薬師湯」を整備しました。薬師湯は、射的場・玉突き場などの娯楽施設も備えた、現在の温泉センターのような施設だったといいます。與八郎はさらに土地の買収や建築、「武蔵温泉場公園」の造園などの開発を次々に進め、今日の二日市温泉繁栄の基礎を造りました。また、福岡市内を循環する博多電気軌道の延長線を、武蔵温泉と太宰府天満宮へ延伸する計画も当初から考え、谷らと用地買収を進めました。

　さらに1908（明治41）年、荒廃していた九州最古の寺である「武蔵寺」の再興と創建1350年祭の法典に協力援助しています。1900（明治33）年に発行された「武蔵温泉由来記」には、與八郎は「紳士の商人＝紳商」として巻頭で顕彰されています。

　また、武蔵寺山門を入ってすぐの境内には1915（大正４）年に「温泉浚渫碑」が與八郎の息子・與三郎によって建てられています。これは、與八郎の温泉開発を発端として、内湯を持たなかった旅館街が泉源開発を競ったために泉源の低温化を招き、宿泊客の争奪戦などが起きたため、與八郎と協定書を交わして互助組織を結成し共存繁栄をめざしたことを記録したものです。

※温泉開発は渡辺與八郎が「與三郎」と名乗っていた時代のもの。武蔵寺にある記念碑は與八郎没後に息子・與三郎によって建てられたものです。