从多种纸币到中央银行
明治初期，政府纸币与依据国立银行制度设立的民营银行纸币并行。国立银行的名称表示依据特许制度设立，不等于国有银行。1877年西南战争的融资扩大不兑换纸币发行，币值与物价问题促使财政当局谋求集中发行和兑换制度。
1882年6月公布的日本银行条例规定资本额一千万日元、营业期限三十年，银行10月10日开始营业。松方正义推动的财政整理与银行筹设相互配合；银行作为持续经营的机构，其历史起点应区别于相关法令公布或第一批钞票发行的日期。
银行券、兑换与危机应对
1885年5月发行的首批日本银行券是可兑换银币的大黑十圆券。此前政府与国立银行纸币并未在银行开业当日全部消失，而是继续整理，到1899年底停止通用。1897年金本位制建立后，日银券改为兑换金币，准备金来源包括甲午战争赔款。
1927年金融恐慌中，银行大量供应钞票以应对挤兑，政府同时宣布三周支付延期。因取款需求激增，银行还发行背面未印刷的二百圆券。1931年12月停止金货兑换后，纸币制度逐步转向由中央银行调节发行量的管理通货制度。
法律改组与决策机构
1942年新日本银行法反映战时国家政策要求，银行5月1日据此改组。战后法律经过多次修订，1949年设政策委员会作为最高决策机构。1997年全面修法强调独立性与透明度，1998年4月1日施行，不能把各阶段的权力关系视为始终相同。
现行机构说明把银行界定为依日本银行法成立的法人，既非政府机关，也非普通私营公司。其职责包括发行银行券、进行货币调节并维持金融机构间资金结算顺畅；政策委员会决定货币调节方针并监督业务，物价稳定与金融体系稳定分别涉及这些职责。