佛教起源于公元前6世纪的印度。意为佛祖释迦牟尼（Gautama Siddhartha）的教诲。佛教中被称为大乘佛教（Mahayana）的一个分支被传到了日本。

在公元后6世纪，朝鲜百济王国的国王经过中国和朝鲜半岛，把佛教作为一份礼物传到日本。之后很快就受到日本掌权贵族的热忱拥护，成为新的官方宗教信仰。但因其教章中的教义非常复杂，导入后的初期，并没有在民间得到广泛传播。

最初，佛教还与日本本土宗教神道教发生过一些冲突，但是不久这两大宗教就开始和谐共存，甚至相互补充。

奈良时代，在首都奈良有一些大的佛教寺庙被强烈的政治色彩所渲染，例如东大寺，这也是784年迁都长冈，794年迁都京都的原因之一。回首历史往事，僧侣兵士对政治的野心也是困扰日本多个世纪的大问题。

奈良的东大寺

平安时代早期，从中国传入了两个新的佛教流派：一派是由最澄在806年传入的天台宗，另一派是由空海于805年传入的真言宗。后来从天台宗又分出更多的教派，其中最主要的几派叙述如下：

1175年，法然创立了净土宗(纯净的土地教派)。净土宗的理论比较单纯，加之所宣传的是，只要个人能遵照教律信仰阿弥陀佛就可以获得拯救的理念，所以在不同的社会阶级中都有追随者。1224年，法然的继任者亲鸾创立净土真宗(真实的纯净土地教派)。时至今日，净土宗仍拥有数百万的信徒。

1191年，禅宗自中国传入日本。它的复杂理论在武士阶层很受青睐。根据禅宗教义，一个人可以通过戒律和冥想而获得自我启蒙和领悟。目前，与日本相比，禅宗在海外更为受欢迎。

1253年，日莲创立莲花法华（或日莲宗）。这个教派比较特别，它与其他佛教教派对立。尽管如此，今天仍然有数以百万计的信徒。此外，有些“新宗教”也是基于日莲宗的教义而来的。

镰仓大佛

在16世纪后期，织田信长和丰臣秀吉都曾彻底讨伐僧侣兵士(特别是净土宗)，几乎已经完全断绝了政府内部中的佛教活动。

在明治时代早期佛教再次受到打击，当时的明治政府推崇神道教，并尝试着把神道教从佛教中分离开来。

现在日本国内大约有9000万人自认为是佛教的信仰者。但宗教信仰不再会过多的影响普通日本人的日常生活。日本人的葬礼通常是以佛教的方式进行，很多普通人的家庭中都有一个用来祭祀祖先的小祭坛。