Thiền Nhật Bản được hình thành khá muộn, nhưng trong lịch sử Phật giáo, lịch sử tư tưởng và lịch sử văn học Nhật Bản, cũng như toàn bộ lịch sử Nhật Bản vẫn còn in đậm nhiều ảnh hưởng sâu sắc.
Thiền Nhật Bản bắt nguồn từ Trung Quốc. Khi quê hương của Thiền tông phát triển đến đỉnh cao, kết hợp với thiên thời, địa lợi, nhân hòa thì mặc nhiên thiền nhanh chóng du nhập vào Phù Tang, một đảo quốc phía đông Trung Quốc.
Thiền tông Nhật Bản hình thành và hưng thịnh nhờ vào sự giao lưu giữa các thiền sư Trung Quốc và Nhật Bản. Thiền sư có công lớn nhất trong việc khai sáng Thiền tông Nhật Bản là Vinh Tây. Vào đời Tống, ngài đã hai lần đến Trung Quốc cầu pháp với dòng thiền Lâm Tế. Sau khi về nước đã truyền bá rộng rãi thiền pháp Lâm Tế. Kể từ đó, thiền Lâm Tế được xem là tông phái thiền thành lập sớm nhất ở Nhật Bản.
Sau thời Vinh Tây, các môn đệ của ngài liên tục truyền tông tiếp đại không gián đoạn và thành quả đạt được trên hai phương diện. Thứ nhất, Hạnh Dũng và Vinh Triệu, cùng với các hậu duệ như Biện Viên và Giác Tâm, họ hết lòng đem sự nghiệp sáng khởi của Vinh Tây tích cực hoằng dương, làm cho các mặt tổ chức và nghi lễ của Lâm Tế tông ngày càng hoàn thiện, tông phong chấn chỉnh, tiếng tăm vang dội. Thứ hai, Đạo Nguyên là một cao túc đệ tử của Minh Toàn, theo thầy nhập Tống cầu pháp, tìm học minh sư, tham cầu thầy giỏi và cuối cùng đến chùa Thiên Đồng tham vấn thiền sư Như Tịnh, hoát nhiên đại ngộ, được truyền “bí uẩn” và “thiền thọ đảnh tướng”. Sau khi về lại quê hương, ngài hết lòng hoằng dương Tào Động tông phong, từ đó sáng lập nên thiền phái Tào Động ở Nhật Bản. Đến đây thiền phái Lâm Tế và Tào Động trở thành hai tông phái thiền lớn, liên tục phát triển, nguyên viễn lưu trường và để lại một dấu ấn lịch sử vô cùng trọng đại trong lịch sử Thiền tông cũng như Phật giáo Nhật Bản.