Bonsai được cho là có nguồn gốc từ nghệ thuật trồng cây cảnh của Trung Quốc với lịch sử hơn 2000 năm, sau đó các thiền tăng đã du nhập văn hoá trồng cây cảnh vào Nhật Bản. Từ thời đại Heian đến thời đại Kamakura, nghệ thuật cây cảnh bắt đầu hưng thịnh, niềm đam mê trồng cây cảnh thời bấy giờ được lan toả mọi tầng lớp trong xã hội.
Khoảng năm 1800, 1 nhóm nghiên cứu nghệ thuật của Trung Quốc tập họp ở gần trung tâm Osaka bàn luận về vẻ đẹp của nghệ thuật trồng cây cảnh ở Nhật, và họ đã đặt tên cho nghệ thuật này là “ Bonsai ” để phân biệt với nghệ thuật trồng cây cảnh truyền thống. Trong tiếng Nhật, từ Bon nghĩa là cái chậu, cái khay; từ Sai nghĩa là cây; Bonsai mang ý nghĩa cây trồng trong chậu. Đến thời đại Edo, những nghệ nhân tài hoa đã nâng nghệ thuật trồng cây cảnh lên tầm cao mới, mỗi 1 tác phẩm là sự kết hợp hoàn hảo giữa triết lý Phật giáo, triết lý sống và tinh thần người Nhật. Ngoài ra, bonsai Nhật Bản còn được đánh giá cao về kỉ thuật, độ tinh tế và tính thẩm mỹ cao.
Năm 1876, Bonsai Nhật Bản lần đầu tiên xuất hiện tại triễn lãm quốc tế Philadelphia; năm 1878 và 1889 Bonsai Nhật Bản tham gia triễn lãm quốc tế tại Pari; năm 1893 tham gia triễn lãm tại Chicago, năm 1904 tham gia triễn lãm tại Saint Louis, năm 1910 tham gia triễn lãm tại Nhật và Anh, năm 1915 tham gia triễn lãm tại San Francisco. Thông qua các triễn lãm quốc tế, nghệ thuật bonsai Nhật Bản được quảng bá rộng rãi khắp thế giới. Ngày nay, Bonsai được xem là 1 trong những văn hóa đặc trưng của xứ sở Phù Tang.