德川时代以前，学校教育衰落，武士只能在家庭或寺院里受教育。如前所述，德川中期以后学术思想昌盛，学派林立，学校教育也随着发达起来。不用说武士受高水平的教育，就是平民识字也越来越多。据不完全统计，德川末期在男子中有40—50%的人识字，女子中有15%的人识字。
因身份等级制的关系，武士和平民所受的教育不同，学校也异。武士的学校教育可分为幕府直辖的学校和各藩设立的藩校。整个德川时代幕府直辖学校有21所，藩校有219所(其中187所是公元1751年—公元1867年设立)。幕府直辖学校以昌平簧(也称昌平板学问所)为代表，前述五代将军纲吉命林罗山之三代孙林凤冈为大学头，后由林家世袭主持这所学校。公元1790年幕府在此发布“禁止异学令”，从此成为专门传授朱子学的最高学府。该校招生对象是幕府的家臣——旗本(上级武士)和御家人(下级武士)的子弟。教学内容有经书、历史、诗文，教科书指定为孝经、四书、五经。不过至幕府末年，随着国内外形势的变化，昌平板学问所的课程也进行改革，改为经科、中国史科、日本史科、刑政史科，学生可以自选。昌平簧除江户本校外，幕府直辖领地还设有分校，教育在各地任官的幕臣子弟，如长崎的明伦堂、甲府的征典馆、骏府的明新馆、佐渡的修教馆、日光的学问所等。分校也都以儒学教育为主，由本校派遣教官授课。
当初藩校较少，而且大部分是利用儒家的私塾和藩主的圣堂(孔庙)改建的。德川中期以后各藩竞相设立藩校，为本藩改革培养人才。从而教学内容和方法都和幕府直辖的昌平坂学问所有所不同，进行了许多改革。如萨摩、长州等西南诸藩重视实学，除经、史、诗文外还增设算术、医学、天文等学科，而且打破身份等级制，准许平民子弟入学。
平民的学校教育可分为寺子屋、乡校和私塾。寺于屋是平民子弟的初等学校。镰仓时代由来寺院兼有教育机关的作用，吸收武士、平民子弟入学(“入寺”)，学生称为“寺子”。室町末期寺院多教平民子弟。德川中期除寺院外，儒家、浪人、医生、神官、僧侣等也设塾，仍沿用旧名“寺子屋”。寺子屋的课程主要是习字、读书、珠算，教科书用训蒙读物、“往来物”(尺椟文)等，按内容可分为教训、社会、地理、实业等科。寺子屋的开设管理者和教师(师匠)，大多数为农、工、商或医生等平民百姓：农村中大多数为村长(庄屋)、村吏等上层分子。寺子屋普及时全国达1.5万所，维新后大部分改为私立学校，成为近代学校的前身。
乡校是农村里的初等教育机关，它和寺子屋不同的是幕府和诸藩直接计划监督设置，或由藩内有权势的人出钱设立，或经幕府藩厅批淮由民间有志之士设立。教育对象是平民子弟，不招收武士子弟。乡校重视道德教育，教学内容主要是读、写、算等日常生活必需的知识。因乡校是公费开办的，开设不多，天保年间(公元1829年—公元1843年)只有13所，寺子屋部有1987所。
私塾大部分是学者出资在私宅开设的高等专门教育设施，因而得名。这里不问身份出身，只要自愿都可以入学，学生年龄一般较大。德川中期以后私塾非常发达。这是由于时人势力兴起，打破了文化教育由领主、豪商垄断的局面。私塾里学风自由，不受拘束，所以极为昌盛，如伊藤仁斋的古义堂有学生3000名。私塾传授的高等专科有儒学、国学、洋学和医学等，按老师的专长和兴趣而设，且培养目标有所不同。如伊藤仁斋在京都开设的古义堂以道德教育为主，以培养“圣人”为理想;获生祖株的蒙园塾以文章为主，培养从事实际研究的学者。此外三宅石庵和中井(上秋下瓦)庵在大阪开设的怀德堂培养町人学者，绪方洪底在大坂开设的适适斋培养西医和各种洋学家，石田梅吉的弟子手岛堵庵在京都开设的明伦舍则培养工商业者，吉田松阴在长州开设的松下村塾多出维新志士。私塾在日本教育史上占有重要的地位，明治维新后成立的高等学校许多是在私塾的基础上发展起来的，如福泽渝吉在江户设立的庆应义塾，后来发展为庆应大学。