古事記や日本書紀によると、中国から日本に初めて漢字が伝わったのは弥生時代とされており、弥生時代の古墳から、漢字が刻み込まれた中国・漢時代様式の鏡が発見されています。
ただ、鏡は発見されているものの、この時代に漢字を本格的に使用することはなかったようで、漢字が本格的に使われるようになったのは6世紀頃だといわれています。
538年頃に仏教が伝わると、飛鳥時代の聖徳太子らによって漢字が本格的に使われるようになります。聖徳太子は国を治めた最初の教養人指導者とされており、儒教や仏教に深い信仰を持った聖徳太子が記した「法華義疏」が、実際に手で書かれた日本最古の文字といわれています。
奈良時代には国家事業として写経所も設けられるほど「写経」がブームになり、これによって書が栄えていきます。さらに610年頃には、遣唐使や遣隋使によって中国の紙や墨の製法も伝わり、書道はどんどん盛んになっていきました。
平安時代初期には、三筆と呼ばれる空海（くうかい）・橘逸勢（たちばなのはやなり）・嵯峨天皇（さがてんのう）らによって、これまで主流だった唐の書風を日本風にした書が登場するようになります。遣唐使が廃止された平安時代中期には日本独自の文化が発達したことで「かな」が誕生します。その後、三蹟と呼ばれる小野道風（おののみちかぜ・とうふう）・藤原佐理（ふじわらのすけまさ・さり）・藤原行成（ふじわらのゆきなり・こうぜい）らによって、三筆とは対照的な優雅で柔らかい書風が登場します。日本の書道は、三筆と三蹟の活躍によって大きく発展し、現在に至っています。
平安時代中期に誕生した「平仮名」は、万葉仮名の草書体を崩してできたものです。この時代に平仮名を使うのは女性が多かったことから平仮名は「女手」とも呼ばれ、万葉仮名は「男手」と呼ばれていました。女性が平仮名を使用していたのは、男女差別があった当時に女性が漢字を使うことが認められていなかったためです。