日本曾在唐時派遣了很多使者來華，那些使者都叫“遣唐使”。而里面又包括不少隨“遣唐使”來唐的學生，是一起來當時先進的大唐學習的，在唐的日本留學生一律被安排在當時最好的國子監學習。唐朝國子監有六學：國子學、太學、四門學、律學、書學和算學，日本“遣唐使”在華學習幾年甚至幾十年，再回到日本傳播中華文化，以促進日本政治、經濟、文化各方面的發展，當然也包括漢字。

在開元五年（也就是公元717年）吉備真備，原名下道真備，隨“遣唐使”來唐，就學于唐玄宗親命的國子監的四門助教趙玄默，把五經三史、歷算、刑律、漏刻、軍制、陣法、韻學、書道等能學的都學了個遍。一共在唐留學17年，并在開元二十二年（公元734年）十一月攜帶中國典籍1700多部歸國。吉備真備回國后根據部分漢字偏旁部首創制了日語片假名，這些漢字共50個，被稱為“母字”。古代日本沒有本民族的文字，都是用利用漢字作音符來書寫日本語言，很不方便，有了日語片假名后，日本就有了自己的文字。

后來，留學僧空海（弘法）又利用漢字行書體創造日本行書假名日語平假名。根據漢字傳入的時代和來源地的不同，日本的漢字又可以分為“唐音”、“宋音”等幾種。

至于中國人是不是日本的祖先，在洪荒時代，日本本土和中國大陸是連在一起的，有一種說法是當時在中國大陸上的原始人因為某種原因遷移到日本本土并定居成為了日本人。在《哆啦A夢》1989年的劇場版大雄的日本誕生里，就是采用了這種說法。