La cultura neolítica conocida como joomon duró unos 6.000 años en Japón hasta el siglo III a. C., cuando fue sustituida por la cultura yayoi que duró 500 años. Según una escuela de pensamiento el pueblo joomon fueron los habitantes originales de Japón y los antepasados del pueblo ainu, quienes fueron expulsados por los yayoy, antecesores de los actuales japoneses. La evidencia arqueológica no es concluyente y nada se sabe de las lenguas joomon y yayoi. 

Lo que sí está claro es que el japonés antiguo, según aparece en los documentos del siglo VIII d. C., está caracterizado por un sistema fonológico poco denso, una estructura léxica polisilábica y una morfología aglutinante, características que cualifican la lengua igualmente entre las altaicas o entre las malayo-polinesias. Los filólogos japoneses tienen mucho interés en identificar las palabras yamato, palabras originales japonesas, con la base de su lengua. Pero como se demuestra, incluso el estrato japonés más antiguo no parece estar libre de préstamos chinos.

Un resumen del japonés clásico sería el siguiente:

• Del 400-794 d. C., o periodo Nara que incluye los 180 años cuando la corte Yamato puso su trono en la nueva ciudad de Nara. A este periodo pertenecen las obras más antiguas en japonés - el Man'yooshuu y el Kojiki ('Registro de cosas antiguas'), una colección de mitos y leyendas. Ambas obras fueron compiladas en el siglo VIII:

• En el 794 la corte se cambió a Heian, inaugurando así un periodo que duró hasta 1191. En esta época florece la literatura japonesa clásica, con un extraodinario encanto y refinamiento, ejemplo de ello el Genji Monogatari y el Murasaki Shikibu Nikki, escritos por Murasaki Shikibu (c. 1000) y el delicioso Makura no Sooshi escrito por Sei Shoonagon.

• El japonés clásico era todavía usado en el siglo XIX.

• En 1868 se produce la restauración Meiji que tuvo consecuencias políticas, sociales, económicas y literarias.

El sistema de escritura chino llegó a Japón a través de Corea en los siglos III/IV d. C. Para el japonés, una lengua de flexión y polisilábica, usar una escritura diseñada para una lengua monosilábica podía hacerse en dos maneras:

• kun: los caracteres chinos eran usados simplemente por su equivalencia semántica japonesa. Por ejemplo, la palabra japonesa yama 'montaña' podía ser anotada como la grafía china para montaña (shan en chino).

• man'yoogana: el método kun funcionaría hasta cierto punto para raíces puras, pero para la representación de terminaciones verbales y partículas nominales, habría que seleccionar ciertos caracteres chinos como aproximaciones fonéticas, sin importar su significado; por ejemplo, para anotar la partícula japonesa no, ampliamente usada para marcar el genitivo se escogió el carácter chino tang, cuya pronunciación era aproximadamente similar. El problema con este sistema es que no había coherencia, por lo menos una docena de caracteres chinos se usaban para la partícula japonesa ka.

Juan 3:16 en japonés clásico

La mayoría de los escritos clásicos Heian está redactados en hiragana.

Los escritos más antiguos en lengua japonesa se remontan al siglo VIII d. C., siendo el más antiguo el Kojiki del año 712 d. C. y escrito en caracteres chinos. Para el tiempo de Manyoshu, antología de versos japoneses completada en el 759, los japoneses habían aprendido a usar los caracteres chinos como símbolos fonéticos. Por ejemplo, la palabra japonesa yama 'montaña' podía ser escrita fonéticamente usando un carácter con el sonido ya y otro con el sonido ma, con lo cual ahora había dos posibilidades de escribir una misma palabra: directamente con el carácter chino que la representaba o fonéticamente con los caracteres chinos equivalentes a los sonidos japoneses de cada sílaba. 

Esta doble diferenciación dio origen a las dos clases de escritura que hoy co-existen en Japón: kata-kana o símbolos mnemónicos e hira-gana que es una simplificación del estilo hierba, cursivo, de caracteres chinos. Originalmente, el katakana se usaba en combinación con caracteres chinos y el hiragana era usado principalmente por las mujeres y no tenía caracteres mezclados. La práctica actual es usar caracteres chinos, llamados kanji, para palabras con contenido y el hiragana para palabras que denotan funciones gramaticales, como partículas y terminaciones inflexionales. El katakana se usa para escribir préstamos extranjeros, telegramas y expresiones onomatopéyicas. 

Además existe el romaji, que es otro sistema de escritura fonético que utiliza el alfabeto romano. Este sistema se usa como ayuda para los extranjeros y para escribir acrónimos foráneos; también se usa en la publicidad. La dirección tradicional de la escritura es vertical de derecha a izquierda, aunque hoy en día se practica también la escritura horizontal.

En su etapa más antigua el japonés tenía 8 vocales consistiendo de /i, e ,a , o, u/ más alófonos de /i, e, o/ pero en japonés moderno las vocales son las cinco primeras. Las palabras japonesas se dividen en dos categorías: indeclinables (incluyendo nombres, pronombres, partículas, adverbios, conjunciones, interjecciones) y declinables (verbos y adjetivos). No hay artículos y el género está ausente.

Las formas pronominales de la primera persona son a/wa/ware, de la segunda na/nare, como nare mo, are mo 'ambos tú y yo'; también se usa kimi. No hay pronombre específico para la tercera persona.

El pronombre demostrativo es ko(re), so(re); el adjetivo es ko(no), so(no). El interrogativo es ta(re) '¿quién?', nani '¿qué?', como ¿Kore wa tare desu ka? '¿quién es este?'.

El orden de la frase es sujeto, objeto y verbo.

La numeración en japonés clásico y moderno es la siguiente: