Первые поселенцы на территории современной Японии появились примерно 35 000 лет назад. Согласно археологическим исследованиям, первые жители Японии были охотниками и собирателями, проживавшими в пещерах и на берегах рек. В период с IV до начала III века до н. э., на острова начали приходить корейские и китайские колонисты, которые оказали значительное влияние на культуру и образ жизни японцев.
Первое упоминание о японском народе как о древнем государстве можно найти в китайских источниках III века до н. э. Этот период в японской истории обычно называют Яёй периодом (300 г. до н. э. - 250 г. н. э.), эпохой формирования японского государства. За этот период были установлены первые контакты с китайскими империями, в результате чего японцы активно позаимствовали культурные и технологические инновации.
Считается, что современные японцы, как этническая группа, сформировались как результат смешения древних коренных жителей Японии, иммигрантов из Кореи и кочевников с материка, а также за счет смешения смежных племен и народов. Таким образом, японцы как этнос имеют сложную многонациональную историю своего происхождения.