Pour comprendre la place du gaokao dans la société chinoise, il faut remonter aux examens impériaux, le 科举 (keju). Instaurés sous la dynastie Sui, à la charnière des VIᵉ et VIIᵉ siècles, ils permettaient de recruter des fonctionnaires sur concours plutôt que par naissance ou recommandation. Les Tang les ont développés, les Song les ont considérablement étendus.
Sous les Song, plusieurs procédés destinés à garantir l’impartialité se généralisent : l’anonymat des copies, dont le nom était masqué, et leur recopie par des scribes pour que l’écriture du candidat ne puisse pas être reconnue. L’idée qu’un examen doit juger une copie et non une personne est donc très ancienne en Chine.
Sous les Ming et les Qing, le système se hiérarchise en plusieurs niveaux, des examens locaux jusqu’à l’examen du palais présidé par l’empereur. Les épreuves portent sur les classiques confucéens, en particulier les Quatre Livres, et imposent un genre très codifié, l’essai en huit parties (八股文). Le premier de l’examen du palais recevait le titre de 状元, mot encore employé aujourd’hui.
Critiqué pour son formalisme et jugé inadapté aux besoins d’un pays en pleine transformation, le keju est aboli en 1905, à la fin des Qing. Pendant la première moitié du XXᵉ siècle, les universités recrutent surtout par leurs propres examens.
Le gaokao moderne naît en 1952, avec un examen d’entrée unifié à l’échelle nationale. Il est suspendu en 1966 au début de la Révolution culturelle ; l’entrée à l’université se fait alors principalement sur recommandation. Son rétablissement est décidé en 1977, et les épreuves se tiennent à la fin de cette même année. Pour toute une génération, cette reprise reste un tournant personnel.
Depuis, l’examen n’a cessé d’évoluer. Les dates ont été fixées aux 7 et 8 juin à partir de 2003, au lieu de juillet auparavant. Une réforme lancée en 2014, d’abord appliquée à Shanghai et au Zhejiang, a introduit le choix des matières, qui a donné naissance aux modèles 3+3 puis 3+1+2. Chaque province avance à son rythme, ce qui explique la diversité actuelle des règles.