“大人”这个词最早可见于《易经》，开始是对父母长辈的称呼。《汉书》中汉高祖对其父亲刘太公说：“始大人以臣为无赖。”张博诈淮阳王上书：“为大人乞骸骨去。”《后汉书》范滂曰：“惟大人割不忍之恩。”这是以“大人”称母亲。到了宋朝后期，才出现将官员称之为“大人”。如元人高则诚《琵琶记》，蔡状元呼黄门为大人，则元时达官已有大人之称。又《涌幢小品》载，徐晞以吏员起仕至尚书，某日还乡，郡守率诸生迎之，诸生以徐晞非生员出身，颇无敬意，徐晞出一对曰：“劈破石榴，红门中许多酸子。”诸生不能对。徐晞对下联为：“咬开银杏，白衣里一个大人。”王世贞《觚不觚录》载，三司见督抚称“老先生”，见巡按称“先生大人”。可见至明朝时，以“大人”为官员之称已较为多见。
