“大尉”一詞源自拉丁文“首領(lǐng)”一詞派生出的“軍事長官”。大尉的稱謂首先出現(xiàn)于中世紀(jì)的法國，當(dāng)時是獨立軍區(qū)長官的頭銜，職位顯貴。后來大尉一詞逐漸失去了原來的意義，從1558年起，開始稱連長為大尉，軍區(qū)長官則稱總大尉。

1955年2月8日，第一屆全國人大常委會第六次會議通過《中國人民解放軍軍官服役條例》，中國人民解放軍正式實行軍銜制。其中，尉官設(shè)置為：大尉、上尉、中尉、少尉。大尉軍銜是尉官級別的最高軍銜，授予副團長、營長、副營長和連長。

1965年第三屆全國人大常委會第九次會議通過了《關(guān)于取消中國人民解放軍軍銜制的決定》，直到1988年7月1日，中華人民共和國第七屆全國人大常務(wù)委員會第二次會議決定恢復(fù)軍銜制，并通過《中國人民解放軍軍官軍銜條例》。新的軍銜制不再設(shè)置大尉軍銜。那么為什么不再設(shè)置大尉軍銜呢？主要是為了實現(xiàn)軍隊基層軍官的年輕化，激勵年輕軍官進步，所以保留了校官4級，取消了尉官中大尉軍銜。