憲兵第四團(tuán)的前身是憲兵第一團(tuán)，為憲兵司令部成立后最早建立的一個(gè)團(tuán)。第一任團(tuán)長(zhǎng)陳某（忘其名，浙江人，保定軍校畢業(yè)）于1928年他調(diào)，改由黃繼吾繼任團(tuán)長(zhǎng)。黃是廣東文昌人，黃埔軍校第一期畢業(yè)，原是南京黃埔同學(xué)會(huì)總會(huì)（與復(fù)興社有密切關(guān)系的反革命組織）負(fù)責(zé)人，因我同黃有過(guò)一段歷史關(guān)系——當(dāng)黃擔(dān)任黃埔軍校政治部主任時(shí)，我當(dāng)組織科中?？崎L(zhǎng)。當(dāng)時(shí)教育長(zhǎng)林振雄不理校務(wù)，大捧“紫羅蘭姑娘”（當(dāng)時(shí)在廣州的一個(gè)“交際花”）。我跟黃一起搞過(guò)倒林活動(dòng)失效后，同到南京黃埔同學(xué)會(huì)工作。所以黃接任憲兵第一團(tuán)團(tuán)長(zhǎng)時(shí)，也邀我暫以上尉副官的身份，隨他前往辦理接收事宜。

當(dāng)時(shí)憲兵第一團(tuán)的團(tuán)本部，就在南京夫子廟大街，離憲兵司令部不遠(yuǎn)。憲兵第一團(tuán)的組織和陸軍編制一樣，即所謂“三三制”：一團(tuán)三營(yíng)、一營(yíng)三連、一連三排、一排三班，每班憲兵十四人。此外還有直屬機(jī)關(guān)槍連、追擊炮連和一個(gè)通訓(xùn)排。全團(tuán)官兵約1200人左右。

黃珍吾接任憲兵第一團(tuán)團(tuán)長(zhǎng)后不久，該團(tuán)就奉命開往蘇州老五團(tuán)營(yíng)房集中訓(xùn)練，并擔(dān)任京滬鐵路南段護(hù)路勤務(wù)。抵達(dá)蘇州后，該團(tuán)曾進(jìn)行了一番人事調(diào)整。當(dāng)時(shí)團(tuán)本部的主要骨干有：中校團(tuán)附蕭夢(mèng)熊（南昌人，講武堂畢業(yè)），少校團(tuán)附葉維（四川人，黃埔軍校第三期畢業(yè)），我在當(dāng)時(shí)就被改任少校視察，另一名少校視察是鄭連義（河北人，行伍出身），上尉副官敬承詩(shī)（四川人，黃埔軍校第五期畢業(yè)），中尉副官唐國(guó)寶（江蘇人，行伍出身）。團(tuán)以下各營(yíng)營(yíng)長(zhǎng)為：第一營(yíng)中校營(yíng)長(zhǎng)文重俘（湖南人，黃埔軍校第三期畢業(yè)），第二營(yíng)中校營(yíng)長(zhǎng)黃愷元（浙江人，講武堂畢業(yè)），第三營(yíng)中校營(yíng)長(zhǎng)袁家佩（湖南人，黃埔軍校第三期畢業(yè)）。當(dāng)時(shí)團(tuán)部決定以第一、二兩營(yíng)及直屬部隊(duì)為集訓(xùn)部隊(duì)，以第三營(yíng)為服勤部隊(duì)，擔(dān)任京滬鐵路南段南起上海北至常州的護(hù)路任務(wù)。

1933年下半年，當(dāng)時(shí)第四團(tuán)的編制員額略有擴(kuò)充，團(tuán)長(zhǎng)仍是吉章筒，我被升任中校團(tuán)附（后為黃得模），另有少校團(tuán)附趙志熹（貴州人，黃埔軍校第六期畢業(yè)）、鄭連義（山東人，行伍出身）；并設(shè)有政治指導(dǎo)員辦公室，少校指導(dǎo)員余鐘民（湖北人，叛黨分子）；副官室上尉副官古肇英（廣東海南島人，黃埔軍校第六期畢業(yè)）；軍需室中校主任劉恩澄（山東人，黃埔軍校第四期畢業(yè)）；視察室少校視察李輝勻（湖南人，黃埔軍校第四期畢業(yè)）；還有書記室、醫(yī)務(wù)所等，團(tuán)部仍轄三個(gè)營(yíng)。第一營(yíng)中校營(yíng)長(zhǎng)文重孚（湖南人，黃埔軍校第三期畢業(yè)），第二營(yíng)中校營(yíng)長(zhǎng)黃愷元（浙江人，黃埔軍校第二期畢業(yè)），第三營(yíng)中校營(yíng)長(zhǎng)黃得模（廣東海南島人，日本士官學(xué)校畢業(yè)，后由我繼任），少校營(yíng)副吳光運(yùn)（湖南人）。此外，尚轄有追擊炮連，連長(zhǎng)為上尉魏育民（安徽人，黃埔軍校第五期畢業(yè)）；機(jī)關(guān)槍連，連長(zhǎng)為上尉徐聯(lián)陛（浙江人）。第一、二兩營(yíng)營(yíng)屬連長(zhǎng)有王成章（江西人）、高維民（河北人）、吳濂（福建連江人）、方知（江西人）、姚衍（湖南人）、王紳亞（浙江人）、李健（湖南人），三營(yíng)營(yíng)屬連長(zhǎng)有胡耿（浙江人）、陳瀚（江蘇人）、鄔國(guó)斌（湖南人）。