下士官
兵科の下士官
1877年10月10日改正の陸軍武官官等表によると、工長等を除く兵科の下士（当時は「下士官」ではなく「下士」と呼称されていた）は、曹長一等、曹長二等、軍曹一等、軍曹二等、伍長一等、伍長二等の6階級に分類されていた。その後、伍長の官名が廃止されると共に区分が簡略化されて、曹長（判任官二等）、一等軍曹（判任官三等）、二等軍曹（判任官四等）の3階級とされた。1899年12月1日に、「伍長」の名称を復活させ、旧「一等軍曹」を「軍曹」と、旧「二等軍曹」を「伍長」とそれぞれ改称した。
1874年10月31日当時の常備兵満員の場合の部隊の下士の総員は約6,484名とされていた。また、この当時の下士の服役期限は7年であった。この頃は陸軍教導団が下士養成を担った。
1927年7月から1943年8月まで陸軍教導学校が仙台、豊橋、熊本に設置され、歩兵科の下士官養成が行われた。下士官候補者は、一年間の在営後に入学し、一年間の修学期間を経て、卒業後に下士官となった。豊橋教導学校では、1933年8月から1939年8月まで騎兵・砲兵科の下士官候補者の教育も実施した。
二等卒（1931年11月より二等兵に改称）として入営（徴兵または志願）した場合、一等卒（1931年11月より一等兵に改称）までは自動的に進級するが、上等兵以上は選抜によって進級する。判任官たる伍長以上になると勤続年数が20年以上に及んだ場合、叙位叙勲の栄誉を受ける機会もあり、また1904年3月2日には、下士官として6年以上勤続し、かつ勤務成績が優良なる者に対しては下士官勤功章などの表彰記章が授与された。
下士官たる軍曹は、内務班長（陸上自衛隊の営内班に相当する）を命ぜられることが多く、そのため兵卒から下士官へ呼びかける際に「班長」と呼称することが多かった。これを第二次世界大戦中・進駐後の日本・朝鮮動乱中の韓国軍との共同行動中などに見聞したアメリカ兵によって、honcho（班長転じて、リーダーシップを発揮する責任者の意）の語が英語に流入することになった。
士官候補生は、一般の兵卒と同じ階級が指定され、兵の最先任として先ず上等兵を命ぜられ、伍長、軍曹に順次定期進級し、見習士官たる曹長を経て少尉に任官されることとなっていた。
なお、朝鮮軍人たる下士官は、旧韓国軍時代の階級名をそのまま保持し、陸軍○○特務正校（特務曹長相当）、陸軍○○正校（曹長相当）、陸軍○○副校（軍曹相当）、陸軍○○参校（伍長相当）という階級名が用いられる。韓国軍では「大・中・少」ではなく「正・副・参」の順序が用いられ、また「校」が下士官を表していた（朝鮮軍人参照）。
上級曹長・先任伍長・准曹士先任制度
自衛隊の活動が従来の、大規模な地上部隊の本土上陸阻止を目標とした冷戦型構造から変化してきたことに伴い、それまで単に士を現場で統括するに過ぎないと考えられてきた曹の役割は大きな変化を遂げるに至った。曹が、直属上官を経ることなく、直接に指揮官を補佐する制度が設けられるようになってきた。2003年（平成15年）4月、海上自衛隊に「先任伍長」制度が創設された。
2004年度（平成16年度）から検討が始まっていた陸上自衛隊でも、2006年（平成18年）4月1日に陸上幕僚監部及び中部方面隊で、米陸軍の制度を参考に「上級曹長」制度を導入、10年間の施行検証を経て2014年より正式施行された。従来は中隊等には付准尉が置かれて指揮官を補佐していた。新制度においては中隊等付准尉は先任上級曹長と呼称され、さらなる上級部隊にも「最先任上級曹長」が配置される。航空自衛隊でも同趣旨の制度として「准曹士先任」制度が設けられている。統合幕僚監部においても2012年（平成24年）4月に「最先任下士官」が設置されている（詳解は曹士の能力活用を参照）。