初名“中国国家主义青年团”。1923年12月2日成立于法国巴黎。主要发起人有曾琦、李璜、李鲁之、李不韪、张子柱、胡国伟、何鲁之等人。1924年3月1日在巴黎召开第一届代表大会,发起人均被推选为中央委员,还推选曾琦为委员长,何鲁之、李璜、张子柱、李不韪、胡国伟、段震环分掌内务、外务、宣传、组织、训练、总务各部。1929年8月20日在沈阳举行第4次全国代表大会,正式定名为“中国青年党”。该党由地主、资本家、军阀、政客及部分知识分子组成。抗日战争期间,一部分成员公开投靠日本。解放战争期间,进一步依附国民党政权。该党于1949年随国民党去到台湾。
该党赴台初期,在政坛上尚能发挥些微小影响,在一些民意代表选举中还能获取一些席位。但在50年代后,其实力明显衰退,在政坛上难以发挥制衡作用。导致这种状况的内因是党内派系林立,外因是国民党分化控制。在台湾第一届中央“民意代表”退职之前,青年党在“国民大会”、“立法院”、“监察院”中有50多个席位,但在台湾的第二届中央“民意机构”中则无一人当选。
青年党自成立之后,内部一向不统一,到台湾后,各派别间的斗争逐渐公开化。1986年12月27日,青年党召开第14届三中全会,通过了15项党务革新提案,确定了争取报禁开放、制定政党法、政党地位平等、政党经费应由国库平均负担等为该党未来目标。1987年4月初,该党又发生了内斗。