1357年、斯波兼頼によって築城されたのが始まりで、1600年に最上義光が慶長出羽合戦で上杉景勝軍に勝利した後、城の整備・拡張を図り三の丸を構築しました。
三ノ丸の内側は東西1.6km、南北2.1km(235ha)におよび、現在の山形市の中心街が収まる程の大規模な城(国内5番目の広さ)で、本丸に天守閣はなく、藩主が生活する御殿のみがあり、二ノ丸には天守閣代用の三重櫓が建てられていました。
現在は、本丸、二ノ丸の郭が残され、本丸一文字門や二ノ丸東大手門が復元されています。国の史跡に指定され、二ノ丸の内側は霞城公園として市民の憩いの場となって、春には城内に植えられた約1500本の桜が咲き誇り、山形市随一の桜の名所として知られています。
別称:霞ヶ城