クリーブランド音楽院は、1920年4月に設立されました。初代音楽監督はエルネスト・ブロッホで、事務局長はマーサ・ベル・サンダースでした。1922年には予備課程を設け、1961年に現在のユニバーシティサークルに移転しました。1960年、ヴィクター・バビンが新たなディレクターに就任し、妻ヴィティア・ヴロンスキーとともに活躍しました。1965年には20台のスタインウェイグランドピアノが追加され、クリーブランド音楽院とケース・ウェスタン・リザーブ大学はジョイント・ミュージック・プログラムを開始しました。そして、1985年、デヴィッド・セローネがディレクターに就任し、ヤングアーティストプログラムを開始しました。2001年には4,000万ドルのキャンペーンが始まり、2007年にミクソンホールなどの新施設が完成しました。近年では、最新の寮兼練習施設「1609 Hazel」の開設、オーケストラキャリアフェローシップや音楽パスウェイフェローシップの開始、スフィンクス組織などとの提携が進みました。