Johannes M. Walter studierte an der Hochschule für Musik und Darstellende Kunst Stuttgart Künstlerisches Lehramt Musik an Gymnasien (Hauptfach: Klavier), Musiktheorie und Komposition, darüber hinaus an der Eberhard-Karls-Universität Tübingen Musikwissenschaft. Erstes und zweites Staatsexamen; Promotion zum Dr. phil. an der Universität der Künste Berlin bei Christoph Richter (Dissertation: Die Bedeutung der Didaktik Martin Wagenscheins für den Musikunterricht und die Musikpädagogik, siehe Schriftenverzeichnis).
Von 1986 bis 2005 lehrte er an der Musikhochschule Stuttgart (Musiktheorie und Musikpädagogik), in den Jahren 1999 bis 2003 übernahm er die Vertretung des dortigen Lehrstuhls für Musikpädagogik C4 und die Leitung des Studiengangs Künstlerisches Lehramt Musik an Gymnasien. Daneben – mit Unterbrechung während der Lehrstuhlvertretung – war er in Teilzeit im Schuldienst des Landes Baden-Württemberg tätig, zuletzt als Oberstudienrat am Robert-Bosch-Gymnasium in Gerlingen. Nebenberufliche künstlerische Tätigkeiten übt Prof. Dr. Johannes Walter als Liedbegleiter, Korrepetitor und Organist aus; von 1994 bis 2010 arbeitete er kontinuierlich mit den Stuttgarter Hymnus-Chorknaben zusammen. Seit 2005 ist er Mitglied des Autorenteams der Schulbuchreihe Musik um uns (Schroedel Verlag).
Zum Wintersemester 2005/2006 wurde Prof. Dr. Johannes M. Walter an die Hochschule für Musik Karlsruhe auf die W3-Professur Musikpädagogik (Schulmusik) berufen. Seitdem ist er Leiter des Studiengangs und der Studienkommission Künstlerisches Lehramt Musik an Gymnasien. Von 2007 bis 2016 war er als Prorektor für Lehre Mitglied des Rektorats.