Kala itu, Herman diminta oleh Letkol Soeharto sebagai Komandan Resimen XXII TNI yang membawahi daerah Yogyakarta untuk memasang bom di jembatan kereta api Sungai Progo. Karena ia menguasai teori jembatan, Prof. Dr. Ir. Herman Johannes pun bisa membantu pasukan Resimen XXII mengebom jembatan tersebut.
Herman juga ikut serta dalam Serangan Umum 1 Maret 1949 yakni serangan kilat yang menyerbu Kota Yogyakarta di pagi buta dan bisa menduduki ibu kota Republik selama enam jam. Atas jasa-jasanya, Presiden Susilo Bambang Yudhoyono pun menganugerahi Prof. Dr. Ir. Herman Johannes sebagai Pahlawan Nasional pada 2009.
Prof. Dr. Ir. Herman Johannes pernah menjabat sebagai Rektor Universitas Gadjah Mada (UGM) pada 1961 hingga 1966. Ia kemudian dipercaya untuk menjabat sebagai Koordinator Perguruan Tinggi (Koperti) pada 1966 hingga 1979. Pada periode 1968-1978, ia juga tercatat pernah menjabat sebagai anggota Dewan Pertimbangan Agung (DPA) RI.