Während seiner einzigartigen Karriere leitete er als Schiedsrichter über 2.000 Erstligaspiele und über 150 Länderspiele, pfiff bei mehreren Weltmeisterschaften und drei Olympischen Spielen. Für sein Wirken wurde Kompalla in Krefeld als „Bürger des Sports“ (1977) mit dem Krefelder Stadtsiegel (1981) und mit dem Bundesverdienstkreuz (1993) geehrt. Er ist Mitglied in der „Hall of Fame“ (2003) des Internationalen EishockeyVerbandes. Eine museale Eishockey-Sammlung vermachte er 2022 der Stadt, in deren Dienst er über 25 Jahre lang als Mitarbeiter im ehemaligen Sport- und Bäderamt stand. Als städtischer Mitarbeiter lehrte er Tausende Krefelder Kinder das Schlittschuhlaufen.
Im polnischen Katowice wurde Kompalla am 13. März 1936 geboren. Seine Eishockeylaufbahn begann in den frühen 1950er-Jahren in seiner Heimatstadt. In das westdeutsche Krefeld übersiedelte er 1958 mit seiner Familie. Dort spielte er als Verteidiger 158-mal für die Eishockey-Mannschaft Preußen Krefeld. Beim Rivalen in Düsseldorf begrüßte man ihn „Oh mir tun die Augen weh, wenn ich den Kompalla seh.“ Das Lied wurde an der Brehmstraße schon 1969 gesungen, als er im Dress der Preußen aufs Eis lief – später als Schiedsrichter. Den Ruf eines „Saubermannes“ hatte er als Spieler damals nicht. Ganz im Gegenteil: Die Strafbank kannte er zur Genüge. Eine Tatsache, die ihm als Schiedsrichter zugutekommen sollte. „Er kennt alle Tricks und alle Schimpfworte – schließlich war er auch mal ein „böser Bube“: hitzköpfig, aggressiv, immer bei der Sache“, schrieb seinerzeit eine Zeitung.
Noch während seiner aktiven Spielerzeit schlug Kompalla eine zweite EishockeyLaufbahn ein: 1969 absolvierte er einen Schiedsrichterlehrgang und wechselte kurz darauf ins schwarz-weiße Schiri-Dress. Am Beginn seiner Zeit als Schiedsrichter bestritt er die „Summit Series“. Damit wurde er 1972 einem internationalen Publikum bekannt. „Die Spiele waren der absolute Höhepunkt meiner Karriere“, sagte Kompalla noch im Frühjahr 2026. Bei den legendären Spielen trafen die Teams aus Kanada und der UdSSR aufeinander, die oft von übertriebener Härte geprägt waren. Es gab vier Spiele in Nordamerika, vier in Moskau. Das sechste und achte Aufeinandertreffen pfiff Kompalla in der sowjetischen Hauptstadt. „Jupp“ war aber bei allen Spielen schon als Beobachter dabei. Zudem hat der Krefelder noch zwei Freundschaftsspiele der beiden Mannschaften im schwedischen Stockholm geleitet. Anlässlich eines 90. Geburtstags im März 2026 wurde ihm in einer Feierstunde das Buch „Ein Leben für Eishockey. Der Schiedsrichter Josef Kompalla aus Krefeld – Erinnerungen an die 1972er Summit Series Kanada und Sowjetunion“ überreicht. – Kompalla beendete 1992 seine Karriere. 2010 stand er nochmals in ganz großem Rahmen auf dem Eis als Schiedsrichter eines Seniorenspiels zwischen Deutschland und Russland vor 78.000 Fans in der Schalke-Arena. Ein sportlicher Abschied, den sich die Legende Jupp Kompalla wahrlich verdient hatte.
Kompalla hat bereits 2022 der Stadt Krefeld seine Sammlung zur Geschichte des Eishockeys geschenkt. Damit wollte der gebürtige Oberschlesier auch seine Verbundenheit zum Ausdruck bringen. „Seit 60 Jahren wohne ich gerne in dieser Stadt, habe für die Stadt gearbeitet, habe hier viele Bekanntschaften. Ich will den Krefeldern etwas zurückgeben,“ sagte Kompalla bei der Vertragsunterzeichnung. Oberbürgermeister Frank Meyer hatte zuvor mit ihm im Austausch gestanden und für die dauernde Aufbewahrung des Materials in Krefeld geworben. Im Verlaufe seiner Karriere hat Kompalla zahlreiche Devotionalien gesammelt und aufbewahrt. Unter anderem gehört zu seiner Sammlung ein Eishockeyschläger der kanadischen Eishockeylegende Wayne Gretzky. Ferner zählen auch Trikots und Plakate von Eishockey-Großereignissen. Das Stadtarchiv Krefeld und das Museum Burg Linn kümmern sich gemeinsam um den Bestand.