Dirigovať začal v roku 1936 v rodnom Leopoldove, kde ako 14-ročný dirigoval pieseň Zasadil som čerešienku v humne počas slávnosti sadenia lipiek. Dirigovaniu sa potom venoval celých 76 rokov. Tým prekonal rekord Španiela Juana Garcés Queralta, ktorý oddirigoval 71 rokov.
"Skúsený dirigent možno už nerobí také dôsledne formuly a vzorce, nekreslí trojuholníky, no rukami hýbe viac precítene, aby sprostredkoval myšlienky autora skladby,“ povedal Karmažin pre Pravdu pred niekoľkými rokmi. Tvrdil, že štýl dirigovania sa za takmer osem desaťročí jeho pôsobenia zmenil len minimálne, zato repertoár speváckych zborov sa menil podľa doby a režimu. K ľudovým a vlasteneckým piesňam postupne pribudli socialistické. "Po roku 1989 sme častejšie spievali chrámové piesne. V latinčine, nemčine, maďarčine, ale aj v angličtine. Vystupovali sme aj na audiencii u pápeža Jána Pavla II. vo Vatikáne s piesňou Exaltabo Te Deus Meus, za čo sme dostali ďakovný list. Nuž a v dnešnej dobe sa zas čoraz viac spieva gospel, černošské spirituály a moderné piesne,“ spomínal v roku 2013 pre Pravdu Karmažin, ktorý aj vo vysokom veku pripravoval matrice s notami pre spevákov na počítači a aktívne využíval aj internet. Hoci, keď sa povie dirigent, ľudia si predstavia pána vo fraku a s paličkou, Karmažin väčšinou dirigoval prstami.
Popri dirigovaní speváckeho zboru Zvon v Seredi pôsobil ako pedagóg na viacerých školách a venoval sa aj ďalším umeleckým telesám. So zborom reprezentoval slovenské umenie v mnohých krajinách Európy, posledný koncert kariéry dirigoval deň pred svojimi 90. narodeninami 22. septembra 2012 na domácej pôde v Seredi. Posledná rozlúčka s Viliamom Karmažinom bude v piatok, pochovaný bude v Seredi.
