慶榮兄於2004年11月18日過世。他去世後隔年12月12至14日，中央研究院統計科學研究所，舉辦一紀念他的研討會。其後研討會的論文集“Time Series and Related Topics: In Memory of Ching-Zong Wei”，2006年由數理統計學會(Institute of Mathematical Statistics，簡稱IMS)出版。2007年，國立高雄大學統計學研究所成立魏慶榮紀念圖書館，收有慶榮兄畢生的藏書。與慶榮兄關係深厚的周元燊(1924-)院士獲知後，慨然將他典藏數十年，很多極珍貴的書籍(包含從1940年開始發行的Mathematical Reviews第一卷)亦贈與此館，使此圖書館的重要性提昇不少。周院士那些書，乃他自美國哥倫比亞大學(Columbia Univrsity)統計系退休後，回台灣淡水定居，才運回來的，頗具價值。又為發揚慶榮兄樂於提攜後進之精神，在慶榮兄幾位學生與友人的奔走下，2008年，魏慶榮統計論文獎成立。論文獎舉辦七年以來，已備受國內統計學術界重視。此外，頗具規模的南區統計研討會，也將在今年6月於東華大學舉行的會議中，紀念慶榮兄逝世十周年。一個過世已將近10年的統計學者，為何如此讓人懷念呢？

慶榮兄於1949年生於屏東。屏東中學畢業後，進入清華大學數學系(1967-1971)，然後繼續唸研究所，1973年獲得碩士學位。於服完兵役後，1975年他到台大數學系擔任助教。應是才華橫溢，與他接觸過的人，都對他印象深刻。台大數學系的師長中，不乏各路豪傑，看出慶榮兄的不凡，對他器重的也不少。像是1970年在美國曾參與保釣運動，之後來台任教，掀起現代詩的論辯，並引發張愛玲研究的熱潮，1984年還出版“中國古代戲劇史初稿”的唐文標(1936-1985)，及剛從美國西北大學(Northwestern University)拿到博士學位，一生對教育充滿熱情的邱守榕(兩人於1980年締結連理)，兩位皆與慶榮兄相知有素，亦師亦友。那時也在台大數學系任教，與邱教授大學同班的黃武雄(1943-)，二十餘年後，於2010年1月8日在“憂國憂民一俠者：唐文標先生座談會”裡擔任與談人，其後他將發言寫成“重讀唐文標”一文。文中便提到：

唐很喜歡下棋，棋力也不差，他有一個對手叫魏慶榮，也是數學系的同事。魏慶榮幾年前已不幸過世了。他們兩人常常在我家席地下棋。每次下棋都吵吵鬧鬧，可是笑聲不斷，突然你會聽到魏慶榮抗議說：“嘿！怎麼這裡會冒出一個黑子？”原來唐文標惡作劇，不知道甚麼時候偷偷在棋盤的一角放了一個黑子。“本來那個黑子就在那裡啊！”唐大聲嚷著說。“你作弊，你作弊！”魏慶榮氣呼呼的叫。於是兩人吵成一團，…

寫得活靈活現，除透露出慶榮兄個性的開朗與率直外，亦可看出當時擔任助教的他，已為系上眾教授所看重，視為同儕。除了圍棋，慶榮兄自幼起，便是位象棋高手。

鄉下長大，一向關懷社會的慶榮兄，雖大學及研究所先後期的同學紛紛出國，服務的台大數學系，畢業生出國唸書的，當然也如過江之鯽，但他不為所動，毫無出國打算。那時適逢台大數學系博士班即將於1976年8月成立，他覺得要成為一個頂尖數學家，與出不出國，並沒什麼太大的關連。想要學位，唸台大博士班就好。況且留在台灣，還能為社會做很多事。惜才的唐教授，並未想將慶榮兄一直留在身邊當棋伴，他苦勸慶榮兄出國。後來周院士回台灣訪尋良材美質的學生時，亦極力遊說慶榮兄出國。

慶榮兄的夫人吳美蓉博士，也出席前述紀念唐文標教授的座談會。會中她說：

唐教授逼著他，幫他寫自傳、幫他寫申請書，他跟我先生講“每個人要做好他的角色”。我先生雖然很想從事社會運動，但他覺得我先生更適合做數學家。他幫我先生寫的自傳第一句話就是“I was born as a mathematician”。

在幾位老師的鼓勵及協助下，一年助教生涯結束後，1976年8月，慶榮兄飄洋過海，到了位於紐約市的哥倫比亞大學統計系。其後師承周院士的女婿，那時亦在哥倫比亞大學統計系任教的黎子良(Tze-Leung Lai，1945-，1994年當選中央研究院院士)教授。

熱愛台灣的慶榮兄，從出國前便打定主意，一旦完成博士學位後，便束裝返國貢獻所學，花花世界的紐約，也未使他改變心意。但高瞻遠矚的周院士告訴他，台灣所缺的是學術領導者，而非剛拿到博士學位的研究人員。他認為慶榮兄該等升教授後再回台灣，如此貢獻將更大。於是1980年慶榮兄畢業後，隨即到夙負盛名的馬里蘭大學(University of Maryland，College Park)數學系擔任助理教授，繼續磨劍。