在前一輪以3比0橫掃埃及順利過關後，台灣桌球男團6日晚間8強戰碰上強敵日本，爭奪晉級4強門票。台灣的排點與前一戰對上埃及時完全相同，雙打由莊智淵、高承睿師徒搭檔出馬，後續單打再由林昀儒、高承睿等人接連上陣。雖然林昀儒力壓張本智和為台灣取下寶貴1點，但其他3點全由日本以直落三順利收下，最終台灣男團1比3敗陣，無緣挺進4強改寫奧運最佳戰績。
台灣桌球男團本次由43歲「桌球教父」莊智淵率領林昀儒、高承睿出戰巴黎奧運，首輪16強戰以3比0橫掃埃及後挺進8強。6日再度登場，交手名列第4種子的強敵日本爭奪4強門票。
台灣排點與前一場對上埃及相同，第1點雙打繼續由莊智淵、高承睿師徒搭配出擊，迎戰日本派出的篠塚大登和戶上隼輔組合。台灣搭檔受制於日本隊戰術封鎖下一路苦戰，最後0比3遭到橫掃，也讓日本率先取得第1點勝利。
第2點台灣由單打排名最高的林昀儒領銜登場，強碰日本一哥「怪童」張本智和，兩人過去對戰僅拿1勝的林昀儒雖然以2比1的局數搶先聽牌，但張本第4局頻頻搶攻得手，一路拉開比分以11比3扳平戰局。
決勝第5局林昀儒在6比6平手後靠著多次正手攻擊得手，打出5比0攻勢一鼓作氣收下最終勝利，也為台灣將點數追平為1比1平手。
第3點單打由高承睿出戰戶上隼輔，年僅19歲的小將高承睿在回擊失誤較多的情況下，5比11、7比11、5比11連丟3局，也讓日本搶下第3點勝利聽牌。
第4點台灣推出「桌球教父」莊智淵力抗再度登場的張本智和，已經43歲的莊智淵在可能是生涯最後一場奧運出賽，雖然試圖以經驗力拼延長戰線，讓林昀儒有機會在決勝點再度登場，但最終仍以7比11、8比11、9比11敗陣，讓日本男團以總點數3比1取得4強門票。
台灣男團雖然惜敗日本、無緣挺進4強，但8強成績已追平上屆東京奧運，是桌球團體賽項目改制為淘汰賽後的最佳表現。
