1941年12月26日、陸軍のフィリピン攻略部隊主力が上陸。これをもって連合艦隊は同島攻略に従事した部隊の一部で蘭印部隊を編成。残された第3艦隊の一部を基幹として1942年1日、第3南遣艦隊が編成された。司令長官は海軍中将杉山六蔵。主な任務は、フィリピン島方面海域の作戦および海上交通線の確保、陸軍と協同しての同島残存勢力の掃討および警備。編成時の主たる水上戦力は軽巡洋艦球磨、敷設艦八重山。1943年4月1日、海軍は戦時編成を実施。この時点で球磨は隷下を離れている。なお、同艦は1944年1月11日、ペナン沖で英海軍潜水艦の雷撃により沈没。1943年4月15日、第3南遣艦隊は再編、任務は継続とされた。その後も戦力を漸減し、1944年1月時点では第32特別根拠地隊を主力とする小規模な部隊となり、1943年末ごろから急増した連合国軍潜水艦による海上輸送の被害を食い止めることができなかった。1944年夏以降、フィリピン地上戦により孤立。終戦時まで南西方面艦隊とともに同地にて司令部を維持した。終戦時の司令長官は海軍中将大川内伝七。大川内は南西方面艦隊司令長官と第3南遣艦隊司令長官を兼任していたため、第3南遣艦隊司令部は南西方面艦隊司令部とともに終戦を迎えた。トッカンからチノックへ向けて移動中のこと。生存した司令部防衛隊約1500名はチノック、トッカンに収用。9月2日13時、パラオ地区最高指揮官陸軍中将井上貞衛が米国巡洋艦エミック艦上で米国現地軍最高指揮官海兵少将F・O・ロジャースと停戦降伏文書を調印。14日から逐次武器弾薬の引渡、地雷除去等の危険物処理、港湾施設の補修および食糧増産等を実施。17日、戦闘序列解除。21日から復員開始。一部は12月中旬から1946年2月下旬までコロール、アラカベサン、マラカル、ヤップ島の崩壊物清掃に従事。2月26日、最終部隊がパラオ出港、3月4日浦賀に上陸。復員完了。大川内は1947年1月復員。

昭和（終戦期） ＞ 終戦時の部隊配置（本州・九州・四国除く） ＞ 中部太平洋諸島 ＞ 海軍 ＞ 連合艦隊 ＞ 南西方面艦隊司令部 ＞ 第３南遣艦隊

『戦史叢書　南西方面海軍作戦　第二段作戦』49～50、195～197、326～327、342～343、445～467、550～551、695頁。 『戦史叢書　中部太平洋陸軍作戦<2>』235～236頁。 福川秀樹『日本陸海軍人名事典』芙蓉書房出版、1999年12月、95、175頁。