일본의 민간 정치인들은 식민지에서 행정, 입법, 사법권을 모두 가진 채 절대권력을 휘두르는 천황 직속의 총독부와 총독을 좋게 보지 않았다. 이로 인해 1920년에는 총독의 권한이였던 대만군 지휘권이 대만군 사령관에 이양된 이후, 문관을 총독으로 임명할 수 있게 되었다. 이에 따라 조선총독부와 달리 실제로 문관 총독이 임명되었다. 그래서 전쟁의 기운이 퍼져가던 1930년대 이전까진 이런 문관 총독들이 주로 대만 섬을 통치했다. 

^{옛 일본, 대만 지도, 출처 : 대만 타이중에서 필자의 직접 촬영}

또한 이 때 집권한 하라 다카시 내각은 내지연장주의(內地延長主義)를 주창하여 일본 법률이 대만에도 적용되도록 함으로써 대만 총독의 법령 제정 권한을 크게 제한했다. 한편으로 우드로 윌슨의 민족자결주의가 일으킨 피지배민족의 민족운동을 계기로 대만총독부는 내대융합 내선일체, 일시동인(一視同仁) 등의 구호를 내세워 그 전까지 대만인에게 적용된 차별적인 정책들을 철폐하고, 대만인과 일본인을 동등하게 대우한다고 선전하며 그 전까지 일본인만 다닐 수 있던 학교에 대만인의 입학을 허락하고 대북제국대학을 세우는 등의 조치가 이루어졌다. 

물론 조선이 그랬듯 그것이 사회 전반의 차별을 없앤 것은 아니었다. 한편 일제 체제에서 근대적 교육을 받은 대만인들이 본격적으로 활동하면서 이 시기 대만에서는 여러 사회 운동이 활발해진다. 이러한 사회 운동은 대부분 대만인들에게 교육을 보급하는 것이거나 실력 양성 운동 그들의 권리 증진을 위한 것이었다. 예를 들면 1921년부터 전개된 대만의회설립운동(臺灣議會設置運動) 등이 있다. 1936년부터는 대만총독부에 군인 출신 총독이 다시 임명되기 시작했다. 

일본의 무분별한 전선확대로 인해 이뤄진 조치였다. 고바야시 세이조, 하세가와 기요시, 안도 리키치(安藤利吉) 모두 무관 출신이였다. 또 이즈음부터 황민화 정책이 시작되어 국어운동을 통해 철저하게 일본어를 사용하게 하였으며, 이 과정에서 대만어, 대만 원주민 언어, 객가어 사용을 탄압하고 금지하기도 하였다. 또한 대만의 종교와 풍속을 일본식으로 바꾸는 작업도 진행되었다. 특히 이 시기 중일전쟁과 태평양 전쟁이 발발하였는데, 이전까지만 해도 대만의 한족들을 병사로 뽑는데 반대하는 의견이 많았던 일본 제국은 병력 부족을 느끼게 되자 대만에서도 징병을 하였다. 

군속을 포함한 약 21만 명의 대만인들이 동남아 전선으로 차출되었으며, 그 중 3만명이 전사하였다. 그러나 결국 일본 제국은 점점 연합군에 밀리기 시작했고, 타이베이, 가오슝 등이 미군의 폭격을 당했다. 1945년 8월 15일에 히로히토의 항복선언(포츠담 선언 수락)으로 일본이 전쟁에서 패배함에 따라 식민지배도 종료되었다. 9월 2일에는 일본 정부가 연합국에 대한 항복 문서에 서명하였고 GHQ의 명령에 따라 대만 섬에 주둔한 일본군을 지휘하는 대만 총독 안도 리키치는 중화민국에 항복하였다. 

10월 15일부터 국민혁명군이 대만 섬에 진주하기 시작했고 10월 25일에 안도 리키치가 중화민국의 대만 행정장관 천이에게 항복문서를 전달하여 일제의 대만 통치는 공식적으로 종료되었다.