1895年清國在一場實力懸殊的日清戰爭中慘敗，逼使李鴻章簽署馬關條約將台灣割讓給日本。 1896年，這是關鍵的一年。
日本的皇親國戚近衛師團中將師團長北白川宮能久親王依照條約率兵渡台接管。時任台灣巡撫唐景崧、黑旗軍首領劉永福不從，乃起兵抗日，惟不敵日本的現代化精銳部隊而告潰敗，乃棄守台灣率領殘兵敗將潛逃內地。
台灣島頓時群龍無首，各地民情失序，在此關鍵時刻有民間人士辜顯榮、蘇格蘭籍牧師巴克禮出面斡旋，讓日軍不流血進城，而穩定了台灣的社會秩序。
日本統治台灣之後，發現台灣仍然停滯在舊時代的社會，缺乏現代文明的觀念和設施。而且台灣濕熱的天氣使得瘧疾、鼠疫等各種傳染病肆虐，因此日軍染病死亡的人數竟是陣亡人數的30倍。甚至第三任總督乃木希典覺得台灣島民個性頑強，不易治理，因此向國會提議以一億日圓賣給覬覦台灣已久的法國。當時的陸軍大將兒玉源太郎則持反對意見，認為台灣是日本南部的屏障，具有重要的軍事價值，因此堅持要留住台灣，並且願意接任總督，擔當建設台灣的重責大任。最終他說服了國會，開啟統治台灣50年歷史的序幕。 兒玉源太郎總督首先聘請留德的醫學博士，也是人類學家的後藤新平擔任總督府民政長官，展開一系列的改革。他首先深入地研究台灣人的生活習慣、風俗，並學習台灣語言等。然後展開規劃台灣的現代化建設，諸如修建下水道、改善飲用水衛生，然後撲滅鼠疫、瘟疫等傳染病，逐漸提升台灣人的生活品質。另一方面他透過警察制度、連坐法等措施，嚴格管理社會治安，並加強控制反抗民眾，此舉使得甚多抗日人士因此入獄。
為了讓民間適應現代化的文明社會，他首先從教育著手，於是在日本領台當年之1896年即成立總督府國語學校，勸導各地世家子弟入學接受新式教育，以此培養出來的第一批學生後來都成為優秀的社會領袖。由於台、日學童的語言程度不一，因此後來成立的新制小學就分成台灣人就讀的公學校，及日本人就讀的小學校。此後又成立了中等學校，包括台北一中、台南一中等，台中一中則是台人就讀的中學。
日本領台初期，由於台灣尚無公共衛生的觀念，甚至沒有「衛生」的名詞，因此為了建立醫療衛生的制度，1899年即成立總督府台北醫學校以培養醫療人才。台灣總督府為了更廣泛的發展教育及研究計畫，因此於1909年又成立「中央研究所」，設有農業、林業、工業、衛生、庶務等部門。
1912年台灣總督府為培養專門技藝人才，設立工業講習所，即為臺北州立臺北工業學校的前身。戰後先後改制為台北工業學校、台北工專，現為國立臺北科技大學。
1917年設立總督府立商業學校，1921年改名為台北商業學校，戰後先後改制為台北商職、台北商專，現為台北商業大學。當年日本政府係以「日本工業、台灣農業」做為初期的施政藍本。因此於1919年成立嘉義農林學校，此後又陸續在台灣各地成立了農林學校，並且設立農業試驗所做為進行農業改良的機構。其中台北農林學校即為現在之台灣大學農學院，由於其校地寬廣，因此後來即成為台北帝國大學（縣國立台灣大學）校本部的用地。
在公共設施方面，加速完成縱貫公路全線通車；鐵路運輸方面，則因為劉銘傳所興建的鐵路，規劃未臻完善，難以營運，因此全面拆除重新改建，很快的完成基隆至高雄間的鐵路運輸系統。另外由於基隆、高雄兩商港的建設，加上台灣各地民間糖廠的成立，更快速的促進了台灣的經濟發展，也奠定了台灣現代化的基礎。此後「日本工業、台灣農業」的口號，逐漸轉換為「日本重工業、台灣輕工業」。
這就是1896年之後二十年間的改變。