民國三十四年台灣光復，百廢待舉，水利建設為一切建設之基礎，當局優先考慮修復水利工程，恢復灌溉功能，藉以保障民生，安定社會，本署因勢所導，得以應時而生，由日據時代之總督府農商局下所設耕地課，於民國三十六年一月擴編為農田水利局，仍隸屬農林處。迨同年四月行政長官公署改制，成立臺灣省政府，乃將工礦處主管台灣地區防洪工程之公共工程局水利組與農田水利局於七月一日合併成立臺灣省建設廳 水利局，掌理台灣地區水政、防洪、灌溉、排水及水利勘測等業務，使水利行政一元化。
民國四十五年九月一日奉命將名稱由「臺灣省政府建設廳水利 局」改稱為「臺灣省水利局」，仍隸屬建設廳，為省屬三級機構。民國五十八年八月五日奉令將建設廳所屬地下水工程處歸併本署。六十五年七月一日省土地資源開發委員會裁撤業務劃歸本署。八十六年五月，建設廳第六科和原有的水利局合併成立「臺灣省政府水利處」。屬省府一級機構，主管台灣地區水利工程及水利行政業務。
民國八十八年七月一日配合政府再造，本署改隸經濟部，名稱為「經濟部水利處」。
九十年十月廿六日配合「台灣省政府功能業務與組織調整」，進行修編，並為促使水利機關事權統一及提昇效率，經濟部爰規劃將現行分立之水資源局、水利處、臺北水源特定區管理委員會等水利機關予以整併，於九十一年三月二十八日成立水利署。