南水北调工程从五十年代提出设想后，经过几十年研究，总体布局分别从长江上、中、下游调水，以适应西北、华北各地的发展需要，即南水北调西线工程、南水北调中线工程和南水北调东线工程。中国大陆地势形成三个阶梯。西线工程在最高一级的青藏高原上，地形上可以控制整个西北和华北，因长江上游水量有限，只能为黄河上中游的西北地区和华北部分地区补水。中线工程从第三阶梯西侧通过，从长江中游及其支流汉江引水，可自流供水给黄淮海平原大部分地区。东线工程位于第三阶梯东部，因地势低需抽水北送。

我国长期干旱的北方，耕地占全国60％以上、人口占45％以上，但人均水资源占有量只有全国的四分之一，世界的十六分之一。水资源严重不足成为制约地区经济社会发展的重要因素。尤其是近几年来北方连年干旱，不仅影响到工农业生产，而且直接影响到城乡居民的日常生活。而长江流域由于降雨量大，水资源丰富，数千年来为洪涝灾害所苦。这种南涝北旱的地理特征，成为南水北调的物质基础。南水北调，就是要利用南方水资源相对丰富的优势，弥补北方水资源之不足，遏制并逐步改善当地日益恶化的生态环境，使地区间经济社会和生态得以协调发展。

1952年，毛泽东在视察黄河时提出“南方水多，北方水少，如有可能，借点水来也是可以的”的宏伟设想。1972年，中国在汉江兴建丹江口水库，为南水北调中线工程的水源开发打下基础。1992年，江泽民提出要抓紧南水北调等跨世纪特大工程的兴建，南水北调的实施被提上国家议事日程。经反复论证确定，2002年至2010年为实施南水北调工程近期阶段，总调水规模约200亿立方米；2011年至2030年为中期阶段，调水规模累计达到368亿立方米左右；2031年至2050年为远期阶段，年总调水规模累计达到448亿立方米左右。2002年12月27日上午，南水北调工程开工典礼在北京人民大会堂和江苏、山东施工现场同时举行，标志着南水北调工程进入实施阶段。