IDC“互联网数据中心”的发展起源分为3个阶段：
第一阶段：军用大型计算机房
数据中心起源于1940年代巨大的计算机房，以ENIAC为代表的最早的一批数据中心。
ENIAC是第一台电子计算机，具备完整的图灵设计架构，能够通过编程来解决数字问题，主要用于计算导弹射击的弹道研究实验室，第一个项目是研究热核武器。1945年在宾夕法尼亚大学投入使用，售价50万美元，约合今天的630万美元，从1947年打开运行到1955年10月2号晚上11点45分。
早期的计算机系统，操作和维护复杂，需要特殊的操作环境。连接所有组件都需要许多电缆，同时设计了容纳和组织这些电缆的方法，例如用于安装设备的标准机架，高架地板和电缆桥架（安装在天花板上或高架地板下）。
加上单个大型机需要大量功率，并且必须进行制冷降温以避免过热。安全变得很重要另外加上计算机非常昂贵，且用于军事目的，因此，设计了用于统一计算机房的基本设计标准。
第二阶段：微型计算机时期
在微型计算机行业的蓬勃发展期间，尤其是在1980年代，起初用户开始在各地部署微型计算机，并且在大部分情况下用户其实根本不关心操作上的要求。然而，随着信息技术操作运维开始变得越来越复杂，组织机构逐渐意识到控制IT资源的必要性。
1970年代初期Unix系统的出现，直接导致了1990年代的Linux操作系统电脑数量上的猛增，同时加上Unix的分时操作系统非常严重依赖于设备的CS架构（也就是一台主机服务器多个客户端的软件架构）方便了在多个用户之间共享唯一资源。外加廉价网络设备的可用性，以及网络结构化布线的新标准等种种因素的发展成熟成功催生了服务器放置在公司内部特定房间中的这种分层式使用模式的诞生。
至此“数据中心”这个词就被应用于专门设计的计算机房，并此刻开始获得IT业内的广泛认可。
第三阶段：互联网时代
第三轮数据中心的兴起发生在1997-2000年的互联网泡沫时期。公司需要快速的因特网的连接和不间断的操作展示系统的服务器设备。然而对于许多大部分小型公司而言，安装此类设备的方案是并不可行。
所以直接导致了许多大型互联网公司巨头开始建造称为网络数据中心的超大型设施建筑，这些设施可提供更多专属数据中心的增值服务，例如交叉备份等。