La computación en la nube es posible gracias a los centros de datos. Un centro de datos es una instalación utilizada para alojar sistemas de computación y componentes relacionados, entre los que se incluyen los siguientes:

Un centro de datos puede ocupar una habitación en un edificio, un piso o más, o un edificio entero. Los centros de datos modernos utilizan la computación en la nube y la virtualización para administrar de forma eficaz las transacciones de grandes cantidades de datos. La virtualización es la creación de una versión virtual de un elemento, como una plataforma de hardware, un sistema operativo (OS, operating system), un dispositivo de almacenamiento o recursos de red. Mientras que una PC física es un dispositivo independiente y real, una máquina virtual consiste en un conjunto de archivos y programas que se ejecutan en un sistema físico real. A diferencia de la multitarea, que incluye la ejecución de varios programas en el mismo SO, en la virtualización se ejecutan varios SO en forma paralela en una misma CPU. Esto reduce drásticamente los costos administrativos e indirectos.

Por lo general, la creación y el mantenimiento de centros de datos son muy costosos. Por esta razón, solo las grandes organizaciones utilizan centros de datos privados creados para alojar sus datos y proporcionar servicios a los usuarios. Por ejemplo, es posible que un hospital grande posea un centro de datos separado donde se guardan las historias clínicas de los pacientes en formato electrónico. Las organizaciones más pequeñas, que no pueden costear el mantenimiento de un centro propio de datos privado, pueden reducir el costo total de propiedad mediante el alquiler de servicios de servidor y almacenamiento a una organización en la nube con un centro de datos más grande.

En la ilustración, se muestra un video sobre el creciente uso de la computación en la nube y de servicios de centros de datos.