Mögliche Wärmequelle für Wasser/Wasser-Wärmepumpen sind das Grundwasser und stehende oder fließende Oberflächengewässer. Wasser-Wärmepumpen nutzen die Wassertemperatur, um Wärme in die Heizkörper zu transportieren. Da diese oft höher ist als die der Erde oder Luft, arbeiten sie besonders effizient. Ein weiterer Vorteil speziell beim Grundwasser: Die Temperaturen bleiben konstant auf einem hohen Niveau.
Für eine Wasser/Wasser-Wärmepumpe müssen zwei Brunnen gebohrt werden: ein Saugbrunnen, um das Wasser nach oben zu pumpen, und ein Versickerungsbrunnen, um es zurückzuführen. Für diese Arbeiten ist eine behördliche Genehmigung nötig. Der Aufwand, die Wärmequelle zu erschließen, ist ähnlich wie bei der Sole/Wasser-Wärmepumpe relativ hoch.