Het principe van de werking van een koeltoren is zeer eenvoudig.
Het te koelen water uit het proces heeft doorgaans een temperatuur van tussen de 40 en de 60 °C. Het wordt tot bovenaan de structuur van de koeltoren gepompt en loopt dan inwendig via talrijke plastic of houten schotten naar beneden. Die zorgen ervoor dat de waterstroom 'verdruppelt'.
Tijdens het neerkomen, koelt het water onder invloed van een opwaartse luchtstroom af en valt in een bekken onderaan de toren. Van daar gaat het weer naar het productieproces om opnieuw als koelvloeistof dienst te doen. In de koeltoren is het zo'n 10 tot 20 °C afgekoeld.
In sommige koeltorens zijn bovenaan één of meerdere grote schroeven naast elkaar opgesteld, vergelijkbaar met de wieken van een ventilator. Die schroef of schroeven zuigen lucht doorheen de koeltoren naar boven. Die lucht onttrekt warme aan het vallende koelwater. Dat gebeurt deels door het temperatuurverschil, deels door het verdampen van een deel van het koelwater. Die omzetting van water in waterdamp neemt veel warmte weg.
Zeer grote koeltorens, zoals die aan elektriciteitscentrales, zijn zo hoog dat het 'schouweffect' voldoende trekkracht ontwikkelt zodat er geen zuigende schroeven nodig zijn.
