தேவாரப்பாடல் பெற்ற காவிரி வடகரைத் தலங்களுள் ஒன்றாக விளங்குவது திருக்கழிப்பாலை.

ஆதியில் காமதேனுவே தன் இனத்தோடு இங்கு பசுக்களாக வந்து தானாகப் பால் சொரிய, இத்தலத்திலுள்ள மண் வெண்மையாகக் காட்சி தந்தது. இப்பகுதிக்கு வந்த கபில முனிவர் வெண்ணிற மணலைக் கொண்டு சிவலிங்கம் உருவாக்கி பூஜை செய்து வந்தார் ஒரு நாள் அவ்வழியாக வந்த மன்னன் ஒருவனது குதிரையின் குளம்பு அந்த வெண்ணிற லிங்கத்தில் பட்டு பின்னமானது. வருத்தமடைந்த கபில முனிவர் வேறு ஒரு லிங்கம் செய்ய முற்பட்டபோது இறைவன் பார்வதி தேவி சமேதராக அவருக்கு காட்சி தந்து என்னை பிளவுபட்ட கோலத்திலேயே வழிபடுங்கள் என அறிவுறுத்தினாராம். அப்படியே சிவ ஆராதனைகளைச் செய்தார் கபில முனிவர். பின்னர் அந்த இடத்திலேயே ஈசனுக்கு ஒரு ஆலயம் கட்டப்பட்டது  

ஒரு சமயம் இந்த சிவாலயம் கொள்ளிடம் ஆற்றின் வெள்ளப்பெருக்கால் சிதிலமடைய, அங்கிருந்த இறைவன் இறைவியை எடுத்து வந்து அருகில் உள்ள சிவபுரி என்னும் திருநெல்வாயில் என்றும் அழைக்கப்படும் தலத்தில் புதிதாக நிர்மாணிக்கப்பட்ட கோயிலில் பிரதிஷ்டை செய்துள்ளனர். மேலும் அங்குள்ள நந்தியை எடுத்து வந்து கோயிலுக்கு சற்று முன்பாக வைத்துள்ளனர். 

மூன்று நிலை ராஜகோபுரம் கொண்டது சிவபுரி ஆலயம். வாயிலின் இருபுறங்களிலும் அதிகார நந்தி துணைவியருடன் தரிசனம் தருகிறார். பிரகாரத்தில் சூரியன், விநாயகர், மகா விஷ்ணு, சுப்பிரமணியர், மகாலட்சுமி, நவக்கிரகம், பைரவர், சந்திரன் சன்னதிகள் உள்ளன. துவார விநாயகரையும் தண்டபாணியையும் தொழுது உட்சென்றால் மூலவர் பால்வண்ணநாதர் தரிசனம் கிட்டுகிறது. இறைவனின் லிங்கத்திருமேனி வெண்ணிறத்தில் குதிரையின் கால் குளம்பு வடிவில் காணப்படுவது அதிசயம். இந்த லிங்கத்திற்குச் செய்யப்படும் அபிஷேக பாலை அருந்தினால் உஷ்ணம் தொடர்பான நோய்கள் உள்பட சகல வியாதிகளும் குணமாகும், குழந்தைப்பேறு கிட்டும் என்பது பக்தர்களின் நம்பிக்கை.  

மூலவருக்கு பால் அபிஷேகம் மட்டும்தான். மற்ற அபிஷேகங்கள் அனைத்தும் ஆவுடையாருக்குத்தான் நடைபெறுகிறது. லிங்கத்திற்கு பின்னால் சிவனும் பார்வதியும் திருமணக்கோலத்தில் எழுந்தருளியுள்ளனர். அகத்தியர் மற்றும் வன்மீக முனிவர் இத்தல இறைவனை வழிபட்டுள்ளனர். 

இங்குள்ள காலபைரவர் மிகவும் ஆற்றல் வாய்ந்தவர். காசியில் உள்ள கால பைரவர் சிலையை செதுக்கிய சிற்பி தான் இந்தச் சிலையையும் செதுக்கியதாக தலபுராணத்தில் கூறப்பட்டுள்ளது. இக்கோயிலில் தேய்பிறை அஷ்டமியன்று திருமணத்தடை உள்ள பெண்கள், ஆண்கள் பூசணிக்காயில் நெய் தீபம் ஏற்றியும், வியாபாரிகள் தங்கள் வியாபாரம் பெருக, கடன் தொல்லை நீங்க அரளிப் பூமாலை அணிவித்து பைரவரை வழிபடுகிறார்கள். இங்குள்ள பைரவரின் சூலாயுதத்தில் சிவப்பு கயிறை வைத்து பூஜித்து கையில் கட்டிக் கொள்கிறார்கள். ஞாயிற்றுக்கிழமை ராகு காலத்திலும் இங்கு சிறப்பு வழிபாடுகள் செய்யப்படுகிறது. இத்தலத்தின் மூலவர் பால்வண்ணநாதர் என்றாலும் பைரவரின் சிறப்பு காரணமாக பைரவர் கோவில் என்று இப்பகுதி மக்கள் இவ்வாலயத்தை அழைக்கின்றனர்.