En théorie, un serveur c'est un gros PC avec plusieurs procs, de la RAM en veux tu en voilà, des disques en doubles ou triples (vive le RAID).
ça fonctionne comme un PC normal: un OS tourne, les disques sont partagés pour que tout le monde puisse y avoir accès et quand on lui demande qqchose, il te le file.
un exemple:
http://www.pc.ibm.com/fr/xseries/universal.html#