כבר בתקופות קדומות מאוד היה בית הכנסת מקום תפילה. כמעט כל חפירה ארכיאולוגית של יישוב יהודי מגלה את בית הכנסת שעמד במרכז היישוב. חשיבותו של בית הכנסת כמקום תפילה עלתה לאחר חורבן בית המקדש ואחרי שקבעו סדר תפילה קבוע.
בית הכנסת ממלא את מקומו של בית המקדש. קוראים לבית הכנסת "מקדש מעט". התפילות הן במקום עבודת הקודש של הכוהנים, ובית הכנסת הוא מקום העבודה. במקומות רבים ממלא בית הכנסת גם את תפקיד המרכז הרוחני של הקהילה. שם לומדים, שם מתפללים, ושם מתאספים בעת הצורך.
התפילה בבית הכנסת היא תפילה בציבור. "ציבור" פירושו 10 אנשים או יותר המתפללים יחד. במקום התפילה של האדם הבודד בביתו באה תפילה של 10 אנשים ויותר בבית הכנסת.
מה חשיבותה של התפילה בציבור? חכמי התלמוד כותבים, כי תפילה בציבור טובה יותר מתפילת היחיד. רבי יהודה הלוי, הפילוסוף היהודי שחי בספרד במאה ה-11, מסביר זאת כך: האדם היחיד המתפלל מבקש דברים שהם טובים בשבילו. אך לפעמים מה שטוב לאחד רע לשני. לעומת זאת, כאשר רבים מתפללים יחד, הם מבקשים תמיד מה שטוב לכולם. לכן תפילת הרבים היא תפילה מדויקת יותר ומתאימה יותר. רבי יהודה הלוי גם משווה את תפילת הרבים למלחמה של רבים: אם כל אחד מגן על ביתו, העיר אינה מוגנת. לעומת זאת, אם כל התושבים מגנים על העיר ביחד, העיר מוגנת. זהו הרעיון של התפילה בציבור. כל המתפללים מבקשים אותו דבר, בשביל כולם.
התפילה המסודרת מתאימה לאנשים רבים, וכמובן שחסר בה מה שצריך האדם היחיד. לשם כך יש תפילות אישיות: יש אפשרות לאדם להוסיף תפילה אישית לתפילה המסודרת הכתובה בסידור.
