בימי שבת ומועד נשים רבות באות להתפלל בבית הכנסת, ויש נשים צדקניות שאף באות להתפלל בימות החול. ועוד מימי חכמי המשנה מסופר על נשים צדקניות שבאו להתפלל בבית הכנסת בכל יום וזכו לאריכות ימים (לעיל יב, א).
משום צניעות, נוהגים ישראל להבדיל בין גברים לנשים בבית הכנסת. לפיכך, נוהגים ישראל לבנות בכל בתי הכנסת מקום מיוחד לנשים שנקרא ‘עזרת נשים’, כעין עזרת הנשים שבה קיימו את שמחת בית השואבה בבית המקדש, ולגביה אמרו חכמים (סוכה נא, א) שעשו ‘תיקון גדול’ בהפרדה שבין נשים לגברים. “בראשונה היו נשים מבפנים ואנשים מבחוץ, והיו באים לידי קלות ראש. התקינו שיהו נשים יושבות מבחוץ ואנשים מבפנים, ועדיין היו באים לידי קלות ראש. התקינו שיהו נשים יושבות מלמעלה (ביציע) ואנשים מלמטה”. על ידי כך מנעו עירוב בין גברים לנשים, וגם הרחיקו את הגברים מלהביט בנשים (רמב”ם בפיהמ”ש, ורי”ד סוכה שם). ואם כך עשו בשעת שירה של שמחת בית השואבה, וכך גם בעת הספד (סוכה נא, ב, ע”פ זכריה יב, יב), קל וחומר שכן צריך לעשות בעת תפילה, שבה צריכים המתפללים לטהר את מחשבתם ולייחד את לבבם לעבודת ה’, ולהסיר כל דבר שעלול להסיח את דעתם מהתפילה (חת”ס ח”ה השמטות קצ).
לפיכך, נוהגים לעשות מחיצה בין הגברים לנשים. ונוהגים לסדר את המחיצה באופן שהנשים הסמוכות למחיצה יוכלו לראות באופן כללי את המתרחש בבית הכנסת, כפתיחת הארון, הולכת ספר התורה והגבהת התורה. לשם כך, יש נוהגים לעשות את המחיצה אטומה בחלקה התחתון, ולקראת גובה הפנים עושים מחיצה שאינה אטומה, כדי שיוכלו לראות דרכה. יש מקומות שבהם מקילים וסומכים על הרבנים שסוברים שמחיצה יכולה להיות גם עשרה טפחים. יש מקומות שבהם נשים רבות מגיעות לתפילה, וקובעים את עזרת נשים במקביל לעזרת גברים, כדי שיוכלו לשמוע היטב את החזן והקורא בתורה. לכתחילה, משום צניעות, מתקינים לעזרת נשים כניסה נפרדת.
על מנהג המחיצה וההפרדה בין גברים לנשים בבית הכנסת התעוררו ויכוחים חריפים בין שומרי המסורת הדתיים לרפורמים ולקונסרבטיבים, עד שמנהג המחיצה הפך להיות אחד מסמלי נאמנות הקהילה להלכה.[8]