בעקבות טלטולי הגלויות התעוררה מחלוקת בין גדולי הראשונים בסדרן של פרשיות התפילין. לדעת רש"י והרמב"ם, סדר הפרשיות הוא כסדרן בתורה, ואם כן כשהתפילין מונחות על הראש, הפרשה שבבית הימני היא 'קדש', אחריה 'והיה כי יביאך', אחריה 'שמע' ואחרונה משמאל 'והיה אם שמוע'. אולם לדעת רבנו תם הפרשה השלישית היא 'והיה אם שמוע' והפרשה הרביעית היא 'שמע'. וכן בתפילין של יד נחלקו, שלפי רש"י ורמב"ם הפרשה השלישית 'שמע' והרביעית 'והיה אם שמוע'. ולדעת רבנו תם, השלישית 'והיה אם שמוע' והרביעית 'שמע'.
וכיוון שסדר הנחת הפרשיות מעכב, נמצא שלשיטת רש"י תפילין של רבנו תם פסולות, וכן להיפך. עוד בתקופת הראשונים, הוכרעה הלכה על ידי רוב הראשונים כדעת רש"י ורמב"ם, וכן נהגו כל ישראל. והיו יראי שמיים שהוחזקו בחסידות, שנהגו להניח בנוסף לתפילין לפי שיטת רש"י זוג נוסף לפי שיטת רבנו תם, כדי לצאת ידי חובת שתי השיטות. לכתחילה הניחום ביחד על היד והראש, וכך התפללו וקראו קריאת שמע עם שני הזוגות, שאחד מהם כשר. אבל כאשר התפילין מבתים גדולים, כרוב הבתים של ימינו, אין מקום לשני זוגות, והרוצה להניח תפילין של רבנו תם יניחן אחר התפילה. ויקפיד לכוון, שבאותן שהן כשרות הוא מקיים המצווה, ואילו השניות הן חול. שאם יכוון לצאת בשתיהן נמצא עובר ב'בל תוסיף' (שו"ע או"ח לד, א-ג. ועי"ש מ"ב ובאו"ה).
ולפי האר"י ז"ל, יש ערך לשתי השיטות, שכל שיטה רומזת לכוונה וייחוד אחרים, ואם כן שני הזוגות קדושים, ולכתחילה יש מקום להניח את שני זוגות התפילין, כדי לרמוז לשתי הכוונות. על פי שיטתו היו שעודדו את הציבור הרחב להניח באופן קבוע שני זוגות תפילין. וכך הוא מנהגם של ההולכים על פי מנהגי האר"י (קול יעקב לד, סעיפים ד, ז. ועי' יבי"א ח"א או"ח ג).
לעומת זאת לדעת הגר"א, גם ירא שמיים המפורסם בחסידות אינו צריך להניח תפילין של רבנו תם, משום שהוכרעה הלכה כרש"י ורמב"ם, וכן נהגו כל ישראל, ומנהגם של ישראל תורה הוא. ואם נחשוש לכל השיטות השונות בדיני התפילין, נצטרך להניח לפי חשבונו עשרים וארבעה זוגות תפילין בכל יום. אלא שהלכה כרש"י ורמב"ם ודי להניח זוג אחד בלבד. וכן נוהגים רבים. (גם הרב משאש בשמש ומגן ח"ג או"ח נח, ד, כתב שלא נהגו במרוקו להניח תפילין של ר"ת).[14]
למעשה, ראוי לכל אדם לנהוג כמנהג אבותיו. ואם יש לו רב מובהק – כפי שידריכו רבו.
