בתקופת הראשונים התעוררה מחלוקת גדולה בסדרן של פרשיות תפילין של ראש. לרש”י ורמב”ם, סדר הפרשיות הוא כסדרן בתורה, בצד ימין פרשת ‘קדש’, אחריה ‘והיה כי יביאך’, אחריה ‘שמע’ ואחרונה משמאל ‘והיה אם שמוע’. אולם לרבנו תם הפרשיה השלישית היא ‘והיה אם שמוע’ והרביעית היא ‘שמע’. ימין ושמאל נקבעים לפי מי שעומד מול מניח התפילין, שהפרשיה שבצד ימינו היא הימנית. וכן נחלקו בתפילין של יד, לרש”י ורמב”ם, הפרשיה השלישית ‘שמע’ והרביעית ‘והיה אם שמוע’. ולרבנו תם, השלישית ‘והיה אם שמוע’ והרביעית ‘שמע’. אמנם גם לשיטת רבנו תם יש לכותבן כסדר המופיע בתורה: קודם ‘שמע’ ואחריה ‘והיה אם שמוע’. כיוון שסדר הפרשיות מעכב, נמצא שלשיטת רש”י תפילין של רבנו תם פסולות, וכן להיפך.
אף שהמחלוקת נקראת על שם רש”י ונכדו רבנו תם, שורשיה קדומים, עוד מימי הגאונים. כשיטת רש”י נהגו גאוני ארץ ישראל ובעל ה’שימושא רבא’, וכשיטת ר”ת נהגו רב סעדיה גאון ורבנו חננאל.
כפי הנראה, עד ימי רש”י ורבנו תם עדיין לא התעוררה שאלה זו במלא חריפותה, וממילא גם לא הוכרעה ההלכה, אלא היו קהילות חשובות שנהגו כרש”י והיו שנהגו כר”ת. אולם בעקבות התעוררות השאלה, בדורות שאחריהם התקבל המנהג בישראל כשיטת רש”י והרמב”ם, וכפי שנהגו בבית מדרשו של הרמב”ן, בלא לחשוש לשיטת רבנו תם.
והיו ראשונים (תרומה, רא”ש) שהורו לכתחילה לירא שמיים להניח מספק שני זוגות תפילין. והיו מניחים אותם יחד, שכן אמרו חכמים שיש מקום בראש ובזרוע לשני זוגות תפילין, וכך התפללו וקראו קריאת שמע עם שני הזוגות. ועשו תנאי בדעתם, שכוונתם לקיים את המצווה לפי השיטה הנכונה להלכה. אבל כאשר התפילין מבתים גדולים, כרוב הבתים בימינו, אין מקום בזרוע ובראש לשני זוגות, והרוצה להניח תפילין של רבנו תם מניח אותן אחר התפילה.[13]
כרש”י כתב גם רמב”ם (תפילין ג, ה), וביאר בתשובה (רפט), שבהיותו במערב (ספרד וצפון מערב אפריקה) נהג כר”ת, וכפי שנהג הרי”ף, וכשהגיע למצרים נוכח שכל אנשי ארץ ישראל וסביבתה נוהגים כרש”י, וקיבל עדות שכן נהגו גאוני ארץ ישראל ורב האי גאון, ועל כן שינה מנהגו לשיטת רש”י. וכ”כ העיטור. מנגד, מובא בתוס’ (מנחות לד, ב, ‘והקורא’), שכשיטת ר”ת סברו רב האי גאון, רבי יוסף טוב עלם ורבנו חננאל. ורבים כתבו דבריהם והוסיפו שכן היא גם דעת רב שרירא גאון (תרומה, רא”ש ועוד). ורבי יהודה הברצלוני כתב שלא שמע על מי שנוהג כשיטת רש”י, וזה תואם את עדות הרמב”ם שנהג בספרד כר”ת.
כפי הנראה, בעקבות השגת ר”ת על רש”י, כמובא בתוס’, המחלוקת עלתה על סדר היום, היו שהמשיכו במנהגם, כשיטת רש”י או ר”ת, ורבים נטו לנהוג כרש”י. והיו מגדולי הראשונים (תרומה, רא”ש, טור ורבנו ירוחם), שכתבו שירא שמיים יצא ידי שניהם, ויעשה שני זוגות תפילין כדי לצאת מהספק. והיו מניחים אותם יחד ומכוונים בברכה שתחול על התפילין שכתובות כתקנן. וכ”כ הסמ”ג (עשין כב), והגה”מ, אלא שהסכימו שהמנהג הרווח בימיהם היה כרש”י. אולם בבית מדרשו של הרמב”ן נהגו כרש”י ולא חששו לשיטת ר”ת. וכפי שכתב רשב”א (מיוחסות רלד), שכך נהגו רמב”ן ורבנו יונה, וכ”כ בשו”ת הרשב”א (א, תרלט), החינוך תכא. במקביל באשכנז כך כתב המרדכי (תפילין תתקסט). והמהרי”ל (קלז), כתב שנוהגים כרש”י, ורק מי ש”מוחזק ומפורסם בחסידות” מניח את שני הזוגות. כפי הנראה, בעקבות עמדתם של גדולי ספרד, הרמב”ן ותלמידיו, שהכריעו כרש”י, התקבלה הלכה כרש”י, ובערוה”ש (לד, ג), כתב שאף החוששים לר”ת מברכים על של רש”י, “כאילו בת קול יצא דכן הלכה”. וכפי שנפסק בשו”ע (לד, א-ג).
כפי שלמדנו למעלה, סדר הפרשיות מימין לשמאל, היינו לפי הנראה למי שעומד מול המניח. אבל יש סוברים שהימין הוא לפי המניח, נמצא שיש עוד שתי שיטות: בשו”ת רמ”ע מפאנו כתב שדעת ‘שימושא רבא’ כרש”י אבל הפוך. וכ”כ בספר מצת שימורים (אולם מפשטות לשון הראשונים משמע ש’שימושא רבא’ כרש”י לכל עניין). לראב”ד בשם רב האי גאון (על הרמב”ם תפילין ג, ה), הסדר כר”ת אבל הפוך, וביאר שהואיל והתפילין סתומות, אין טעם ללכת לפי ימין העומד מול המניח, אלא לפי המניח, כיוון שהתפילין הן עבורו, ולכן הולכים לפי ימין המניח. לרמב”ם (שו”ת רפט) ולסמ”ק קנג, בתפילין של יד הכל מסכימים לשיטת רש”י. ולרוה”פ לשיטת ר”ת יש לשנות את הסדר גם בשל יד.
