בכל משך זמן הנחת התפילין אסור להסיח מהן את הדעת, שכן למדו חכמים (מנחות לו, ב), שאם לגבי הציץ שעל ראש הכהן הגדול, שנזכר בו שם ה' רק פעם אחת, אמרה התורה (שמות כח, לח): "וְהָיָה עַל מִצְחוֹ תָּמִיד" – שלא יסיח דעתו ממנו; קל וחומר שאסור להסיח את הדעת מן התפילין, שנזכרו בהן עשרים ואחת פעמים שמות ה'. וכדי שלא יסיח דעתו מהן, אמרו חכמים שהמניחן חייב למשמש בהן בידו בכל שעה. וימשמש תחילה בשל יד ואח"כ בשל ראש, משום שתפילין של יד סמוכות יותר לידו, ואין מעבירין על המצוות (שו"ע כח, א, מ"ב ג). אמנם בשעת התפילה והלימוד אינו חייב למשמש בהן, מפני שעל ידי כוונת ליבו בתפילה או בלימוד הוא מכוון ליבו לה' (מ"ב מד, ג, ובאו"ה שם). אלא שגם בעת הלימוד והתפילה טוב למשמש בהן מעת לעת, שמא זזו ממקומן, ועל ידי המישוש ידע להחזירן למקומן.
נחלקו הפוסקים בשאלה מהו היסח הדעת האסור בתפילין. לדעת רוב הפוסקים (רא"ש ורבנו יונה), רק מי שחושב במחשבת עריות או ליצנות שאסורה, או שהוא טרוד כל כך במחשבות גופניות או בצערו עד שלבבו פונה לגמרי מענייני התורה, הרי הוא מסיח את דעתו מהתפילין. אבל מי שעוסק במלאכתו ואינו חושב על כך שהוא מניח תפילין, אינו נחשב כמסיח דעתו, שאין ניגוד בין הנחת התפילין ועיסוק ביישובו של עולם, ורק צריך למשמש בהן בכל שעה, כדי שלא ישכח שהן עליו ויסיח את דעתו לדברים בטלים (עי' שו"ע הרב כח, א).
ויש מחמירים שהמניח תפילין חייב לזכור בכל עת שהתפילין עליו, ושלא יעבור יותר משיעור מהלך מאה אמה (בערך דקה) בלא שיזכור שהתפילין עליו (שאגת אריה לט).
ואף שלהלכה מוסכם על רוב הפוסקים שרק מחשבת איסור או טרדה מוגזמת בענייני חול אסורים בתפילין, לכתחילה המליצו שלא לעסוק במחשבות חול בעת הנחת התפילין. וזה אחד הטעמים למנהגנו שאיננו מניחים תפילין כל היום אלא רק בעת התפילה והלימוד הסמוך לה.[3]
אונן, הטרוד במיתת קרובו, פטור מהנחת תפילין. וכן לאחר סיום ההלוויה האבל פטור מהנחת תפילין ביום אבלותו הראשון (ברכות יא, א). שהואיל והתפילין נקראות 'פאר' אין זה ראוי שהאבל המתגולל בצערו בעפר יחבוש אותן (רש"י). ועיקר האיסור הוא ביום האבלות הראשון שחיובו מהתורה, ובו עיקר הצער והמרירות. כאשר הקבורה נדחתה ויום האבלות הראשון אינו ביום הפטירה, נחלקו הפוסקים: למ"ב לח, טז; כה"ח לח, טז, ועוד, אין מניחים תפילין, ויש שכתבו להניח בצנעא בלי ברכה (ח"א, יבי"ע, רשז"א).
להשלמת העניין נבאר דין מצטער. שו"ע לח, ט: "מצטער ומי שאין דעתו מיושבת עליו ונכונה פטור, מפני שאסור להסיח דעתו מהם". והטעם, שמי שעסוק כל כך בצערו, כגון שקר לו או שהוא חולה מאוד, עד שאינו יכול להסיח דעתו מצערו כלל, אינו יכול לכוון דעתו כלל למצוות תפילין, ולכן פטור. אמנם, אם יוכל ליישב דעתו לשעה קלה, חייב ליישב דעתו ולקיים מצוות תפילין, ואף שלדעת ב"י עפ"י ר' מנוח, אינו חייב ליישב דעתו, מ"מ לדעת הרבה פוסקים חייב, וכן פסק במ"ב לח, לא. וגם לב"י אין איסור ליישב דעתו ולקיים את המצווה, כמבואר בכה"ח לח, ל-לא. ולכן צריך ליישב את דעתו ולהניח תפילין.