המתפלל צריך שיכוון, היינו שישים לב למה שהוא אומר, וכן ישתדל שלא להסיח את דעתו לדברים אחרים בתוך התפילה. ואם עלו במוחו מחשבות אחרות, יסלקם מדעתו ויחזור להתפלל. ואף אם אינו מצליח לכוון בכל המילים, ישתדל לכל הפחות לכוון בחתימת כל ברכה וברכה. ואם אינו יכול לכוון בכל הברכות, יתאמץ לכוון בברכת ‘אבות’ ובברכת ‘מודים’, שהן הברכות שכורעים בתחילתן וסופן. ולכל הפחות יכוון בברכת ‘אבות’ שהיא פותחת את התפילה.[5]
אם התפלל ולא כיוון בברכת ‘אבות’, מעיקר הדין היה צריך לחזור ולהתפלל, שהכוונה בברכת ‘אבות’ מעכבת. אלא שבעקבות ירידת הדורות וטרדות הנפש, נחלשה יכולתנו לכוון, ולכן הורו האחרונים שלא יחזור, מפני שיש לחוש שאף בפעם השנייה ישכח לכוון ב’אבות’ וחזרתו תהיה בחינם (רמ”א קא, א, כה”ח ד).
ומי שעומד לסיים את ברכת ‘אבות’ ושם לב שלא כיוון בה, כל זמן שלא אמר את שם ה’ בחתימתה, יחזור מ”אלוהי אברהם” ויכוון (מ”ב קא, ד, בשם ח”א). ואם אמר שם ה’, יחתום את הברכה בכוונה, וטוב שיחזור להרהר בליבו את ברכת ‘אבות’, שלדעת הרמב”ם הרהור נחשב כדיבור. ואם כבר המשיך לומר “אתה גיבור” – ימשיך בתפילתו, וישתדל לכוון בהמשך בכל הברכות ובמיוחד בברכת ‘מודים’.[6]

כתב במ”ב קא, ד, בשם ח”א, שאם נזכר קודם החתימה, יחזור לומר מאלוהי אברהם. ועיין בבאו”ה ‘והאידנא’ שהציע למי שסיים את הברכה הראשונה, שימתין לחזרת הש”ץ ויצא בברכה הראשונה בשמיעת החזן. ויש שפקפקו היאך יצא בברכה ראשונה בשמיעה ואח”כ יצא באמירה, והרי שלוש הראשונות נחשבות כברכה אחת. (בשם החזו”א). וביבי”א (או”ח ג, י) כתב, שימשיך בתפילתו וישתדל לכוון ב’מודים’, כי י”א שעיקר הכוונה צריכה להיות או ב’אבות’ או ב’מודים’.