כאשר חטאו ישראל בחטא העגל, ארבעים יום אחר מתן תורה, בעוד משה רבנו על הר סיני, התעורר חרון אף גדול על ישראל, עד שכמעט נגזרה עליהם כליה. ואמר ה' למשה (שמות לב, ז-י): "לֶךְ רֵד, כִּי שִׁחֵת עַמְּךָ אֲשֶׁר הֶעֱלֵיתָ מֵאֶרֶץ מִצְרָיִם. סָרוּ מַהֵר מִן הַדֶּרֶךְ אֲשֶׁר צִוִּיתִם, עָשׂוּ לָהֶם עֵגֶל מַסֵּכָה. וַיִּשְׁתַּחֲווּ לוֹ וַיִּזְבְּחוּ לוֹ, וַיֹּאמְרוּ: אֵלֶּה אֱלֹהֶיךָ יִשְׂרָאֵל אֲשֶׁר הֶעֱלוּךָ מֵאֶרֶץ מִצְרָיִם. וַיֹּאמֶר ה' אֶל מֹשֶׁה: רָאִיתִי אֶת הָעָם הַזֶּה, וְהִנֵּה עַם קְשֵׁה עֹרֶף הוּא. וְעַתָּה הַנִּיחָה לִּי וְיִחַר אַפִּי בָהֶם וַאֲכַלֵּם, וְאֶעֱשֶׂה אוֹתְךָ לְגוֹי גָּדוֹל". במקום לקבל את הצעת ה' שזרעו ימשיך את עם ישראל ויהיה לְגוֹי גָּדוֹל, עמד משה רבנו, גדול שבט לוי, ומסר את נפשו על הצלת ישראל, והתעצם למענם בתפילה, והזכיר את ההבטחה שהבטיח ה' לאבותיהם להרבות את זרעם ולהנחילם את הארץ. וַיִּנָּחֶם ה', ועיכב את הגזירה מלצאת לפועל.
משה הבין שאם ישראל לא יעשו תשובה נחרצת, ויכריתו את הבוגדים מקרבם, לא תהיה להם תקומה. לכן כשירד מההר וראה את העגל והמחולות, "וַיַּשְׁלֵךְ מִיָּדָיו אֶת הַלֻּחֹת וַיְשַׁבֵּר אֹתָם תַּחַת הָהָר". "וַיַּעֲמֹד מֹשֶׁה בְּשַׁעַר הַמַּחֲנֶה, וַיֹּאמֶר: מִי לַה' אֵלָי! וַיֵּאָסְפוּ אֵלָיו כָּל בְּנֵי לֵוִי. וַיֹּאמֶר לָהֶם, כֹּה אָמַר ה' אֱלֹוהֵי יִשְׂרָאֵל: שִׂימוּ אִישׁ חַרְבּוֹ עַל יְרֵכוֹ, עִבְרוּ וָשׁוּבוּ מִשַּׁעַר לָשַׁעַר בַּמַּחֲנֶה וְהִרְגוּ אִישׁ אֶת אָחִיו וְאִישׁ אֶת רֵעֵהוּ וְאִישׁ אֶת קְרֹבוֹ". בתוך כך הבטיח משה לבני לוי, שבזכות שיצילו את ישראל יזכו לברכה. שנאמר: "וַיֹּאמֶר מֹשֶׁה: מִלְאוּ יֶדְכֶם הַיּוֹם לַה', כִּי אִישׁ בִּבְנוֹ וּבְאָחִיו, וְלָתֵת עֲלֵיכֶם הַיּוֹם בְּרָכָה". "וַיַּעֲשׂוּ בְנֵי לֵוִי כִּדְבַר מֹשֶׁה, וַיִּפֹּל מִן הָעָם בַּיּוֹם הַהוּא כִּשְׁלֹשֶׁת אַלְפֵי אִישׁ" (שם לב, יט-כט). לאחר ביעור הרע, חזר משה והתוודה לפני ה', וברוב אהבתו לישראל, מסר את נפשו למענם. "וַיָּשָׁב מֹשֶׁה אֶל ה' וַיֹּאמַר: אָנָּא, חָטָא הָעָם הַזֶּה חֲטָאָה גְדֹלָה וַיַּעֲשׂוּ לָהֶם אֱלֹהֵי זָהָב. וְעַתָּה, אִם תִּשָּׂא חַטָּאתָם, וְאִם אַיִן – מְחֵנִי נָא מִסִּפְרְךָ אֲשֶׁר כָּתָבְתָּ" (שם לא-לב). ארבעים ימי צום נמשכה תפילתו של משה, עד שסלח ה' לישראל (דברים ט, יח-יט).
בעקבות מסירות נפשם וקנאותם של בני לוי לכבוד ה' ולכבוד ישראל, נבחר שבט לוי לשרת לפני ה', שנאמר (דברים י, ח): "בָּעֵת הַהִוא הִבְדִּיל ה' אֶת שֵׁבֶט הַלֵּוִי לָשֵׂאת אֶת אֲרוֹן בְּרִית ה', לַעֲמֹד לִפְנֵי ה' לְשָׁרְתוֹ וּלְבָרֵךְ בִּשְׁמוֹ עַד הַיּוֹם הַזֶּה". תפקידם של הכהנים והלוויים הוא לקיים את האמונה והתורה בישראל, לרומם את רוחם ולקדשם כדי שילכו בדרכי ה' ולא יסורו מאחריו, ובעת מלחמה להעמיד את הצבא ולחזקו (להלן בהלכות ז-ט).
בבחירה זו החליף שבט לוי את הבכורים שהיו מיועדים לכך מתחילה, כפי שאמר ה' למשה (במדבר ג, יב): "וַאֲנִי הִנֵּה לָקַחְתִּי אֶת הַלְוִיִּם מִתּוֹךְ בְּנֵי יִשְׂרָאֵל תַּחַת כָּל בְּכוֹר פֶּטֶר רֶחֶם מִבְּנֵי יִשְׂרָאֵל, וְהָיוּ לִי הַלְוִיִּם". מתחילה היה הרעיון שבכל משפחה ומשפחה בכיר האחים יהיה מוקדש לעיסוק בתורה, בחינוך, בעבודת בית המקדש ובשמירת החוק. על ידי כך כל העם, על כל שבטיו, יהיה קשור לתורה ולעבודת הקודש. אבל לאחר שגם הבכורים השתתפו בחטא העגל, ירדו ממדרגתם. כפי הנראה, רעיון הבכורה היה גבוה מדי עבורנו, ולכן במקום שהבכורים ישפיעו על כלל הציבור, חיי החול של הציבור הרחב השפיעו עליהם וביטלו את ייחודם הרוחני, והם לא מנעו את העם מלחטוא בחטא העגל. לפיכך, נוצר צורך להקדיש שבט שלם, שיהיה כולו מיועד לשמירת הקודש בבית המקדש, ולשמירת עַם הקודש מפני החטאים והאויבים הקמים עליו. בזכות דבקותו של שבט לוי בתורה ובקדושה, יכול עם ישראל לעסוק ביישוב הארץ, בנחת ובסבלנות, בלא דאגה שמא יתרחק מהקודש, שעל משמרתו שוקד שבט לוי בקנאות (ראו אורות התחיה ד).
אמרו חכמים (ירושלמי יומא א, א), שכאשר מת אהרן והסתלקו ענני הכבוד שהגנו על ישראל, באו הכנענים להילחם בהם. בעקבות זאת, היו משפחות מישראל שפחדו וביקשו לשוב למצרים, וחזרו לאחוריהן מהלך שמונה תחנות. כדי לעצור את הבגידה בה', בישראל ובארץ, בני לוי רדפו אחריהם להחזירם, והתפתח ביניהם קרב שבו נפלו שבע משפחות מבני בנימין, שמעון וגד, וארבע משפחות מבני לוי, והנותרים חזרו למחנה ישראל להמשך המסע לכיבוש הארץ (עי' רש"י במדבר כו, יג). לימים, כהמשך לכך, התמנו הלוויים לשוטרים, שאחד מתפקידיהם היה לשמור על הלוחמים שלא ינוסו בקרב, כפי שנלמד בהמשך (להלן ט).