כיוון שהקדושה השנייה התקיימה על ידי ההתיישבות, היא חלה על כל המקומות שבהם התיישבו ישראל בימי בית המקדש השני. וככל שהתרחב גבול ההתיישבות של עולי בבל, כך התרחב גבול הקדושה, ומקומות אלה נקראים 'גבול עולי בבל'. בתחילה התיישבו ביהודה ובנימין, ובמשך הזמן בזכות מלכות בית חשמונאי, המשך העלייה והריבוי הטבעי, ההתיישבות התרחבה לשומרון, לגליל התחתון והעליון, למישור החוף מאשקלון ועד עכו, לגולן ולעבר הירדן המזרחי.
כאשר קידשו את מקום ההתיישבות, חזרה והתעוררה הקדושה גם בכל המקומות שכבשו עולי מצרים בשני עברי הירדן ואף התפשטה לסוריה, אלא שקבעו שבגבול עולי בבל הקדושה תחול מהתורה, ובגבול עולי מצרים וסוריה מדברי חכמים. ויכלו אנשי כנסת הגדולה לקבוע שהקדושה תתפשט במילואה בכל גבול 'עולי מצרים' וסוריה, אלא שבחרו להשאיר את המקומות שלא היו מיושבים כראוי בחיוב פחות חמור, כדי להקל מעט על העניים. ומנגד, יכלו לקבוע שהקדושה לא תחול כלל על גבול עולי מצרים וסוריה, אלא שלא רצו לפטור אותם, כדי שגם שם יוכלו העניים ליהנות מתרומות ומעשרות ומהשמטת הפירות בשביעית. ואף בתוך תחום עולי בבל היו ערים שהתגוררו בהן גויים, כדוגמת בית שאן ואשקלון, ולא החילו עליהן חכמים את מלא חיוב המצוות כמו בגבול עולי בבל (חגיגה ג, ב; חולין ז, א). באותם ימים היה ידוע מה דין גבול עולי מצרים ואותן הערים, אולם לימים נשתכח הדבר, ונחלקו בזה הפוסקים, כמבואר בהמשך (הלכה יב).
בכל אופן, אחר שקידשו אנשי כנסת הגדולה את הארץ למצוות הציבור התלויות בה, שוב לא היו צריכים לחזור ולקדש את המקומות שאליהם התפשטה ההתיישבות היהודית בימי בית המקדש השני, אלא הקדושה התפשטה יחד עם ההתיישבות. וגם לאחר חורבן בית המקדש השני, נשארה הקדושה בכל תחום עולי בבל, כי מקום שכבר התקדש בקדושה שנייה, שוב לא פקעה ממנה הקדושה לעולם. שכן למדנו (לעיל ז), שדרשו חכמים, שאחר הקדושה השנייה שקידשו אנשי כנסת הגדולה את הארץ, שוב לא יצטרכו ישראל לקדש אותה לעולם. נמצא אם כן שמה שאמרנו, שבגבול עולי מצרים חיוב המצוות הציבוריות מדברי חכמים, הוא במקומות שבהם לא היתה התיישבות יהודית מסודרת במשך ימי בית המקדש השני.[9]