בפרשת עקב חוזר משה שוב ושוב על הדרישה מעם ישראל לאהוב את ה', לירא ממנו, לעבדו ולשמור את כל מצוותיו. החובה לעבוד את ה' חוזרת שלש פעמים: 

"וְעַתָּה יִשְׂרָאֵל מָה ה' אֱלֹהֶיךָ שֹׁאֵל מֵעִמָּךְ כִּי אִם לְיִרְאָה אֶת ה' אֱלֹהֶיךָ לָלֶכֶת בְּכָל דְּרָכָיו וּלְאַהֲבָה אֹתוֹ וְלַעֲבֹד אֶת ה' אֱלֹהֶיךָ בְּכָל לְבָבְךָ וּבְכָל נַפְשֶׁךָ:" (דברים י, יב), "אֶת ה' אֱלֹהֶיךָ תִּירָא אֹתוֹ תַעֲבֹד וּבוֹ תִדְבָּק וּבִשְׁמוֹ תִּשָּׁבֵעַ:" (דברים י, כ), "וְהָיָה אִם שָׁמֹעַ תִּשְׁמְעוּ אֶל מִצְוֹתַי אֲשֶׁר אָנֹכִי מְצַוֶּה אֶתְכֶם הַיּוֹם לְאַהֲבָה אֶת ה' אֱלֹהֵיכֶם וּלְעָבְדוֹ בְּכָל לְבַבְכֶם וּבְכָל נַפְשְׁכֶם:" (דברים יא יג). המדרשים והמפרשים הציעו הסברים שונים לריבוי החזרות, ולחידוש שיש בכל אחת מהן. ההנחה הפשוטה היא שתפקידן של החזרות הוא להעצים את הציווי ולהשרישו בליבותיהם של ישראל. 

הציווי לעבוד את ה' בכל לבבכם, מתפרש על ידי חז"ל כחובה להתפלל: "איזו היא עבודה שהיא בלב? הוי אומר: זו תפילה" (תענית ב ע"א). הרמב"ם הסיק מכאן את קיומה של מצווה מן התורה להתפלל בכל יום (ספר המצוות, עשה ה', הלכות תפילה א, א). גם הרמב"ן, החולק על הרמב"ם וסבור שעל פי הגמרא חובת התפילה היומיומית היא רק מדרבנן, אינו חולק על קיומה של מצווה כללית לעבוד את ה', בין היתר, גם בתפילה. 

חשיבותה של התפילה ניכרת לא רק מן החזרות על החובה לעבוד את ה' בפי משה רבנו, אלא גם מנוכחותה בכל התנ"ך. אברהם אבינו מתפלל, משה רבנו מתפלל, שמואל הרואה מתפלל, אלישע הנביא מתפלל, חזקיהו המלך מתפלל, ועוד ועוד. בולטות במיוחד תפילת חנה, שמשמשת מקור רב ערך ללימוד דרכי התפילה ופרטי הלכותיה, ותפילות שלמה המלך, כשבראשן תפילתו בעת חנוכת המקדש, שבה הוא מרבה לבקש שהמקדש יהיה הכתובת שדרכה יפנו תפילותיהם של ישראל אל ה', כגון: "כָּל תְּפִלָּה כָל תְּחִנָּה אֲשֶׁר תִהְיֶה לְכָל הָאָדָם לְכֹל עַמְּךָ יִשְׂרָאֵל אֲשֶׁר יֵדְעוּן אִישׁ נֶגַע לְבָבוֹ וּפָרַשׂ כַּפָּיו אֶל הַבַּיִת הַזֶּה"(מלכים א, ח, לח). 

מעבר לצורך הנפשי ולחובה הבסיסית של התפילה, חייבו אותנו חכמים גם בתפילות קבע: שלש תפילות בכל יום ועוד מוספים בשבתות ומועדים ונעילה בתעניות. קיימות שתי גישות עיקריות להסבר חובת תפילות הקבע והן מוצגות גם כמחלוקת אמוראים במסכת ברכות (כו ע"ב): דעת רבי יוסי בן חנינא היא: "תפילות אבות תקנום", ודעת רבי יהושע בן לוי: "תפילות כנגד תמידים תקנום". 

לדעת רבי יוסי בן חנינא תפילות הקבע קדומות הן, גם אם לא בנוסח שתיקנו אנשי כנסת הגדולה. עדות לכך נמצאת כבר בתורה: אברהם תיקן תפילת שחרית, ככתוב: "וישכם אברהם בבוקר אל המקום אשר עמד שם לפני ה'" (בראשית כט, יז), ומהי עמידה לפני ה' אם לא תפילה? אצל יצחק מצאנו שיצא לשוח בשדה לפנות ערב (בראשית כד, סג), ושיחה היא תפילה, ככתוב: "תפילה לעני כי יעטוף ולפני ה' ישפוך שיחו"(תהילים קב, א). אצל יעקב מצאנו: "ויפגע במקום וילן שם כי בא השמש" (בראשית כח יא), ובספר ירמיהו מפורש שגם פגיעה היא לשון תפילה (ירמיהו ז, טו). אמנם, מלבד יציאתו של יצחק לשוח עם ערב, לא משמע מן הכתוב שהאבות התפללו בקביעות כל יום, אולם ר' יוסי בן חנינא סבר שיש בפסוקים אלה יסודות ראשוניים של תפילה הכרוכה בזמן. כל אחת מן התפילות של האבות נושאת אופי אחר: עמידה אינה שיחה ושיחה אינה פגיעה. כידוע מספר תהילים ומאינספור מקורות אחרים, וגם מהתבוננות בנפש האדם המתפלל, האוצר הגדול של התפילה מכיל בתוכו סוגים ומינים שונים של תפילות. 

על פי התוספתא (ברכות ג, ו) והירושלמי (ברכות ד, א, ז ע"א), יש להוסיף עוד מקורות מן התנ"ך המעידים על הנוהג להתפלל בזמנים קבועים ביום. דוד המלך משורר: "ערב ובוקר וצהריים אשיחה ואהמה וישמע קולי" (תהילים נה יח), ועל דניאל נאמר: " וְכַוִּין פְּתִיחָן לֵהּ בְּעִלִּיתֵהּ נֶגֶד יְרוּשְׁלֶם וְזִמְנִין תְּלָתָה בְיוֹמָא הוּא בָּרֵךְ עַל בִּרְכוֹהִי וּמְצַלֵּא וּמוֹדֵא קֳדָם אֱלָהֵהּ כָּל קֳבֵל דִּי הֲוָא עָבֵד מִן קַדְמַת דְּנָה:" (דניאל ו, יא). ובתרגום: "חלונות פתוחים לו בעלייתו כנגד ירושלים, ושלש פעמים ביום הוא כורע על ברכיו ומתפלל ומודה לפני אלהיו, כפי שהיה עושה קודם לכן". 

התפילות של האבות הן דגמים לתפילות שבהן האדם מתייצב לפני ה' ושופך שיח לפניו, בסגנון כזה או אחר, בהתאם לאישיותו, לזמן, למצב רוחו, לנסיבות החיצוניות ולחוויות הפנימיות שבליבו. 

התפילה האחרת, זו שרבי יהושע בן לוי מתאר, שונה לחלוטין. זו תפילת חובה שתיקנו חכמים כחלופה לעבודת בית המקדש שבטלה. במקום הכוהנים המקריבים בכל יום קורבן תמיד לה' בשם כל ישראל, נדרש עם ישראל אחרי החורבן להשתתף במשא העבודה ולהחליף במילים את העשייה של הכוהנים: "ונשלמה פרים שפתינו" (הושע יד, ג). שחרית ומנחה כנגד התמידים, ערבית במעמד פחות מחייב, כנגד אברים ופדרים שקרבים כל הלילה (ברכות כז ע"ב), ובימים שבהם היו מקריבים קורבנות מוספים, אנו מוסיפים גם תפילת מוסף.  

תפילה זו אינה מתמקדת ברגשות ובחוויית העמידה לפני ה', כמו תפילת האבות, אלא במילוי חובה ציבורית-לאומית, של עבודה, או בארמית: פולחן, לה' א-להי ישראל. התודעה של המתפלל אמורה לבטא עבודה מעשית של הקרבת קורבנות, כפי שעשו הכוהנים במקדש בעבר, בייצגם את העם כולו. התודעה הזאת היא תודעה של חובה, משמעת וציות, והיא שונה לגמרי מהתודעה של תפילת האבות. 

המחלוקת בין החכמים על אודות מקורה של תקנת תפילות הקבע היא שיקוף של שני היבטים שונים של התפילה ומשמעותה. שני ההיבטים מתקיימים למעשה זה בצד זה. אם כי, ההטיה לכיוון העבודה המחויבת, ה"פולחנית", חזקה יותר בתפילת הקבע, בעוד שהנטייה למגמת תפילת האבות, חזקה יותר בתפילות שאינן קבע, כגון בעת אמירת תהילים בשעת צרה, והיא ניכרת ביותר בתפילות המנוסחות באופן אישי על ידי המתפלל. עם זאת, קיימת ציפייה מן המתפלל עם הציבור בבית הכנסת שישכיל לשלב גם בתוך נוסח תפילת הקבע את החוויה הקיומית של תפילות האבות לסוגיהן. 

בעיקרו של דבר, אין כמעט אפשרות להיות אדם מאמין, ירא ה' ואוהבו, מבלי לעבדו בתפילה. מרחבי התפילה רבים, מגוונים ועשירים כל כך, שכל אחד ואחת יכולים למצוא את האופי והאופן של התפילה המתאימים להם בכל עת. הרב קוק ניסח זאת באופן הרחב והעמוק ביותר, בהקדמת סידורו "עולת ראיה": "הנשמה היא תמיד מתפללת". 

הקריאה ל"עבדו בכל לבבכם" מתפרשת על פי הרב קוק כהנחיה: "שימו לב אל הנשמה". כלשונו של ר' שמעיה קוסון, בפיוט "אודה לאל לבב חוקר".