בכ"ד בטבת תש"ט (25 בינואר 1949) התקיימו בפעם הראשונה הבחירות לכנסת, שבהקמתה נקראה האספה המכוננת. בט"ו בשבט תש"ט (14 בפברואר 1949), ראש השנה לאילנות, התקיימה בירושלים, בבניין הסוכנות היהודית, הישיבה הראשונה של האספה המכוננת. לכבוד האירוע כתב המשורר נתן אלתרמן את שירו "עם כנסת ראשונה". רוב הנבחרים הגיעו לירושלים מהשפלה, ובדרכם עצרו בשער הגיא לטקס נטיעת עצים. טקס נטיעת עצים באתרים שונים בירושלים ובסביבתה היה מאז חלק ממסורת חגיגות יום ההולדת של הכנסת.

בטקס הפתיחה של ישיבת האספה המכוננת אמר נשיא מועצת המדינה הזמנית פרופ' חיים ויצמן: "ברגש של יראת כבוד והדרת קודש אני קם לפתוח את האספה המכוננת של מדינת ישראל, את כנסת ישראל הראשונה בימינו, בעיר הנצחית ירושלים. ברגע הגדול הזה בתולדות עמנו ניתן שבח והודיה לאלוקי שראל שבחסדו זכינו לראות בגאולה לאחר דורות של סבל וייסורים... אישי הכנסת! שאו ברכה לכינוסכם הראשון. זכרו כי עיני כל העם היהודי אליכם נשואות וכי הכיסופים והתפילות של דורות עברו מלוות את צעדיכם". לאחר דברי פתיחה אלה נבחר יוסף שפרינצק ליושב ראש-האספה המכוננת.

יומיים לאחר מושב הפתיחה החליטה האספה המכוננת כי בית-המחוקקים של מדינת ישראל ייקרא "כנסת". מקורו של השם "כנסת" בשמה של "כנסת הגדולה", המוסד העליון של ראשי ישראל וחכמיה, שהתכנס בירושלים לאחר שיבת היהודים מגלות בבל במאה החמישית לפני הספירה. מספר חברי הכנסת נקבע לפי מספר חברי "כנסת הגדולה", – 120 חכמים.

מסורות הכנסת ודרכי פעולתה הושפעו מאספת הנבחרים , המוסד הנבחר של היישוב היהודי בארץ-ישראל בתקופת המנדט, וממנה ירשה הכנסת גם את שיטת הבחירות הקיימת. כמו כן אימצה הכנסת כמה נהלים מהפרלמנט של בריטניה, "אם הפרלמנטים".

לאחר ישיבתה הראשונה בבניין הסוכנות היהודית בירושלים, העתיקה הכנסת את מושבה לתל-אביב, ובמשך כתשעה חודשים ערכה את ישיבותיה בבית-קולנוע "קסם" ובמלון "סן-רמו" שבעיר.

בעקבות הצהרתו של ראש הממשלה הראשון של מדינת ישראל, דוד בן-גוריון , כי " ירושלים היהודית היא חלק אורגני ובלתי נפרד ממדינת ישראל, כשם שהיא חלק בלתי נפרד מההיסטוריה הישראלית, מאמונת ישראל ומנשמת עמנו", החליטה הכנסת בכ"ב בכסלו תש"י (13 בדצמבר 1949) להעביר את מושבה לירושלים. ישיבותיה הראשונות נערכו שוב בבניין הסוכנות היהודית. בכ"ד באדר תש"י (13 במרס 1950) עברה הכנסת לבית ארזי-פרומין ברחוב המלך ג'ורג' שבירושלים. יותר מ-16 שנה נערכו דיוני הכנסת בבניין זה.

בי"ז באב תשט"ז (25 ביולי 1956) הכריזה נשיאות הכנסת עם אגודת האינג'ינרים והארכיטקטים בישראל על תחרות פומבית לתכנון משכן קבע לכנסת בקריית הממשלה בגבעת רם. לפני שפורסמו תוצאות התחרות נודע שהברון ג'יימס דה-רוטשילד השאיר בצוואתו סכום של 6 מיליון ל"י לבניין המשכן. בל' בתשרי תש"י (14 באוקטובר 1958) הונחה, בנוכחותה של אלמנת הברון ג'יימס דה-רוטשילד, אבן הפינה של משכן הכנסת החדש, ובי"ד באלול תשכ"ו (30 באוגוסט 1966) הוא נחנך בטקס ממלכתי.