בעל השכלה תורנית וכללית ועבד כמורה במקומות שונים ברוסיה. הצטרף למפלגת 'פועלי ציון' ברוסיה. בשנים 1912-1911 למד משפטים בקושטא. בשנת 1913, עלה ארצה בעליה השניה ועבד כפועל חקלאי בבאר טוביה ובכרכור. במלחמת העולם הראשונה שהה בזכרון יעקב, עבד שם והחל בפעילותו הציבורית במסגרת 'הסתדרות פועלי השומרון'. השתייך לקבוצת 'הבלתי מפלגתיים'.

בשנת 1919 נמנה עם מייסדי 'אחדות העבודה', היה ממנהיגי המפלגה, מעורכי בטאונה 'קונטרס' ומזכיר 'הסתדרות הפועלים החקלאיים' שלה. בשנת 1920 השתתף בהקמת הסתדרות העובדים הכללית, הצטרף לוועד הפועל והיה לחבר הוועד הלאומי. בשנים 1929-1921 עמד בראש 'המשרד לעבודות ציבוריות', לימים 'סולל בונה'. היה חבר מועצת עירית תל-אביב בשנים 1928-1925 משנת 1929 שימש בפועל כ'איש מספר 2' בהסתדרות, משנה למזכ"ל, דוד בן-גוריון. עם הקמת מפא"י בשנת 1930 השתלב בהנהגתה והמשיך לפעול מטעמה במוסדות המרכזיים של ההסתדרות הכללית, באסיפת הנבחרים ובקונגרסים הציוניים.

בשנת 1935 החליף את דוד בן-גוריון כמזכ"ל ההסתדרות הכללית וכיהן בתפקיד עד לשנת 1945. מנהיגותו היציבה והשקולה תרמה רבות לביסוס כוחה ולגידולה של ההסתדרות. בשנות כהונתו הוקמו והתפתחו מפעלים ההסתדרותיים רבים. תרומה מיוחדת תרם לפיתוח הימאות והדייג. בעקבות השבתת נמל יפו במאורעות 1936 היה מיוזמי הקמת נמל תל-אביב והקים את 'נחשון', החברה הימית של ההסתדרות לספנות ולדייג שהיתה לימים ל'צים'.

בשנים 1948-1944 כיהן כיו"ר הוועד הלאומי וריכז את הפעילות בישוב בתקופה הסוערת של המאבק בבריטים. נמנה עם האגף המתון במפא"י שהתנגד להחרפת העימות עם ממשלת המנדט. ב'שבת השחורה' ביוני 1946 נאסר על ידי הבריטים יחד עם מנהיגי הישוב האחרים והיה עצור בלטרון במשך ארבעה חודשים. נמנע עם החותמים על מגילת העצמאות. היה חבר במינהלת העם, במועצת העם ובמועצת המדינה הזמנית. שימש שר התחבורה בממשלה הזמנית וראש 'ועדת השרים לעניני חינוך' שהקימה הממשלה הזמנית. היה חבר כנסת בכנסת הראשונה מטעם מפא"י בשנים 1951-1949. כיהן כשר התחבורה בממשלה הראשונה (מרץ 1949-אוקטובר 1950) ולאחר מכן כשר החינוך והתרבות בממשלה השניה (נובמבר 1950-מאי 1951). בתקופת כהונתו התמודדה מערכת החינוך בקשיי הקליטה של התלמידים העולים הרבים ובמחסור גדול במשאבים, במיוחד במורים. כעבור חודשים אחדים בתפקיד, במאי 1951, נפטר לאחר מחלה קצרה. היה ידוע גם כאיש ספר ובלשן. נמנה עם חברי וועד הלשון העברית. עשרות מחידושיו הלשוניים נקלטו בלשון העברית.