פאול מוני נולד בלמברג, אוסטריה בשנת 1895. הוריו של מוני, שניהם שחקנים בקבוצת רפרטואר יידיש נודדת, היגרו לאמריקה בשנת 1899. כילד צעיר, הופיע מספר פעמים על הבמה עם הוריו. הבכורה הרשמית שלו על הבמה הייתה בשנת 1907, שלאחריה גויס להצטרף לחברת התאטרון האמנותי הידיי של מוריס שוורץ. מוני הופיע לעיתים קרובות בתאטרון השדרה השנייה ותאטרון אירווינג פלייס לאורך 18 שנותיו על הבמה היידית.
בשנת 1926, הופיע מוני לראשונה בברודווי במופע ''אנו אמריקאים''. שלוש שנים לאחר מכן, בשנת 1929, קיבל הצעה לחוזה עם סטודיו פוקס, אך לאחר שהשתתף בשני סרטים בלבד, The Valiant ו Seven Faces, חזר מוני לבמות ברודווי. בשנת 1931, כיכב מוני בהפקת הבמה המקורית ל''Counsellor at Law'' , וחזר למסך הכסף בתפקיד הגנגסטר טוני קמונטה בסרט פני צלקת (1932).
באותה שנה הופיע בסרט I am a Fugative from a Chain Gang , אשר סימן את התחלת קשריו המקצועיים עם אולפן האחים וורנר. בשנת 1936, קיבל את פרס האוסקר לשחקן הטוב ביותר על הסרט ''סיפורו של לואי פסטר'' (1935).
העשור העוקב היה עמוס עבור מוני: הוא הופיע ביותר מעשרה סרטים, והמשיך לשחק בברודווי. אחד מתפקידיו הזכורים ביותר היה קלרנס דרו בהפקת ברודווי של משפט הקופים, עליו זכה בפרס טוני.
בנוסף לפרס האקדמיה בו זכה, מוני היה מועמד ארבע פעמים כשחקן הטוב ביותר לסרטים: The Valiant (1929), Chain Gang (1932), The Life of Emile Zola (1937), וכן The Last Angry Man.
הופעתו האחרונה של מוני בסרט הייתה ב''האיש הכועס האחרון'', שעלה ב1959. לאחר מכן החלה בריאותו של מוני להדרדר.
פול מוני נפטר ב25 לאוגוסט 1967 מאי ספיקת לב.
