ג'יימס ג'וזף בראון נולד ב-3 במאי 1933 בקרוליינה הדרומית שבארצות הברית. אימו הייתה אפרו אמריקאית, ואביו ממוצא מעורב - אפרו אמריקאי ואמריקאי ילידי. בראון גדל בעוני רב, וכשהיה בן 4 או 5, משפחתו עברה לאוגוסטה, ג'ורג'יה. בשנים שלאחר מכן אמו של בראון עברה לניו יורק כתוצאה מבעיות משפחתיות ובראון נשר מהלימודים בגיל 12. בגיל זה החל ללמוד נגינה בפסנתר ובגיטרה. הוא אף ניהל קריירה קצרה בתור מתאגרף. בגיל 16 הוא הורשע בגנבה ונשלח למרכז מעצר לנוער, שם הקים רביעיית גוספל.
בראון החל את קריירת המוזיקה המקצועית שלו בשנת 1953. תהילתו הייתה בשיאה בסוף שנות החמישים ותחילת שנות השישים, כאשר בשנת 1964 כתב את השיר "Out of Sight", שנחשב לשיר הראשון המיוחס לז'אנר הפ'אנק, ומאפייניו הם מקצבי ריקודים מקוטעים ונוכחות בולטת של כלי נשיפה. בשנת 1967 הוציא את הסינגל "Cold Sweat" שהגדיר מחדש את הפ'אנק. לא עוד סוג של רית'ם אנד בלוז עם כלי נשיפה, אלא נוסחה פשוטה יותר ובה אקורד אחד מוביל המשתנה רק פעם אחת במהלך השיר. את השיר כולו מלווה לראשונה נגינת "גיטרה פ'אנקית", בה מנגנים ארבע פעימות אך הפעימה הראשונה מעוכבת בשמינית תיבה. סגנון זה הועתק לאחר מכן לרוב שיריו של בראון ושל רוב אמני הפ'אנק.
למרות מספר בעיות אישיות ומכשולים שונים, הוא המשיך ליצור להיטים עד סוף שנות השמונים.
בשנות השישים והשבעים היה בראון מעורב בפרשות פוליטיות אמריקאיות, בעיקר כתוצאה מפעילותו בשמם של האפרו-אמריקנים, בהקשר זה נכתב השיר "Say It Loud — I'm Black and I'm Proud", שהיה אחד ההמנונים החשובים של מאבקי התנועה האפרו-אמריקאית לזכויות האזרח. המסר של השיר השפיע על רבים: "אמור זאת בקול: אני שחור וגאה... המון אנשים חושבים שיש בנו הרבה רשעות, אחרים חושבים שיש בנו הרבה חוצפה. אבל אני אומר שלא נפסיק לזוז עד שנקבל את מה שמגיע לנו... אנחנו דורשים עכשיו הזדמנות לעשות דברים בשביל עצמנו. נמאס לנו לחבוט את הראש בקיר ולעבוד בשביל מישהו אחר. אנחנו אנשים... נעדיף למות על רגלינו מלחיות על ברכינו".[2]
בשנת 1992 זכה בראון בפרס גראמי עבור מפעל חיים.