בן חנה ומכלוף. נולד ביום כ"ה בכסלו תר"ץ (27.12.1929) בחיפה.
למד בבית-הספר האנגלי "סנט לוקס" וממנו עבר ללמוד מסגרות בבית-הספר המקצועי שליד הטכניון. בתום לימודיו החל לעבוד בבתי הזיקוק שבמפרץ חיפה, מלאכה שאהב מאוד ומצא בה סיפוק רב. עוד בהיותו בבית-הספר המקצועי הצטרף יוסף לשורות ה"הגנה" ומילא בה תפקידים רבים וחשובים ברצון ובמסירות. כאשר פורסם צו הגיוס הראשון בפרוץ מלחמת-העצמאות הזדרז יוסף להגיע ללשכת הגיוס כדי להיות בין המתנדבים הראשונים אך לא הספיק להתגייס; יומיים לפני מועד גיוסו, ביום י"ז בטבת תש"ח (30.12.1947), התנפלו פורעים ערביים על היהודים עובדי בתי הזיקוק וערכו בהם טבח אכזרי. בין עשרות הנרצחים היה גם יוסף. הובא למנוחת-עולמים בבית-הקברות חוף הכרמל בחיפה.
פרטי חייו של יוסף שמחון וקורותיו, הופיעו באופן חלקי באתר יזכור של משרד הביטחון
סיפורו נחקר והושלם בשנת 2014 על ידי מתנדבי "לתת פנים לנופלים"