קרל וולף נולד ב-24 במרץ 1907 בוינה, אוסטריה, ליוסף ותרזיה לבית שניי; אח צעיר ליוליוס, ואח בוגר להוגו, ג'וזפין ויעקב.
בשנת 1931 נשא קרל לאישה את חיה לבית קליינפלד. ב-8 בספטמבר 1936 הזוג עלה לארץ ישראל על סיפון האניה "הר ציון". הם התגוררו בבנימינה וקרל נמנה עם ראשוני הימאים העברים ועבד בחברת הספנות "הלויד הימי הארץ ישראלי" אשר חרטה על דגלה להפעיל אניות עבריות עם צוות עברי ודגל עברי.
קרל עבד על סיפון האניות הרץ-ישראליות הראשונות, תחילה על סיפון "הר כרמל" ובהמשך כקצין הנדסה שלישי על סיפון "הר ציון". האניות הפליגו לים התיכון, לים השחור ולצפון אירופה. רוב אנשי הצוות היו יהודים.
עם פרוץ מלחמת העולם השנייה גויסה "הר-ציון" לצי הסוחר הבריטי, והפליגה גם לבריטניה. בשנת 1940 נטלה חלק במאמץ השיירות באוקיינוס האטלנטי, לפרוץ את המצור הימי ששמו הצוללות הגרמניות על בריטניה. בכ"ח באב ת"ש (31.8.1940), כאשר "הר-ציון" היתה בדרכה מליברפול לארצות-הברית, נפגעה על-ידי צוללת גרמנית וירדה למצולות. 36 ימאים, 17 מהם ארץ-ישראלים, טבעו; קרל ביניהם.
רב החובל אריך הירשפלד ציין את זכרו של קרל בספר זכרונותיו: "...מחבר המלחים הישן נשארו באניה הטובעת ארבעה עשר איש, כולם יהודים, וביניהם המהנדס וולף, אחד המכונאים המוכשרים ביותר, ששרתו פעם תחת ידי. יחדיו התחלנו את עבודתנו ב„הר־ציון“ והוא סיים את שירותו יחד עם אבדן האניה".
קרל וולף היה בן 33 בנופלו והינו חלל אשר מקום קבורתו לא נודע. זכרו הונצח בלוח זכרון מס' 56 באנדרטת טאוור-היל בלונדון, באתר ההנצחה לימאי הצי הסוחר הבריטי בחיפה, ובגן הנעדרים ממערכות ישראל שבהר הרצל. הותיר אחריו בארץ ישראל אישה ובאוסטריה את בני משפחתו: אימו תרזיה ואחיו יוליוס נשלחו אל מחנות ההשמדה ב-1942. אלמנתו עזבה את ישראל ב-1947 והצטרפה אל אחיה הירש באוהיו, ארה"ב.
על הקורות את האנייה "הר-ציון" ונסיבות טביעתה פורסם בספר "הכובשים בים נתיבה". על האזכרה שנערכה לנעדרים נכתב בביטאון ההסתדרות הציונית העולמית "העולם".