עם עליית השלטון הנאצי בגרמניה בתחילת שנות השלושים הורו רבני הקהילה בתוניסיה על יום תפילה, צום ושביתת מלאכה כהזדהות עם יהדות גרמניה שהחלה לסבול תחת המגף הנאצי.
יהודי תוניסיה ראו את עצמם כפטריוטים צרפתים כאחיהם במרוקו ואלג'יריה שנהנו מזכיות אזרח מלאות וממעמד כלכלי איתן. דווקא הם לא חלמו שממשלת צרפת תהפוך את עורה כנגדם, הם תמכו בממשלה הצרפתית ואף קנו אגרות חוב בכדי לתמוך בה.
היטיבה לתאר חברת הכנסת לשעבר מטילדה גז על השינוי בחיי היהודים עם פרוץ המלחמה: "הטעם המר הגיע אלינו לא דרך הנאצים בתחילה, לא דרך הגרמנים, אלא דרך הצרפתים של מרשל פטן. הגרמנים השתוללו בארצות אירופה, אבל הצרפתים האנטישמיים השתוללו בתוניסיה ובכל ארצות צפון אפריקה. כשהתחילו להגביל את הילדים בבתי הספר ולמנוע מלהגיע אל האוניברסיטאות. התחילו להכניס את אפם בעסקים של היהודים, להתווכח על רווחים של יהודים. הכניסו עצם לכל הדברים. אלו הצרפתים, שחיינו אתם בידידות ובחברות טובה, והיו בני–בית אצלנו. פתאום הפכו את עורם, ופתאום שמו את הברבאסך על הראש והברסה בזרועם, ומיד נהפכו לעוינים, ופחדנו מהם לא פחות מאשר מן הערבים במקום".
תיאור זה אכן משקף את תחושותיה של יהדות תוניסיה אבל בהחלט לא היה המצב מבחינת השלטונות המקומיים והמושל הצרפתי שברובם ניסו למסמס את חוקי הגזע. דוגמא לכך היא ההגבלה על מספר הרופאים היהודים עד חמישה אחוז שקיומה היה בלתי אפשרי מכיוון ששלושים אחוז מהרופאים היו יהודים. לא תמיד היה זה מאהבת מרדכי ובדרך כלל היה זה בכדי לשמור על הסדר הציבורי ועל השאיפה המשותפת לעצמאות.
עם הכיבוש האמריקאי של אלג'יר ומרוקו בתשיעי לנובמבר 1942 פלשו הגרמנים לתוניסיה עד לנצחון עליהם לאחר חצי שנה. בחצי שנת שלטונם הם הקימו מעין יודנראט מקומי והעבידו בכפיה אלפי יהודים לצד החרמת רכוש ומגבלות נוספות שהוטלו ואלימות אכזרית שהופנתה נגד היהודים.
מספר מועט מאוד של יהודים הגיעו למחנות השמדה באירופה. הידוע שבהם הוא היהודי שהיה אלוף העולם באיגרוף ויקטור פרץ שמת בצעדת המוות שיצאה מאושוויץ.