محمد جواد ظریف فرزند عباسعلی، متولد ۱۷ دی ماه سال ۱۳۳۸ در تهران است. او در خانواده ای سنتی، بازاری، مذهبی و متمول در جنوب تهران متولد شد. خانه پدری پشت باغ شاه و خارج از محدود شهر تهران بود که با بزرگ شدن تهران به محدوده شهری پیوست؛ جایی در حوالی خیابان‌های کاشان و کمالی. کوچه‌هایی که هنوز هم درختان بلند و شاخه‌های درهم فرورفته آن از اصالت محله خبر می‌دهد. چند‌ قدم آن طرف‌تر نیز - از خیابان کمالی به سمت خیابان مخصوص- خانه‌ای‌ است که از روزهای به‌توپ‌بستن مجلس به‌یادگار مانده و محل دفن میرزا جهانگیرخان صوراسرافیل، مدیر روزنامه صوراسرافیل و میرزا نصرا... بهشتی، معروف به ملک‌المتکلمین است.

برخلاف بسیاری از بازاری‌های مذهبی دهه ۴۰-۵۰ که جملگی طرفدار روحانیون از جمله آیت الله خمینی بودند، عباسعلی ظریف خوانساری، هیچ گاه با انقلابیون و رهبر آنها همراه نشد و اتفاقا با پیوستن پسرش به صف انقلابیون نیز مخالف بود. محمد جواد در چنین فضایی پا به مدرسه علوی گذاشت تا تحصیل را آغاز کند. مدرسه علوی جایی بود که ایدئولوگ‌های اسلامی فرزندان خود را به آن می‌فرستادند. شاید اولین جرقه‌های انقلابی گری در همین مدرسه در ذهن جواد ظریف زده شد.

محمد جواد هنوز کلاس سوم دبیرستان را در دبیرستان خوارزمی تجریش، تمام نکرده بود که با اصرار پدر را راضی کرد تا در ۱۷ سالگی و قبل از رسیدن به سن سربازی، به آمریکا برود. نهایت پدرش با رفتن‌اش موافقت می‌کند.

جواد ظریف پس از اخذ دیپلم در آمریکا، وارد دانشگاه سانفرانسیسکو در ایالت کالیفرنیا شد تا در رشته روابط بین الملل تحصیل کند. او در این مقطع به انجمن اسلامی دانشجویان کالیفرنیا، تاسیس شده توسط مصطفی چمران، مستقر در دانشگاه برکلی، در نزدیکی سانفرانسیسک پیوست تا در کنار دانشجویانی که بعدها چهره‌های موثری در نظام جمهوری اسلامی شدند فعالیت کنند. افرادی همچون جواد لاریجانی، محمد هاشمی، محسن نوربخش و حسین شیخ الاسلام. 

با پیروزی انقلاب ۵۷، ظریف به همراه جمعی از دوستان‌اش، اداره کنسولگری ایران در سانفرانسیسکو را عهده دار شدند. اما بحران گروگانگیری دیپلمات‌های آمریکایی در تهران، به تعطیلی کنسولگری‌های ایران در آمریکا منجر شد. تنها دفتر کنسولی ایران که باز ماند، دفتر سازمان ملل در نیویورک بود، و اتفاقا جواد ظریف به این دفتر پیوست تا با حضور در آمریکا بتواند هم تحصیل‌اش را به اتمام برساند و هم در این دفتر مشغول فعالیت باشد. او البته مدتی به دنور آمریکا رفت تا دکترای خود را در دانشگاه این شهر به پایان برساند.

جواد ظریف در آمریکا با سعید امامی متهم ردیف اول قتل‌های زنجیره ای آشنا شد. او در خصوص دوستی‌اش با سعید امامی در کتاب خاطرات‌اش می‌نویسد: «از همان دوران دانشجویی با سعید امامی(اسلامی) رفاقت و رفت و آمد خانوادگی داشتم. با سعید امامی در کمیته‌ای همکاری داشتم که قرار بود به اتهامات نقض حقوق بشری در ایران پاسخ بدهیم.» سعید امامی بعد از بازگشت به ایران به وزارت اطلاعات پیوست و تا مقام معاونت وزارت پیش رفت. او بعد از قتل‌های زنجیره ای در زندان به طور مشکوکی کشته شد.

حضور طولانی مدت ظریف در نیویورک آمریکا و دسته بندی‌های درونی وزارت خارجه، باعث شده تا او به عنوان سرشاخه باند «نیویورکی‌ها» معروف شود. ظریف سال ۶۷ پس از حدود ۱۳ زندگی در آمریکا به تهران برگشت، اما با حکم سرپرستی موقت نمایندگی ایران در سازمان ملل مجدد به نیویورک بازگردانده شد. این حکم زیاد دوام نیاورد تا او در سال ۶۸ مجدد به تهران بازگردد.