هایدن، در روستایی کوچک در روهراو اتریش زاده شد. پدرش چرخ ارابه می ساخت و هایدن کوچک تا شش سالگی به‌جز آوازهای عامیانه که پدرش دلبستهٔ خواندن آنها بود و نیز رقص هایی روستایی که هنگام جشن و سرور در گوشه و کنار زادگاهش برپا می‌شد، چیزی از موسیقی نمی‌شناخت. در ۸ سالگی به وین رفت تا به عضویت پسران آواز خوان کلیسای سن‌اشتفان درآید. در آن‌جا اگرچه صدای دلنشین او مورد توجه قرار گرفت، اما هیچ امکانی برای تحصیل آهنگسازی و هنر نوازندگی برایش فراهم نیامد و هنگامی که صدای خوشش را از دست داد او را بدون کمترین پول از سن‌اشتفان روانهٔ گوشهٔ خیابان کردند.
او درباره این دوره چنین گفته:
با تدريس موسيقی به بچه‌های ۷، ۸ ساله بود که به زحمت می‌توانستم زنده بمانم
او در آن ایام در تلاش بود تا فنّ آهنگسازی را خود به تنهایی بیاموزد و همزمان به هر کاری که می‌توانست از جمله نوازندگی ویولون در گروه محبوب نوازندگان خیابان وین که اسباب سرگرمی و تفریح شبانهٔ مردم را فراهم می‌کرد می‌پرداخت.
هایدن گرچه خود را اسیر شغلش حس می‌کرد، اما بعدها در توصیفی خردمندانه از وضعیت خود چنین گفت : «آن‌جا نه‌فقط دلگرم به اقبال و پذیرش مداوم بودم بلکه در مقام رهبر ارکستر می‌توانستم تجربه کنم و دریابم که چه‌چیز سبب تقویت جلوه‌ای صوتی می‌شود یا آن را تضعیف می‌کند و به این ترتیب می‌توانستم به دلخواه خود ترکیب سازها را بهبود بخشم، آنها را تغییر دهم و سازهایی را خذف یا اضافه کنم. از دنیا دور افتاده بودم.»
هایدن رهیاب سبک کلاسیک در تکامل بخشیدن به سمفونی و کوارتت زهی پیشرو بود. موتسارت و بتهوون از سبک او تأثیر پذیرفته بودند.
هایدن در سال ۱۸۰۹ هنگام اشغال وین توسط ارتش ناپلئون در ۷۷ سالگی در گذشت.
