生于维也纳。是皇帝利奥波德一世活着的长子，母为普法尔茨选侯之女埃利诺·冯·诺伊堡。出生即为奥地利首席大公，1687年，不满10岁就登位成为匈牙利国王。1690年1月6日，再获得罗马人国王的称号。1702年爆发西班牙王位继承战争，他在巴登亲王土耳其人路易(路德维希·威廉)军中效力。1705年，他继承父亲利奥波德一世成为神圣罗马帝国皇帝。他即位后，即行整顿奥地利混乱的财政，他将维也纳市银行改为国家银行，以支持奥地利的军事开支。他继续进行与法国人的战争，在他的杰出将军萨伏依的欧根亲王率领奥地利军队在义大利、德意志、尼德兰等地接连取得胜利，打败法王路易十四的军队。但也不时有新的敌人威胁他的领地。在他统治期间，匈牙利在特兰西瓦尼亚亲王费伦茨·拉科齐二世领导下发动了最大规模的争取民族独立的运动。1707年，费伦茨二世在法国支持下一度推翻了哈布斯堡王朝对匈牙利的统治。约瑟夫一世对此坚决反对。帝国进行了无情的镇压，他还不忘许诺允许匈牙利自治，到1711年匈牙利人的武装斗争已完全停止。费伦茨二世逃亡国外，匈牙利再次完全屈服于奥地利的统治，王室的威严得以恢复。1708年，教皇克雷芒十一世承认路易十四的孙子菲利普为西班牙国王（波旁的腓力五世），引起了他于教皇的冲突。奥地利军队向教皇国进攻，直到1709年，教皇再次宣布支持哈布斯堡王朝，由此奠定了以后150年奥地利在义大利的霸权。1711年4月，约瑟夫一世在维也纳死于天花，年仅33岁。其弟弟查理六世继承了他的帝位。虽然约瑟夫一世在位时间很短，但是他对外战胜强敌，对内稳定形势都取得了辉煌的成就。其早逝是哈布斯堡王朝的损失。三天之内，法国王储，路易十四的孙子也死于天花。

约瑟夫一世的母亲

约瑟夫一世皇宫

妻子：不伦瑞克-吕讷堡公爵小姐威廉敏娜·阿玛丽娅。

约瑟夫一世的妻子

子女：

1.玛丽亚·约瑟珐（奥地利女大公1699-1757）嫁给了波兰国王奥古斯特三世。

2.利奥波德·约瑟夫（奥地利大公1700-1701）早夭。

3.玛丽亚·阿玛丽娅（奥地利女大公1701-1756）嫁给了巴伐利亚选侯，以后的皇帝查理七世。