最早钻油的是中国人，最早的油井是4世纪或者更早出现的。中国人使用固定在竹竿一端的钻头钻井，其深度可达约一千米。他们焚烧石油来蒸发盐卤制食盐。10世纪时他们使用竹竿做的管道来连接油井和盐井。“石油”一词首次在梦溪笔谈中出现并沿用至今。古代波斯的石板纪录似乎说明波斯上层社会使用石油作为药物和照明。
8世纪新建的巴格达的街道上铺有从当地附近的自然露天油矿获得的沥青。9世纪亚塞拜然巴库的油田用来生产轻石油。10世纪地理学家阿布•哈桑•阿里•麦斯欧迪和13世纪马可•波罗曾描述过巴库的油田。他们说这些油田每日可以开采数百船石油。
现代石油历史始于1846年，当时生活在加拿大大西洋省区的亚布拉罕•季斯纳发明了从煤中提取煤油的方法。1852年波兰人依格纳茨•武卡谢维奇(Ignacy Łukasiewicz)发明了使用更易获得的石油提取煤油的方法。次年波兰南部克洛斯诺附近开辟了第一座现代的油矿。这些发明很快就在全世界普及开来了。1861年在巴库建立了世界上第一座炼油厂。当时巴库出产世界上90%的石油。后来斯大林格勒战役就是为夺取巴库油田而展开的。
19世纪石油工业的发展缓慢，提炼的石油主要是用来作为油灯的燃料。20世纪初随着内燃机的发明情况骤变，至今为止石油是最重要的内燃机燃料。尤其在美国在得克萨斯州、俄克拉何马州和加利福尼亚州的油田发现导致“淘金热”一般的形势。
到1910年为止，在加拿大(尤其是在艾伯塔)、荷属东印度、波斯、秘鲁、委内瑞拉和墨西哥发现了新的油田。这些油田全部被工业化开发。
直到1950年代中为止，煤依然是世界上最重要的燃料，但石油的消耗量增长迅速。1973年能源危机和1979年能源危机爆发后媒介开始注重对石油提供程度进行报导。这也使人们意识到石油是一种有限的原料，最后会耗尽。不过至今为止所有预言石油即将用尽的试图都没有实现，所以也有人对这个讨论表示不以为然。石油的未来至今还无定论。2004年一份《今日美国》的新闻报导说地下的石油还够用40年。有些人认为，由于石油的总量是有限的，因此1970年代预言的耗尽今天虽然没有发生，但是这不过是被迟缓而已。也有人认为随着技术的发展人类总是能够找到足够的便宜的碳氢化合物的来源的。地球上还有大量焦油砂、沥青和油母页岩等石油储藏，它们足以提供未来的石油来源。目前已经发现的加拿大的焦油砂和美国的油母页岩就含有相当于所有目前已知的油田的石油。
现在90%的运输能量是依靠石油获得的。石油运输方便、能量密度高，因此是最重要的运输驱动能源。此外它是许多工业化学产品的原料，因此它是目前世界上最重要的商品之一。在许多军事冲突(包括第二次世界大战和波斯湾战争)中占据石油来源是一个重要因素。
中东首次发现石油，是在1908年的波斯(今伊朗)，而今天约80%可以开采的石油储藏位于该地区，其中62.5%位于沙特阿拉伯(12.5%)(1938年发现石油)、阿拉伯联合大公国、伊拉克、卡达和科威特。
