这时候，在美国宾夕法尼亚州已经发现了石油，成千上万的人潮水一样涌向采油区。一时间，宾夕法尼亚的土地上井架林立，原油产量飞速上升。
冷静的洛克菲勒没有盲目行动。经过实地考察，他决定先不在原油生产上投资，因为那里的油井已有72座，日产1165桶，而石油需求有限，油市的行情必定下跌。事情的发展果然不出洛克菲勒所料，"打先锋的赚不到钱"。
由于疯狂地钻油，导致油价一跌再跌，每桶原油从当初的20美元暴跌到只有10美分。那些钻油先锋一个个败下阵来。
3年后，原油一再暴跌之时，洛克菲勒认为投资石油的时候到了，这大大出乎一般人的意料。他与克拉克共同投资4000美元，与一个在炼油厂工作的英国人安德鲁斯合伙开设了一家炼油厂。安德鲁斯采用一种新技术提炼煤油，油厂的发展很迅速。洛克菲勒后来从克拉克手上高价买下公司的股权，把公司改名为"洛克菲勒-安德鲁斯公司"，满怀希望地干起了他的石油事业。
他很快就扩充了炼油设备，日产油量达到500桶，年销售额也超出百万美元。洛克菲勒的公司成了克利夫兰最大的一家炼油公司。
当时，石油业秩序还非常混乱，生产过剩，质量较差，价格混乱，激烈的角逐已现端倪。洛克菲勒的公司就像汪洋大海中的一叶小舟，随时都有沉没的危险。这时候洛克菲勒清醒地认识到，必须把自己的企业扩大，只有"船"大了，才可能抵御惊涛骇浪的冲击。他说服自己的弟弟威廉参加进来，建立了第二家炼油公司，并派他去纽约经营石油进出口贸易，尽快打开欧洲市场。
在威廉临去纽约前，兄弟俩踌躇满志地立下了誓言："我们要扩张，再扩张，资金越多，我们发展的本钱也越丰厚，我们要独霸世界。"
尽管当时洛克菲勒对于自己将要创造的"超级帝国"，心中并没有什么明确的概念，但他对企业的未来及个人的前途信心百倍。他在克利夫兰市的总部坐镇指挥全局，应付着一切挑战。
高瞻远瞩的洛克菲勒从一开始就把目光转向国际市场。他在纽约开设的办事处，专门向东海岸和国外出售公司产品。他尽可能削减各种成本，比如，他自制油桶，并买下一家化学公司，自制炼油用的硫酸；为了免付铁路运输费用，他还购买了油船和输油管。年轻时养成的节约习惯，被洛克菲勒用到了生产中，发挥出巨大的效益。
洛克菲勒热衷于公司间的联合，他联合了两位资金雄厚、信誉很好的投资合作者。3年之后，也就是1870年1月10日，他们共同创建了一家资本总额为100万美元的新公司——标准石油公司。身为公司创办人和总裁的洛克菲勒获得了公司1／4强的股权，当时，他年仅30岁。科学的管理、精细的经营和高质量的产品，为标准石油公司赢得了声誉，也具备了坚实的竞争能力。1865年洛克菲勒初进石油业时，克利夫兰有55家炼油厂，到1870年标准石油公司成立时只有26家生存下来。1872年底，标准石油公司就控制了这26家中的21家，洛克菲勒的石油帝国日渐成型。
洛克菲勒看到，随着他的石油帝国的不断发展，因本身庞大而导致的难以控制的危险性也越来越大。这一弊病引起了他的格外重视。
一天，洛克菲勒在一本公开发行的刊物上发现一篇文章，里面写道："小商人时代结束，大企业时代来临。"他感到这与自己的垄断思想不谋而合，就对文章予以高度评价，并以高达500美元的月薪聘请文章的作者多德为法律顾问。
多德受聘后，为报知遇之恩，就千方百计为洛克菲勒的公司寻找法律上的漏洞。一天，他在仔细研读《英国法》中的信托制度时，突然产生出灵感，提出了"托拉斯"这个垄断组织的概念。
什么是"托拉斯"呢?就是生产同类产品的多家企业，不再各自为政，而是以高度联合的形式组成一个综合性企业集团。这种形式比起最初的"卡特尔"，即那种各自独立的企业，为了掌握市场而在生产和销售方面结成联合战线的方式，垄断性要强得多。
洛克菲勒运用多德的"托拉斯"理论，在1882年1月20日召开标准石油公司的股东大会，组成9人的"受托委员会"，掌管所有标准石油公司的股票和附属公司的股票。洛克菲勒被选为该委员会的委员长。随后，受托委员会发行了70万张信托证书，仅洛克菲勒等4人就拥有46万多张，占总数的2／3。
就这样，洛克菲勒如愿以偿地创建了一个史无前例的联合事业——托拉斯。在这个托拉斯结构下，洛克菲勒合并了40多家厂商，垄断了全国80％的炼油工业和90％的油管生意。
傲笑油界传奇故事后人称道
不久，托拉斯在全美各地、各行业野火般迅速蔓延开来。在短短的时间内，这种垄断组织形式就占了美国经济的90％。显然，洛克菲勒成功地造就了美国历史上一个独特的时代——垄断时代。
19世纪80年代，洛克菲勒大举向西欧和中国扩大海外市场，美国的工艺已使标准公司的产品优于欧洲人的产品，因而标准公司赢得了欧洲大部分地区的煤油市场。在中国，标准公司为自己开创了一个全新的市场。它分送掉几百万盏廉价的油灯，以使中国人购买和点燃标准公司的煤油，人们称之为"点燃亚洲光明之灯"，就这样，标准公司一步一步地把石油市场从欧洲扩展到亚洲，进而扩展到全世界。
1884年，洛克菲勒把标准公司总部由克利夫兰迁到纽约，成了全世界最大的石油集团企业。约翰·洛克菲勒成了当仁不让、蜚声海内外的"石油大王"。标准石油公司几经更名，最后定名为美孚石油公司。
1896年，57岁的洛克菲勒退休了。洛克菲勒退休后，几乎将全部的精力放到了发展慈善事业上。从19世纪90年代开始，他每年的捐献都超过100万美元。1913年，他设立了"洛克菲勒基金会"，专门负责捐款工作。他捐款总额高达5亿美元之多。后代沿袭他的做法，到1950年，共捐赠25亿美元。以他名字命名的基金会培养了3个国务卿、12个诺贝尔医学奖获得者和众多的科学家。被称为"亚洲第一流的医学院"的中国北京协和医院即是洛克菲勒基金会捐款修建的。
洛克菲勒退休后又活了41年。1937年5月23日，98岁的洛克菲勒在他位于奥尔蒙德海滩的别墅里去世了。他的子孙继承了他的事业。洛克菲勒家族成了美国10大超级富豪之一，也是当今美国最负盛名的家族之一。他的孙子纳尔逊·洛克菲勒曾当上了美国副总统，而他的另一个孙子大卫·洛克菲勒，则是赫赫有名的大银行家。