回到尾张之后，秀吉想尽种种办法接近织田信长。在织田家中，他的第一份工作仍是替信长拿拖鞋。虽然同样是拿拖鞋的工作，但秀吉比从前更加用心。譬如说在寒冬的清晨，他将信长的拖鞋放进怀里温暖，信长对于这种用心当然会有所回报。在六年后，也就是永禄二（1560）年，织田信长在桶狭间发动奇袭，打倒今川义元，一跃而成为天下出名的武将。
此时，秀吉担任杂物采购官，发挥了开源节流的长才，他将支出减少了三分之二，当清州城城墙破损而没钱修理时，他又毛遂自担任营缮官，将城墙修补完毕。就在桶狭间之战的那一年，秀吉与织田家的浅野又左卫门长胜的养女……（后来尊称为北政所）结婚。由于他是从步兵之子入赘于武士之家，所以改名为藤吉郎，另一名字为秀吉。此时秀吉二十五岁。
后来约在秀吉三十八岁时，他又从织田家的大老丹羽长秀与柴田胜家两人的姓中各取一字，改姓为羽柴。永禄九（1566）年九月，当织田信长攻打美浓的斋藤氏时，织田军最重要的战术工作就是于墨保（现岐阜县安八郡）建筑堡垒。织田信长派遣三分之二的军队去建筑堡垒，剩下的三分之一用来防卫敌人的攻击。这建筑堡垒的工作就由秀吉来负责。
秀吉先将建筑堡垒的木材运往木曾川的上游，然后用木筏沿着河流运送下来。建材运到之后，才二、三天，堡垒就建好了。之后，秀吉又建议借用当地土豪的野武士力量，夜袭敌阵，结果获得大胜。这次大捷，秀吉成为信长麾下的一名大将。
1582年6月2日拂晓，明智光秀举兵叛变，织田信长在本能寺自杀身亡。这一个事件改变了秀吉的命运。根据《川角太阁记》的记载，明智光秀在事变之后，立刻派密使去向毛利氏报告。没想到这密使在暗夜中迷失方向，误入羽柴秀吉的兵营中。
此时正好是本能寺之变得第二天。秀吉知道此事后大吃一惊，同时他也预感到他的一生的命运将会有巨大的转变羽柴秀吉不敢张扬此事，翌日（4日）立刻与毛利军的高松城城主清水宗治达成和谈协议。6月5日清晨，秀吉从高松城撤退，挥兵讨伐明智光秀。秀吉的军队在滂沱大雨中，日以继夜的强行军，奔驰了约一百零八公里的路途，终于在七日的傍晚抵达自己的居城——姬路城。
秀吉一回到姬路城，立刻跳进澡池里泡热水澡。他在澡池里面，发布出兵的顺序，并命令将城中所有的资金与兵粮完全分发给将士，毫不保留。从这里可以看出，羽柴秀吉为了这一战，将他一生的命运孤注一掷。
此时秀吉心中应早有胜算。因为明智光秀背负着反叛主君的罪名，事实上连光秀以为一定会来援助他的细川父子都剃掉头发，与他绝交。表面上看起来，明智光秀似乎太过盲动了，其实本能寺之变时，织田信长的主要将都在远方与强敌作战，而织田信长最忠实的盟友——德川家康也正在京都大阪观光，几乎不带一兵一卒。
因此明智光秀举兵叛变得时机并没有错误，只是他的运气太差了，真可谓人算不如天算。现代日语中，有“天王山”一词，意为决定胜负的重要关键。这是指明智光秀听到秀吉率快军往京都来时，他立刻带兵前往自古有要塞之称的山崎（位于京都大山崎町），并欲控制山崎后方的天王山。没想到秀吉已经早他一步占了天王山。此时，秀吉的军队约四万人，光秀一万六千人，胜负早已揭晓。光秀在逃亡中被土民杀死，他的军队也四分五裂。