天文9年（1540年）、竹阿弥の子、秀吉の異父弟（一説に同父弟）として生まれる。幼少時に秀吉が家を飛び出したため、面識は少ないと思われる。
秀吉に仕え始めた正確な記述はなく、秀吉とねねとの婚礼（永禄7年（1564年））の後という説が多い（秀吉は婚礼後足軽小頭に出世したが、その以前では家臣を雇える程の禄はなかった）。
秀長の前に義弟・浅野長政に家臣の話を持ちかけたという話もある。しかし武士の心得を一切習っていなかった状態から、たった数年で秀吉の補佐ができる状態まで上達したのは特異な事である。
元亀元年（1570年）、越前討伐の最中に浅井長政の挟撃の報せを聞き、織田軍は退却を決定。秀吉は殿を勤めることになった（金ヶ崎の退き口）。
秀長は第一備えの大将に任命され、蜂須賀正勝・前野長康と共に尽力する。
天正元年（1573年）、秀吉は浅井家潰滅の功により長浜城主となり、名を羽柴秀吉と改める。
秀長自身も時には城代を務める事もあり、この時期から秀長の諱を使用し始めたと思われる。
諱の由来は、秀吉の唯一の味方であった丹羽長秀からという説が強い。この数年後、秀長自身の右腕となる藤堂高虎が仕官してくる。
この主従は秀長の養子である秀保が早世するまで続く。
天正2年（1574年）、秀吉が越前一向一揆と対峙して出陣できなかったため、兄の代理として長島一向一揆討伐に出陣する（『信長公記』）。
秀吉が信長の命令で中国方面総司令官となると但馬平定の指揮を委ねられる。
黒田孝高（官兵衛）宛の秀吉直筆の手紙に信頼の代名詞として小一郎の名を出すなど、秀吉陣営の最重要の人物に成長する（黒田侯爵家文書）。
天正5年（1577年）に但馬竹田城が斎村政広によって落城すると、城代に任命される。
天正8年（1580年）、秀吉軍が但馬出石城を落城させ、これにより但馬平定が完了する。秀長は出石城主となり、また但馬7郡10万5000石を治める大名となる。
また領地内にある生野銀山の管理にも携わっていた。
天正10年6月2日（1582年6月21日）、信長が本能寺の変で死亡すると、秀吉の大返しに従って山崎の戦いに参戦。
黒田孝高と共に天王山の守備にあたる。
同年、従五位下、美濃守に叙位・任官する。
天正11年（1583年）、賤ヶ岳の戦いに参戦。拮抗状態の続く最中、織田信孝が挙兵。秀吉が制圧に向かう間に、佐久間盛政が本陣に進撃する。
これにより中川清秀が戦死したが、その後に折り返した秀吉軍により勝利した。
また史料『老人雑話』によると秀長は秀吉に、清秀戦死の責任を叱責されたという。しかし秀吉の行動が用意周到のため、作戦だったという説もあり。
作戦ならば守備を任された秀長は、陣を崩さない任だった可能性が高い。また『老人雑話』は史料として疑問視されている。
天正12年（1584年）、小牧・長久手の戦いが起きる。
秀長は守山に進軍し、織田信雄を監視する。この戦いで甥である羽柴秀次が秀吉に叱責されたのは有名。
その後の遠征では秀長と従軍し四国征伐では大きな戦功を上げ、秀吉に対する秀次の信頼回復に尽力した。
天正13年（1585年）の紀州征伐では、秀次と共に秀吉の副官に任命される。征伐後、兄から紀伊・和泉などの64万石の所領を与えられる。
同年、和歌山城の築城時に普請奉行を藤堂高虎に任命する。築城の名手として名高い高虎の最初の築城である。
同年6月、四国征伐では兄の代理として10万を超える兵の総大将に任じられる。しかし長宗我部の抵抗も激しく、また毛利氏・宇喜多氏の合同軍のため侵攻が遅れ気味となり秀吉から援軍の申し出がだされた。
しかし秀長は断りの書状を送った（『四国御発向事』）。これは現存する数少ない秀長の書状の1つと言われている。
同年8月、長宗我部元親を降した功績を賞されて大和を加増されて郡山城に入り、116万石の大大名となった。
悠悠自適なイメージを抱きがちだが秀長の領土である大和・和泉・紀伊は寺社勢力が非常に強く、決して治め易い土地柄ではない。
諸問題の解決にときに苛烈な処置を辞さなかったものの、後に大きな問題も残さなかったところを見ると内政面でも功績があったことが伺える。
現に大和入国と同時期に盗賊の追補を通達（廊坊家文書）、検地実施（諸家単一文書）、全5ヶ条の掟（法隆寺文書）を行うなど多くの政策を実施している。
天正14年2月8日（1586年3月27日）、摂津国有馬湯山へ入る（『多聞院日記』）。
この頃から体調が崩れやすくなった思われ、この後も数度にわたり湯治に来る。また湯治中に金蔵院・宝光院などが見舞いとして訪れており、本願寺顕如からも使者が訪れている。
10月26日（12月6日）、上洛を拒み続けた徳川家康がついに大坂に到着し、秀長邸に宿泊。その晩、秀吉自身が家康に臣従を求める事件が起きる。
この事を記す記録書は多く存在する（『家忠日記』、『徳川実紀』）。しかし秀長・秀吉以外に記されている人物は浅野長政だけであり、身内だけの秘密裏の作戦と思われる。
天正15年（1587年）、九州征伐では別働隊である日向国方面の総大将として出陣する。
耳川の戦いの舞台となった高城を包囲すると、援軍として駆けつけた島津義弘が宮部継潤の陣に夜襲する（根白坂の戦い）。
継潤が抗戦している間に、高虎・孝高と合流。夜襲は失敗に終わり、島津軍が薩摩国に撤退。
その後、島津家久が講和に秀長を訪ね日向方面の進軍は終了する。この功績により8月に従二位・大納言に叙任された。
天正17年1月1日（1589年2月15日）、大坂城にて諸大名と共に秀吉に新年祝賀の太刀進上を行う（『後編旧記雑録』）。
この後大坂城を訪れたという記録はなく、最後の面会と思われる。
天正18年（1590年）1月頃から病が悪化、小田原征伐には参加できなかった。
10月頃に秀次が秀長の病気本復を祈願のため談山神社に訪れる。両者の関係も良かったと思われる。
天正19年1月22日（1591年2月15日）、郡山城で病死した。享年52。
男子がいなかったため、家督は甥の豊臣秀保を養嗣子として後を継がせた。
戒名は「大光院殿前亜相春岳紹栄大居士」。
現在の大和郡山市箕山町に「大納言塚」が伝わる。また大阪市中央区の豐國神社には、兄・秀吉及び甥・秀頼と共に祀られている。