其實在阿爾弗雷德的早年生活中，充滿了讓人絕望的失敗，而他所有的言論都在表達對世界的不滿。不過他後來所獲得的巨大成功，可能讓他自己也深感意外。其幸運之處在於，他趕上了壹個極好的時代。在當時，四處修建鐵路催生了對鋼鐵的巨大需求，而此時美國的鋼鐵巨人卡內基還沒有建立起自己的鋼鐵王國。另外，克虜伯成功取得了火車輪轂的專利，使克虜伯在魯爾生產的輪轂可以源源不斷地供應給美國和歐洲的鐵路公司。
1811年其父弗雷德裏希·克虜伯創立克虜伯家族企業，1826年弗雷德裏希過世時，將制造優質鑄鋼的秘密和壹個生產幾乎陷入停頓的小工廠留給了他。他14歲便全權掌管企業，不久即擴充生產。包括制造鋼輥。他曾設計和發展壹些機械，發明羹匙壓制機以用於制造湯匙和叉子。還生產政府造幣廠使用的機械。
他吸引了很多新客戶，擴大自己的企業原料采購，並獲得擴大工廠所需的資金。1851年第壹次萬國工業博覽會---倫敦世博會上，他展示了當時最大的鋼錠（4300鎊），被放置在最顯眼的地方。由於鐵路的出現，他的企業才真正地開始興旺起來。起初他只生產鑄鋼的火車輪軸和彈簧，但在1852年，他制造出第壹個無縫的鋼火車輪轂，後來他用三個重疊的輪箍構成三環標誌作為公司的商標。
另外，1862年和1869年，他首先將貝塞麥煉鋼法和平爐煉鋼法引入歐洲，為了證明自己所生產鋼的質量，他開始生產槍炮。起初，在普魯士無人問津，最早的訂貨時埃及（1856年）、比利時（1861年）和俄國（1863年）。但是由於克虜伯槍炮在1870年的普法戰爭中顯示的性能，，他的企業遂有“帝國兵工廠”之稱。他在很多方面都是現代戰爭的奠基人。
在他去世的時候，他已為46個國家有提供武器裝備。他很早就認識到工業化中各種人的問題，他為自己的工人訂立了壹套完整的福利計劃，早在1836年，他就設置了疾病和喪葬基金。1855年他為他的雇員建造宿舍、醫院、學校和教堂。他的工人們無不忠心耿耿，他創立煉鋼廠時只有7名工人，而到他去世時，這個企業已有員工21000人 。他的兒子弗雷德裏希·阿爾弗雷德·克虜伯接替了他的位子。