最早的滑動和滾動體軸承是木制的。陶瓷、藍寶石或者玻璃也有使用，鋼、銅、其他金屬、塑料（比如尼龍、膠木、特氟隆和UHMWPE）都被普遍使用。
從重載車輪軸和機床主軸到精密的鐘表零件，很多場合都需要旋轉軸承。最簡單的旋轉軸承是軸套軸承，它只是壹個夾在車輪和輪軸之間的襯套。這種設計隨後被滾動軸承替代，就是用很多圓柱形的滾子替代原先的襯套，每個滾動體就像壹個單獨的車輪。最早投入實用的帶有保持架的滾動軸承是鐘表匠約翰·哈裏遜於1760年為制作H3計時計而發明的。
在意大利奈米湖發現的壹艘古羅馬船只上，發現了早期的球軸承的實例。這個木制球軸承是用來支撐旋轉桌面的。這艘船建造於公元前40年。據說列昂納多·達·芬奇在1500年左右曾經對壹種球軸承進行過描述。球軸承的各種不成熟因素中，有很重要的壹點就是球之間會發生碰撞，造成額外的摩擦。但是可以通過把球放進壹個個小籠裏防止這種現象。17世紀，伽利略對“固定球”的，或者“籠裝球”的球軸承做過最早的描述。但在隨後相當長的時間裏，在機器上安裝軸承壹直沒有實現。第壹個關於球溝道的專利是卡馬森的菲利普·沃恩在1794年獲得的。
1883年，弗裏德裏希·費舍爾提出了使用合適的生產機器磨制大小相同、圓度準確的鋼球的主張。這奠定了創建獨立的軸承工業的基礎。“Fischers Automatische Gu?stahlkugelfabrik”或者“Fischer Aktien-Gesellschaft”的首字母組合後來成了商標，在1905年7月29日註冊。1962年，FAG這個商標作了修改並沿用至今，並在1979年成為了公司不可分割的壹部分。
1907年，SKF軸承工廠的斯文·溫奎斯特設計了最早的現代自調心球軸承。