在公元前3000年蘇美人烏爾城邦的國王墓穴中就曾發現過清理口腔用的最早工具——牙棒，壹支能用上兩個星期。在古希臘和羅馬時代人們用動物骨灰做牙粉清理口腔，還有些原始部落用木炭、鹽水、細砂、樹枝來清理牙齒。將壹端搗碎，做成刷狀，用來清理牙縫及刷牙，稱之為Miswak，是壹種天然牙刷，據科學家分析，這種樹枝含氟及皂素，可預防蛀牙，並有止痛作用。
中國關於咀嚼棒的記載最早可以追溯到公元前1600年。中國古人通常把楊柳枝泡在水裏，需要用的時候就把楊柳枝的壹端咀嚼咬開，產生很多細軟小條，形成類似牙刷的刷毛，兼具牙刷和牙簽的功能。古語“晨嚼齒木”就是這個來源。
中國人在2000多年前就懂得保護牙齒的重要。《史記·倉公傳》中就批出引起齲齒的原因是 “食而不漱”。《禮記》中：“雞初鳴，鹹盥嗽”就說明人們已有了漱口的習慣。古人清理口腔和牙齒用手指和柳枝。敦煌壁畫《勞度叉頭聖圖》中，畫有壹和尚，蹲在地上，左手持漱口水瓶，用右手中指揩前齒。元代正式有 “牙刷”壹詞，郭玉詩中雲： “南洲牙刷寄頭日，去垢滌煩壹金值。”和中草藥研制成的揩齒粉末刷牙。
時至今日，非洲、美國南部農村中依然保留了使用咀嚼棒的習慣。
最早的牙刷
中國現今出土最早的牙刷為秦代青銅牙刷。
目前公認的最早牙刷是中國唐代（公元619–公元907）制造的，其形態已經非常接近現代牙刷。它的刷毛部分用豬鬃制成，然後固定到竹子或骨骼制成的柄上，形成壹個牙刷。
根據1223年日本道元和尚的記載，他在中國遊歷時曾見到和尚使用馬尾毛制成的牙刷清潔牙齒，這可以視為壹個佐證。
隨後這種牙刷被旅行者帶回歐洲。大約到了17世紀，牙刷逐漸被歐洲人接受。歐洲普遍認可的關於牙刷的最早記錄出自英國人Anthony Wood的自傳，他在1690年的自傳中提到，他從J. Barret處購買了壹把牙刷。
在很長的壹段時間內，中國壹直是牙刷的出口國。中國和英國之間的牙刷貿易甚至壹直持續到了20世紀中葉。
從古書記載來看，中國到了南宋，城裏已經有專門制作、銷售牙刷的店鋪。那時的牙刷是用骨、角、竹、木等材料，在頭部鉆毛孔數行，上植馬尾。和現代的牙刷已經很接近了。
南宋俗稱牙刷為“刷牙子”：南宋吳自牧描寫杭州生活的筆記體專著《夢粱錄》第十三卷寫道：“諸色雜貨中有刷牙子。”南宋人周守忠編寫養生書籍《類纂諸家養生至寶》，甚至專門討論了用牙刷來刷牙的時間要不要安排在早上：“早起不可用刷牙子，恐根浮兼牙疏易搖，久之患牙痛，蓋刷牙子皆是馬尾為之，極有所損。”因為早上牙根較松，而馬尾較硬。
第壹把工業化牙刷
英國不愧是工業革命的搖籃，歐洲公認的第壹把批量生產的牙刷是由英國人William Addis在1780年制造的。這位英國哥們兒前半輩子頗為不幸，他在1770年因壹場騷亂而被判入獄。他在獄中沒有荒度人生，而是嘗試了很多方法來清潔牙齒——包括用破布蘸著煙塵和鹽來回摩擦牙齒——當然，他發現這種方法效率很低。
後來他從午餐中省下了壹些動物骨頭，並在上面打孔。而後又從衛兵那裏要到了壹些豬鬃，並把鬃毛穿過孔綁在骨頭上，最後用膠封上，制成了壹種“乞丐版”牙刷。出獄後他開始經商，生產他所制造的牙刷，很快就變得很富有。1808年，William去世，他將企業傳給了他的大兒子——也叫William。William家族經營牙刷產業直到1996年。據稱，這家公司每年在英國生產7000萬支牙刷。
首個牙刷專利
雖然英國人很早就開始工業化生產牙刷，但世界上第壹個關於牙刷的專利是由美國人H. N. Wadsworth於1857年獲得的（美國專利號18653）。而美國真正開始大規模生產牙刷則是在1885年。
現代牙刷
從現代科學角度看，動物毛並不是牙刷的理想材料。動物毛容易滋生細菌、不容易幹，並且經常掉毛。到了1938年，杜邦公司推出了第壹個尼龍制成的牙刷，尼龍是壹種合成纖維，擁有許多優點。而第壹把電動牙刷Broxodent則是由瑞士人在1954年發明。