『日本書紀』には、推古天皇7年（599年）に百済国からラクダなどとともに羊が献上されたと記されています。さらに、嵯峨天皇の治世の弘仁11年（935年）には新羅から、朱雀天皇の治世の承平5年（935年）には中国からもたらされたとの記録も残りますが、どうやら珍獣としての扱いで、その後もずっと食用や羊毛用としての羊の飼育が普及することはありませんでした。
日本でもっとも多くの羊が飼育されることになるのは、太平洋戦争後の1950年代。食糧不足と衣料不足が農家の飼育熱をあおり、一時は100万頭を超えたこともあったようです。しかし、その多くは、農家の軒先の小屋で少数の羊が飼われるという副業的なものでした。
1973年、少年の頃から憧れ続けた悠久の地・モンゴル高原を訪れた作家の司馬遼太郎は、遊牧民族と農耕民族の違いを次のように書き記しています。
遊牧と農耕は同じく大地に依存しつつも、遊牧者は草の生えっぱなしの大地を生存の絶対条件とし、農耕者は逆に草をきらい、その草地を鋤でひっくりかえして田畑にすることを絶対条件としている。（モンゴル紀行より）
もともと高温多湿で樹木が多く、草地が少ない日本の気候風土は、広大な草原で何百頭もの羊の大群を放牧飼育するには適しません。ましてや、元来農耕民族である日本人には、羊の群れを追いながら大草原を移動するような遊牧の民の暮らしは想像もできなかったことでしょう。やがて経済が回復し、国外から安価な羊毛が輸入されるようになると、急速にその数は減少し、現在では北海道を中心にわずかな数が飼育されるにとどまっています。