漢詩は中国文学の中で生まれたが、中華文明の伝来に伴い日本でも作られるようになった。
751年には日本におけるごく初期の漢詩集として『懐風藻』が編纂された。9世紀には、814年『凌雲集』818年『文華秀麗集』827年『経国集』と三つの勅撰集が編まれた。その後905年に『古今和歌集』が編纂されるまで、和歌は日本文学の中で漢詩と対等な位置を得られなかった。平安時代の物語などでは、「詩」と単に書けば漢詩を意味し、「からうた」という訓がつけられた。その後も漢詩文の影響は強く、『和漢朗詠集』にも数多く作品が収められている白居易は特に好まれた。平安期の代表詩人には、空海、島田忠臣、菅原道真らがいる。
その後、鎌倉・室町期には、禅林に「五山文学」が花開いた。代表詩人には義堂周信、絶海中津があり、一休宗純には『狂雲集』がある。
日本漢詩の頂点は、江戸期から明治初期にかけての時期であり、朱子学を背景に「文人」と呼ばれる詩人たちを多く輩出した。江戸前期の石川丈山、元政（日政）らの後、江戸中期には荻生徂徠の門人たちが派手な唐詩風で活躍し、江戸後期には菅茶山らの落ち着いた宋詩風が愛された。また、頼山陽の詩は今日も広く詩吟として愛吟されている。幕末には島津久光や伊達宗賢などが名人として知られている。20世紀以降は急速に衰退したが、夏目漱石や森鴎外、中島敦ら漢学教育を受けた文化人は漢詩をたしなんだ。
現在でも漢詩創作の愛好家は存在している。また、みずからはつくらないのものの、詩吟や書道の世界では、漢詩はよむもの・みるものとして基礎的な教養の一部となっている。また、学校教育でも、漢詩にふれることが多い。
ただし、日本で創作された漢詩は（当然の話ではあるが）中国語での発音を考慮していないため、それが原因で本場中国の基準からすると下手糞扱い（中国語発音で漢詩を吟じると響きがよくない）されるものが多いと言われる。これは日本の漢文学習で音読が軽視され、訓読が過度に重視された弊害とも言われる。中国語音ではなくとも、日本語音、とりわけ歴史的仮名遣いであらわされた古典音で吟じた場合、本来の漢詩のリズムを味わうことができるとも言われる。
アカ ココ 青春 ここ ハリ 赤い この指 この手 赤い こんな 赤い コンビ 赤い さあ 赤 サイ サイ 素直 サウ 小さな 草笛 サマ 蒼い 赤い ざま 息子 サン サン 続く サン 太陽 しあわ 打上 しあわ 大き じい ジェラ 大花 シェ 青い 大事 シティ 大切 ジパン 炭酸 狂 じゃ ジュリ 地上