剣の腕は、戸賀崎熊太郎に神道無念流剣術を学び、免許皆伝を受け師範代を務めた。
メンバーの一部が桜田門外の変という歴史的な事件を起こす玉造勢という組織に芹沢は参加し、尊王攘夷のために、豪商を周り、資金集めに奔走していたが、乱暴な手段が悪評を呼ぶ。
その恐喝まがいの資金集めがもとで、芹沢は牢獄生活を送ることになる。
釈放された芹沢は、国家国事のために尽くした事が元罪人という結果になった不満、持って生まれた我の強さと上昇志向から、その身を持て余していた。
そんな折に、将軍・徳川家茂が京都に行った際の警護の浪士が募集される。
尊王攘夷への思いから罪人にまでなった芹沢は、天皇のいる京都で仕事することに、ガラに似合わず胸が躍った。
芹沢は、玉造勢の頃からの仲間である新見錦をはじめ、平山五郎・平間重助・野口健司などを従えて浪士隊に参加。
京都に辿り着いた浪士隊は、壬生浪士組から新撰組に名を変え、徐々にその存在感を増していくが、隊内は近藤派と芹沢派の確執が色濃くなる。
数の上では近藤派の方が多かったが、芹沢の持つ存在感と圧倒的な威圧感、それに高圧的な態度が、隊内で芹沢派の意見を強くしていた。
その結果、近藤と芹沢による局長二人体制を望む近藤派の主張を退け、壬生浪士組は芹沢・近藤・新見による局長三人体制および筆頭局長が芹沢という形になる。
壬生浪士組は会津藩の預かりという形になっていたが、当初は給金の支給がほとんどなかった。
そのため芹沢は、大阪の商家などから恐喝まがいの資金集めを、隊のため自分のため率先する。
しかし、このような事は会津藩の評判に関わるので、これに困った会津藩は壬生浪士組に対して正式に手当を支給することになり、芹沢の乱暴狼藉はやり方はとにかく、壬生浪士組の運営を安定させるという結果を出したのは確かであった。
隊でのヒエラルキーはトップに位置し、形はどうあれ結果を出し、生来の我の強さが増長する一方であった芹沢は、1863年6月、道ですれ違った大坂相撲の力士が、道を譲らなかったことに激昂して暴行を加える。
そこに力士の仲間が駆けつけ乱闘になり、力士側に死傷者が出る騒ぎとなった。
当時の常識的な感覚として、侍に道を譲らないことが無礼なのは確かであり、力士側も江戸からやって来た侍をなめていた部分があったことが想像でき、また、奉行所は力士側に非があると判断し、力士側は壬生浪士組に50両を贈り詫びを入れるという結果になっている。
ただ、そういったことが考慮できるものの、やはり、この騒ぎも芹沢の我の強さを表していた。
芹沢の豪胆さを強いリーダーとして頼もしく感じる隊士もいる一方で、壬生浪士組で天下の大仕事をして近藤の出世を願う土方は反感を強めていく。
そんな折に、芹沢は、気に入っていた吉田屋の芸妓である小寅が、芹沢に肌を許さなかったことに立腹し、店を破壊すると主人を脅して、小寅とその付き添いのお鹿を呼びつけると二人を断髪させるなどの恥辱を与える。
芹沢がいては、新撰組の評判は悪くなり大きな仕事ももらえず、近藤を出世させることが出来なくなると考えていた土方は、厳しい隊の規律である局中法度をもとに芹沢派の新見錦を切腹に追い込んだ。
1863年9月、芹沢は、平山五郎、平間重助と、それぞれのお気に入りの女と共に泥酔するまで飲み、それぞれ女と一緒に眠りにつく。
大雨が降る深夜、芹沢の寝ている部屋に4人の男が押し入り、一緒に寝ていた女のお梅もろとも芹沢はメッタ斬りにされる。
近くで寝ていた芹沢派の平間は逃亡に成功するが、平山は殺害された。
ただ一人、隊に残っていた芹沢派の野口健司は12月に切腹となる。
芹沢暗殺の実行者は諸説あるが、4名によるもので、確実視されているのが土方歳三と沖田総司、ほぼ確実に原田左之助、おそらく山南敬助とされている。