写真の例題で気にするべきなのは「置換のコツ」ではなくて、「三角関数式の変形の習熟」ですね。三角関数を使った式は、相互関係などによってさまざまな形に変形できます。変形に習熟すると、実際に紙に書き出さなくても、もとの式から変形で辿り着けるはずの様々な形が何通りも目の前に想像できるようになりますから、その中で置換に適した形がすぐに見つかるようになるというわけです。こういうことは、三角関数の変形に十分習熟しないと難しいわけですが、習熟するためには計算をたくさんこなすほかに早道はありません。当たり前ですが。
例えば今回の例題であれば、私なら、tan³x = sin²x・sinx/cos³x =( (1-cos²x)/cos³x )・sinx という具合に、(cos x についての有理式)・(cosxの微分であるsinx) という、置換に適した形が、もとの式を見ただけで浮かんできます。(cosxの微分は本当は-sinxですが、-1倍程度の違いなら実際の置換作業の中で自然に解決しますから、変形の見通しを立てる段階では気にしなくても大丈夫です)