Tを表す行列は
2 0 1
-1 -3 5
2 5 2
与えられている基は{ᵗ(1 1 0), ᵗ(2 1 1), ᵗ(3 1 1)}で良いでしょうか?
ᵗ(1 1 0), ᵗ(2 1 1), ᵗ(3 1 1)のTによる像をᵗ(1 1 0), ᵗ(2 1 1), ᵗ(3 1 1)の線型結合で表し、その係数を(転置して)並べれば良いです。
T(ᵗ(1 1 0))=ᵗ(2 -4 7)
=-11 ᵗ(1 1 0) +8 ᵗ(2 1 1) - ᵗ(3 1 1)
T(ᵗ(2 1 1))=ᵗ(5 0 11)
=-11 ᵗ(1 1 0) +17 ᵗ(2 1 1) -6 ᵗ(3 1 1)
T(ᵗ(3 1 1))=ᵗ(7 -1 13)
=-14 ᵗ(1 1 0) +18 ᵗ(2 1 1) -5 ᵗ(3 1 1)
よって求める表現行列は
-11 -11 -14
8 17 18
-1 -6 -5