何も不思議なことは起きていないです
要は「x=1+√2iを代入したときに0になる部分」を作りたい訳です。
そのためにx=1+√2iを解に持つ2次方程式を一つ求めます。
x²-2x+3=0
この左辺にx=1+√2iを入れると当然0になります。
※そもそもこの方程式はx=1+√2iを変形して作ったものなので、当たり前
元の多項式をP(x)とするとP(1+√2i)を求めたい訳ですが、
P(x)=(x²-2x+3)Q(x) +R(x)
と分解してから入れると第1項が消えてくれます。
よってP(1+√2i)=R(1+√2i)であって、しかもR(x)はP(x)をx²-2x+3という2次式で割ったときの余りに該当するので高々1次式です。
高々1次式なら代入するのも容易です。