上の問題の略解

まず、f(x)のグラフの概形を見る。すると、
0 ≤ x ≤ √2のとき、0 ≤ f(x) ≤ 2
√2 ≤ x ≤ 2のとき、2 ≤ f(x) ≤ 4
2 ≤ x ≤ 4 - √2のときも、2 ≤ f(x) ≤ 4
4 - √2 ≤ x ≤ 4のとき、0 ≤ f(x) ≤ 2
であることがわかる。
あとは、問題文の条件に従って式を作っていけばよい。
0 〜 √2では、f(f(x)) = (x^2)^2 = x^4
√2 〜 2では、f(f(x)) = (x^2 - 4)^2 = (x - 2)^2(x + 2)^2
2 〜 4 - √2では、f(f(x)) = *1 = ((x - 4)^2)^2 = (x - 4)^4
（式の整理は趣味でやっただけなので、それが「いい答え」かどうか知りません。）

*1:x - 4)^2 - 4)^2 = (x - 2)^2(x - 6)^2 4 - √2 〜 4では、f(f(x