Tìm tất cả các hàm $f: \mathbb{N^*} \setminus \{1 \} \to \mathbb{R}$ tăng nghiêm ngặt thỏa mãn: $f(3)=9$ $\left\{\begin{matrix}f(xy-x-y+2)-f(x)-f(y)+8=0 \\ 2^{f(x)-8} \in \mathbb{N^*} \end{matrix}\right.;\forall x,y \in \mathbb{N^*} \setminus \{1 \}$

Tìm tất cả các hàm $f: \mathbb{N^*} \setminus \{1 \} \to \mathbb{R}$ tăng nghiêm ngặt thỏa mãn:

• $f(3)=9$
• $\left\{\begin{matrix}f(xy-x-y+2)-f(x)-f(y)+8=0 \\ 2^{f(x)-8} \in \mathbb{N^*} \end{matrix}\right.;\forall x,y \in \mathbb{N^*} \setminus \{1 \}$

Lời giải
$\left\{ \begin{array}{l} f(xy - x - y + 2) - f(x) - f(y) + 8 = 0(1) \\ 2^{f(x) - 8} (2) \\ \end{array} \right.$
Từ (1) ta có điều tương đương:
f((x-1)(y-1)+1) = f(x) + f(y) – 8, với mọi x, y thuộc N*\{1}   (3)
Đặt g(x) = f(x+1) thì (3) trở thành:
g((x-1)(y-1)) = g(x-1) + g(y-1) - 8 với mọi x, y  thuộc N*\{1}
Hay: g(xy) = g(x) + g(y) – 8 với mọi x, y  thuộc N*\{1} (4)
Và:   g(2) = f(3) = 9   (5)
Đặt:${\rm{h}}\left( {\rm{x}} \right) = 2^{g(x) - 8}$
Hàm tăng nghiêm ngặt trên N* và có giá trị trên N*, thì  (4) trở thành $h(xy) = 2^{g(xy) - 8}  = 2^{g(x) + g(y) - 16}  = 2^{g(x) - 8} .2^{g(y) - 8}  = h(x)h(y)$
Tức là:h(xy) = h(x).h(y) với mọi x, y  thuộc N*
Từ (5) ta có : h(2)=2
Đặt:$h(3) = x ( x \in N, x > 2 )$
Thì: h(6) = h(2).h(3) = 2x
Và :$h(10) = h(2)h(5) = 2h(5) \le 2[h(6) - 1] = 2(2x - 1) = 4x - 2$
$h(9) \le h(10) - 1 \le 4x - 3$
$\Rightarrow h(18) = h(2)h(9) = 2h(9) \le 8x - 6$
$h(15) \le h(18) - 3 \le 8x - 9$
$h(15) \le h(18) - 3 \le 8x - 9$ (6)
Mặt khác: $h(5) \ge x + 2$
Nên $h(15) = h(5)h(3) \ge (x + 2)x$ (7)
Từ (6) và (7) suy ra $(x + 2)x \le 8x - 9 \Rightarrow x^2  - 6x + 9 \le 0 \Rightarrow x = 3$
Vậy $h(3) = h(2^1  + 1) = 2^1  + 1 = 3$
Giả sử với $n \in N*$ ta được $h(2^n  + 1) = 2^n  + 1$
Thì $h(2^{n + 1}  + 2) = h(2)h(2^n  + 1) = 2^{n + 1}  + 2$
Do f  tăng nghiêm ngặt nên các số:$h(2^n  + 2),h(2^n  + 3),.........h(2^{n + 1}  + 2)$
Đôi một phân biệt, sắp theo thứ tự đó và thuộc tập hợp:{$2^n  + 2,2^n  + 3,.........2^{n + 1}  + 2$}
Do đó: $h(2^n  + i) = 2^n  + i$ với mọi $i \in$ { $2,3,.........,2^n  + 2$}
Thành thử thì $h(2^{n + 1}  + 1) = 2^{n + 1}  + 1$
Tiếp tục lập luận như trên với n+1, n+2, ……ta suy ra:
h(n) = n với mọi n thuộc $N*$
Và như vậy ta sẽ có được là:$f(n)=g(n-1)=log_2(n-1)+8, \forall x \in N *$ \{1}
Đây là điều phải chứng minh.