Bài toán : Tìm hàm số f:R→R và thỏa mãn :
f(f(x)+y)=f(x+y)+xf(y)−xy−x+1,∀x,y∈R(1)
Lời giải :
Trong (1) thay y bởi f(y) được :
f(f(x)+f(y))=f(x+f(y))+xf(f(y))−xf(y)−x+1,∀x,y∈R(2)
Áp dụng (1) lại được :
f(x+f(y))=f(x+y)+yf(x)−xy−y+1,∀x,y∈R(3)
Từ (2)(3) suy ra :
f(f(x)+f(y))=f(x+y)−xy−(x+y)+2+yf(x)−xf(y)+xf(f(y)),∀x,y∈R(4)
Trong (4) ta đổi vai trò của x,y cho nhau :
f(f(x)+f(y))=f(x+y)−xy−(x+y)+2+xf(y)−yf(x)+yf(f(x)),∀x,y∈R(5)
Từ (4)(5) ta suy ra :
f(x+y)−xy−(x+y)+2+xf(y)−yf(x)+yf(f(x))=f(x+y)−xy−(x+y)+2+yf(x)−xf(y)+xf(f(y)),∀x,y∈R⇔xf(y)−yf(x)+yf(f(x))=yf(x)−xf(y)+xf(f(y)),∀x,y∈R(6)
Trong (1) ta cho y=0 được :
f(f(x))=f(x)+xf(0)−x+1,∀x∈R(7)
Từ (6)(7) ta có :
xf(y)−yf(x)+y(f(x)+xf(0)−x+1)=yf(x)−xf(y)+x(f(y)+yf(0)−y+1),∀x,y∈R⇔xf(y)+y=yf(x)+x,∀x,y∈R⇔xf(x)−1=yf(y)−1,∀x,y∈R,x,y=0⇔f(x)=cx+1,∀x,y∈R,x,y=0
Thay vào (1) thì :
c(cx+1+y)+1=c(x+y)+1+x(cy+1)−xy−x+1,∀x,y∈R⇔c2x+cy+(c+1)=cx+cy+(c−1)xy+2,∀x,y∈R⇒c=1
Kết luận : Hàm số cần tìm là f(x)=x+1,∀x∈R