Tìm giá trị nhỏ nhất của $P=\frac{1}{6}(a+b+c-ab-ac-bc)^3+\sum(1-a-ab)^2$

Cho $a,b,c\in [0;1]$. Tìm giá trị nhỏ nhất của $$P=\frac{1}{6}(a+b+c-ab-bc-ac)^3+(1-a-ab)^2+(1-b+bc)^2+(1-c+ac)^2$$
Giải

Đặt $t=a(1-b)+b(1-c)+c(1-a)$
Ta có: $0\le t=a+b+c-ab-bc-ac=1-abc-(1-a)(1-b)(1-c)\le 1$
$$\sum (1-a+ab)^2=\sum [1-2a(1-b)+a^2(1-b)^2]=3-2t+\sum a^2(1-b)^2$$
$$=3-2t+[\sum a(1-b)]^2-2\sum ab(1-b)(1-c)\ge 3-2t+t^2-2\sum a(1-c)\left(\frac{1+b-1}{2} \right )^2$$
$$=3-2t+t^2-\frac{1}{2}\sum a(1-c)=3-\frac{5}{2}t+t^2$$
$$P=f(t)=\frac{1}{6}t^3+3-\frac{5}{2}t+t^2 (0\le t\le 1)$$
$f'=\frac{1}{2}t^2-\frac{5}{2}+2t\; ,\forall t\in (0;1)$
$f'(t)=0 \iff t=1 \vee t=-5 (\text{loại})$
$f(0)=3;f(1)=\frac{5}{3}$
Vậy $f(t)\ge f(1)=\frac{5}{3}$
Dấu "=" xảy ra khi $t=1$ hay $a=0;b=1;c=\frac{1}{2}$ và hoán vị tương ứng.