Tìm m để hàm số có cực đại tại $x_1$, cực tiểu tại $x_2$ thỏa mãn $x_1 < x_2 < 1$

Cho hàm số $y=\dfrac{m}{3}x^3+(m-2)x^2+(m-1)x+2$. Tìm m để hàm số có cực đại tại $x_1$, cực tiểu tại $x_2$ thỏa mãn $x_1 < x_2 < 1$


Tập xác định: $D=R$

$y'=3mx^2+2(m-2)x+m-1 \,\, (1)$

Hàm số có cực đại tại $x_1$, cực tiểu tại $x_2$ thỏa mãn $x_1 < x_2 < 1 \\ \Leftrightarrow \begin{cases} m > 0 \\ (1) \mbox{ có 2 nghiệm phân biệt nhỏ hơn 1} \end{cases} (*)$

Đặt $t=x-1 \Leftrightarrow x = t+1$ thay vào $(1)$: $mt^2 +4(m-1)t+4m-5=0 \,\, (2)$

$(1)$ có 2 nghiệm phân biệt nhỏ hơn 1 khi và chỉ khi $(2)$ có 2 nghiệm âm phân biệt.
$(*) \Leftrightarrow \begin{cases} m > 0 \\ \Delta' > 0 \\ P > 0 \\ S < 0 \end{cases} \Leftrightarrow \begin{cases} m > 0 \\ 4(m-1)^2-m(4m-5) > 0 \\ \dfrac{4m-5}{m} > 0 \\ \dfrac{1-m}{m} < 0 \end{cases} \Leftrightarrow \dfrac{5}{4} < m < \dfrac{4}{3}$

Vậy $\dfrac{5}{4} < m < \dfrac{4}{3}$