Với $n$ là số nguyên dương, gọi \({a_{3n - 3}}\) là hệ số của \({x^{3n - 3}}\) trong khai triển thành đa thức của \({({x^2} + 1)^n}{(x + 2)^n}\). Tìm \(n\) để  \({a_{3n - 3}} = 26n\)

Ta có: \({\left( {{x^2} + 1} \right)^n}{\left( {x + 2} \right)^n} = {x^{3n}}{\left( {1 + \dfrac{1}{{{x^2}}}} \right)^n}{\left( {1 + \dfrac{2}{x}} \right)^n}\)

            \( = {x^{3n}}\sum\limits_{i = 0}^n {C_n^i{{\left( {\dfrac{1}{{{x^2}}}} \right)}^i}\sum\limits_{k = 0}^n {C_n^k{{\left( {\dfrac{2}{x}} \right)}^k}}  = } {x^{3n}}\left[ {\sum\limits_{i = 0}^n {C_n^i{x^{ - 2i}}\sum\limits_{k = 0}^n {C_n^k{2^k}{x^{ - k}}} } } \right]\)

Trong khai triển trên , luỹ thừa của \(x\) là \(3n - 3\) khi

\( - 2i - k =  - 3 \Leftrightarrow 2i + k = 3\).

Ta chỉ có hai trường hợp thoả mãn điều kiện này là \(i = 0,k = 3\) hoặc

\(i = 1,k = 1\)(vì \(i,k\) nguyên).

Hệ số của \({x^{3n - 3}}\) trong khai triển thành đa thức của \({\left( {{x^2} + 1} \right)^n}{\left( {x + 2} \right)^n}\)

Là :\({a_{3n - 3}} = C_n^0.C_n^3{.2^3} + C_n^1.C_n^1.2\).

Do đó \({a_{3n - 3}} = 26n \Leftrightarrow \dfrac{{2n\left( {2{n^2} - 3n + 4} \right)}}{3} = 26n \Leftrightarrow n =  - \dfrac{7}{2}\)hoặc$n = 5$

Vậy \(n = 5\) là giá trị cần tìm.