Calculer le polynôme caractéristique, le polynôme minimal et le rang de $A$.
Soit $u$ un endomorphisme d'un espace vectoriel de dimension finie, montrer que $\text{dim}(\text{Ker}(u^2))\leqslant 2\text{dim}(\text{Ker}(u))$.
Soit $B \in \mathcal{M}_{3n}(\mathbb{R})$ telle que $B^3=0_{3n}$ et $\text{rg}(B) = 2n$.
Montrer que $\text{Im}(B^2) \subset \text{Ker}(B)$.
En déduire le rang de $B^2$.
Soit $(X_1,\hdots , X_m)$ une base d'un supplémentaire de $\text{Ker}(B^2)$. Montrer que $(B^2X_1, \hdots , B^2X_m, BX_1, \hdots, BX_m, X_1, \hdots, X_m)$ est une famille libre.
Montrer que $A$ et $B$ sont semblables.
Indications
Polynôme caractéristique : soit par un calcul direct, soit après avoir fait le polynôme minimal; polynôme minimal : calculer $A^2$ et $A^3$; rang : déterminer le nombre maximum de colonnes qui forme une famille libre (une base de l'image donc).
Montrer d'abord que $(B^2X_1, \hdots , B^2X_m)$ est une famille libre avec la définition en utilisant ensuite que l'intersection de $\text{Ker}(B^2)$ et du supplémentaire considéré est réduite à $0_{3n,1}$. Puis rappliquer la définition de famille libre à la famille entière et multiplier par $B$ puis par $B^2$.
Considérer l'endomorphisme $u:X \mapsto BX$ de $M_{3n,1}(\mathbb{K})$ ou encore écrire la matrice $P$ ayant pour colonnes les éléments de la base de $M_{3n,1}(\mathbb{K})$ de la question précédente.
Correction
On a, pour $\lambda \in \mathbb{R}$ : \[
\chi_A(\lambda)=\begin{vmatrix} \lambda I_n & -I_n & 0_n \\ 0_n & \lambda I_n & -I_n \\ 0_n & 0_n & \lambda I_n \end{vmatrix}
\] Ce déterminant étant celui d'une matrice triangulaire par blocs, il est égal au produit des déterminants des blocs diagonaux, d'où : \[
\chi_A(\lambda) = \text{det}(\lambda I_n)^3 = \lambda^{3n}
\] et donc $\chi_A=X^{3n}$. On a $A^2=\begin{pmatrix} 0_n & 0_n & I_n \\ 0_n & 0_n & 0_n \\ 0_n & 0_n & 0_n \end{pmatrix}$ et $A^3=0_{3n}$ donc $X^3$ est annulateur de $A$ mais pas $X^2$, d'où $\pi_A=X^3$. Le rang de $A$ est égal à $2n$ car ses $2n$ dernières colonnes forment une famille libre de $\mathcal{M}_{3n,1}(\mathbb{K})$ et les $n$ premières sont nulles donc liées aux $2n$ dernières. Remarque : on aurait également pu déduire le polynôme caractéristique à partir du polynôme minimal : en effet, comme $\pi_A=X^3$, $A$ est nilpotente et le cours affirme que dans ce cas, $\chi_A=X^{3n}$ car $A \in \mathcal{M}_{3n}(\mathbb{K})$.
On note $v$ la restriction de $u$ à $\text{Im}(u)$. Alors $\text{Ker}(v) \subset \text{Ker}(u)$ et $\text{Im}(v) = \text{Im}(u^2)$ car, pour tout $x \in E$, $v(u(x))=u^2(x)$. Ainsi, d'après le théorème du rang, on a : \[
\begin{array}{rcl}
\text{rg}(u)&=&\text{dim}\left(\text{Im}(u)\right) \\
&=&\text{rg}(v)+\text{dim}\left(\text{Ker}(v)\right) \\
&=&\text{rg}(u^2)+\text{dim}\left(\text{Ker}(v)\right) \\
&\leqslant &\text{rg}(u^2)+\text{dim}\left(\text{Ker}(u)\right) \\
\end{array}
\] d'où : \[
\text{rg}(u)-\text{rg}(u^2)\leqslant\text{dim}\left(\text{Ker}(u)\right) \quad (*)
\] Or, en appliquant le théorème du rang à $u$ puis à $u^2$, on a : \[
\begin{array}{l}
\text{dim}\left(E\right)=\text{rg}(u)+\text{dim}\left(\text{Ker}(u)\right) \\
\text{dim}\left(E\right)=\text{rg}(u^2)+\text{dim}\left(\text{Ker}(u^2)\right)
\end{array}
\] donc : \[
\text{rg}(u)-\text{rg}(u^2) = \text{dim}\left(\text{Ker}(u^2)\right)-\text{dim}\left(\text{Ker}(u)\right).
\] En reportant cette dernière égalité dans $(*)$ et en ajoutant $\text{dim}\left(\text{Ker}(u)\right)$ on obtient le résultat.
Soit $Y \in \text{Im}(B^2)$. Alors il existe $X \in \mathcal{M}_{3n,1}(\mathbb{K})$ tel que $Y=B^2X$. Ainsi $BY=B(B^2X)=B^3X=0_3X=0_{3n,1}$. D'où $Y \in \text{Ker}(B)$. D'où l'inclusion.
Comme $\text{rg}(B)=2n$, d'après le théorème du rang, $\text{dim}\left(\text{Ker}(B)\right)=3n-2n=n$. Ainsi, d'après la question précédente, $\text{rg}(B^2)\leqslant n$. De plus, pour $u$ l'endomorphisme de $\mathbb{K}^n$ canoniquement associé à $B$. D'après la question 2., on a : \[
\text{dim}\left(\text{Ker}(u^2)\right)\leqslant 2\text{dim}\left(\text{Ker}(u)\right)
\] d'où : \[
\text{dim}\left(\text{Ker}(B^2)\right)\leqslant 2\text{dim}\left(\text{Ker}(B)\right)
\] et donc \[
3n-\text{rg}(B^2)\leqslant 6n - 2\text{rg}(B) = 6n-4n=2n.
\] Par suite, on obtient $\text{rg}(B^2) \geqslant 3n-2n = n$. Ainsi, $\text{rg}(B^2)=n$.
D'après le résultat de la question précédente et le théorème du rang, on a $\text{dim}\left(\text{Ker}(B^2)\right)=3n-n=2n$, donc tout supplémentaire de $\text{Ker}(B^2)$ est de dimension $3n-2n=n$. Par suite, $m=n$. On note $S= \text{Vect}(X_1,\hdots,X_n)$ le supplémentaire de $\text{Ker}(B^2)$ considéré. Montrons que la famille $(B^2X_1,\hdots,B^2X_n)$ est libre. Soit $\lambda_1,\hdots, \lambda_n \in \mathbb{K}$. On suppose que $\sum_{i=1}^n \lambda_i B^2X_i = 0_{3n,1}$. On note $X=\sum_{i=1}^n \lambda_i X_i \in S$. Alors on a $B^2X=\sum_{i=1}^n \lambda_i B^2X_i = 0_{3n,1}$, donc $X \in S \cap \text{Ker}(B^2)= \{0_{3n,1}\}$ d'où $\sum_{i=1}^n \lambda_i X_i=0_{3n,1}$. Or, la famille $(X_1,\hdots,X_n)$ est libre comme base de $S$, donc $\lambda_1=0,\hdots, \lambda_n=0$. Par suite, $(B^2X_1,\hdots,B^2X_n)$ est libre. Montrons que la famille $(B^2X_1,\hdots,B^2X_n,BX_1,\hdots,BX_n,X_1,\hdots,X_n)$ est libre. Soit $\lambda_1,\hdots,\lambda_{n},\mu_1,\hdots,\mu_{n},\nu_1,\hdots,\nu_{n} \in \mathbb{K}$. On suppose que $Y=\sum_{i=1}^n \lambda_i B^2X_i+\sum_{i=1}^n \mu_i BX_i+\sum_{i=1}^n \nu_i X_i = 0_{3n,1}$.
On a : $B^2Y = \sum_{i=1}^n \lambda_i \underbrace{B^4X_i}_{=0_{3n,1}}+\sum_{i=1}^n \mu_i \underbrace{B^3X_i}_{=0_{3n,1}}+\sum_{i=1}^n \nu_i B^2X_i = B^20_{3n,1}=0_{3n,1}$, donc $\sum_{i=1}^n \nu_i B^2X_i =0_{3n,1}$. Or, d'après ce qui précède, la famille $(B^2X_1,\hdots,B^2X_n)$ est libre, d'où $\nu_1=0,...,\nu_n=0$.
$BY = \sum_{i=1}^n \lambda_i \underbrace{B^3X_i}_{=0_{3n,1}}+\sum_{i=1}^n \mu_i B^2X_i = B0_{3n,1}=0_{3n,1}$, donc $\sum_{i=1}^n \mu_i B^2X_i =0_{3n,1}$, d'où, comme précédemment, $\mu_1=0,...,\mu_n=0$.
$Y=\sum_{i=1}^n \lambda_i B^2X_i=0_{3n,1}$, d'où, comme précédemment, $\lambda_1=0,...,\lambda_n=0$.
Il en résulte que $(B^2X_1,\hdots,B^2X_n,BX_1,\hdots,BX_n,X_1,\hdots,X_n)$ est libre.
Comme $\mathcal{B}=(B^2X_1,\hdots,B^2X_n,BX_1,\hdots,BX_n,X_1,\hdots,X_n)$ est une famille libre de cardinal $3n$ dans $\mathcal{M}_{3n,1}(\mathbb{K})$ qui est de dimension $3n$, $\mathcal{B}$ est une base de $\mathcal{M}_{3n,1}(\mathbb{K})$. On considère la base canonique $\mathcal{C}=(E_1,\hdots,E_{3n})$ de $\mathcal{M}_{3n,1}(\mathbb{K})$. Voici deux façons (quasiment similaires) d'établir le résultat :
1ère façon : en montrant que $A$ et $B$ représentent le même endomorphisme dans deux bases différentes. Soit $u:X \mapsto BX$. Alors $u$ est un endomorphisme de $\mathcal{M}_{3n,1}(\mathbb{K})$ et $\text{Mat}_{\mathcal{C}}(u)=B$. Déterminons la matrice $\text{Mat}_{\mathcal{B}}(u)$ de $u$ dans la base $\mathcal{B}$. On a, pour tout $i \in \;[\!\!\![\; 1,n \;]\!\!\!]\;$ : \[
\begin{array}{l}
u(B^2X_i)=B(B^2X_i)=B^2X_i=0_{3n,1}, \\
u(BX_i)=B(BX_i)=B^2X_i \text{ et} \\
u(X_i)=B(X_i)=BX_i.
\end{array}
\] Par suite, on a : \[
\text{Mat}_{\mathcal{B}}(u) = \begin{pmatrix} 0_n & I_n & 0_n \\ 0_n & 0_n & I_n \\ 0_n & 0_n & 0_n \end{pmatrix} = A
\] Comme deux matrices qui représentent un même endomorphisme sont semblables, il en résulte que $A$ et $B$ sont semblables.
2ème façon : en exhibant une matrice inversible de similitude entre $A$ et $B$. La matrice $P=(P_1|\hdots|P_{3n}) \in \mathcal{M}_{3n}(\mathbb{K})$ dont les colonnes $P_i$ de $P$ sont les éléments (dans l'ordre) de la base $\mathcal{B}$ est inversible car de rang $3n$ et on a : \[
\begin{array}{rcl}
P^{-1}BP&=&P^{-1}B(B^2X_1|\hdots|B^2X_n|BX_1|\hdots|BX_n|X_1|\hdots|X_n) \\
&=&P^{-1}(B^3X_1|\hdots|B^3X_n|B^2X_1|\hdots|B^2X_n|BX_1|\hdots|BX_n) \\
&=&P^{-1}(0_{3n,1}|\hdots|0_{3n,1}|B^2X_1|\hdots|B^2X_n|BX_1|\hdots|BX_n) \\
&=&(0_{3n,1}|\hdots|0_{3n,1}|P^{-1}B^2X_1|\hdots|P^{-1}B^2X_n|P^{-1}BX_1|\hdots|P^{-1}BX_n) \\
\end{array}
\] Or, comme $P^{-1}(B^2X_1|\hdots|B^2X_n|BX_1|\hdots|BX_n|X_1|\hdots|X_n)=P^{-1}P=I_{3n}=\left(E_1|\hdots|E_{3n}\right)$, on a : \[
(P^{-1}B^2X_1|\hdots|P^{-1}B^2X_n|P^{-1}BX_1|\hdots|P^{-1}BX_n|P^{-1}X_1|\hdots|P^{-1}X_n)=\left(E_1|\hdots|E_{n}|E_{n+1}|\hdots|E_{2n}|E_{2n+1}|\hdots|E_{3n}\right),
\] d'où : \[
\begin{array}{rcl}
P^{-1}BP&=&(0_{3n,1}|\hdots|0_{3n,1}|P^{-1}B^2X_1|\hdots|P^{-1}B^2X_n|P^{-1}BX_1|\hdots|P^{-1}BX_n) \\
&=&(0_{3n,1}|\hdots|0_{3n,1}|E_{1}|\hdots|E_n|E_{n+1}|\hdots|E_{2n}) \\
&=&\begin{pmatrix} 0_n & I_n & 0_n \\ 0_n & 0_n & I_n \\ 0_n & 0_n & 0_n \end{pmatrix} \\
P^{-1}BP&=&A.
\end{array}
\] Par suite, $A$ et $B$ sont semblables.