Prima di discutere come risolvere un sistema di equazioni multivariabili, è utile rivedere lo sviluppo in serie di Taylor di una funzione a N dimensioni.
Il metodo di Newton-Raphson per una variabile, \(f(x)=0\), può essere generalizzato in modo analogo.
\(\left\{\begin{matrix}
f_1\left ( x_1,\cdots ,x_n \right )=f_1\left ( \mathbf{x} \right )
\\ f_2\left ( x_1,\cdots ,x_n \right )=f_2\left ( \mathbf{x} \right )
\\ \cdots \\
f_n\left ( x_1,\cdots ,x_n \right )=f_n\left ( \mathbf{x} \right )
\end{matrix}\right.\)
dove,
\(\mathbf{x}=\left [ x_1,\cdots ,x_n \right ]^{T}\)
\(\mathbf{f\left (x\right )}=\left [ f_1\left (\mathbf{x}\right ),\cdots ,f_n\left (\mathbf{x}\right ) \right ]^{T}\)
\(\mathbf{f\left (x\right )}=0\)
Utilizzando lo sviluppo in serie di Taylor,
\(\begin{matrix}
f_i\left ( \mathbf{x}+\delta \mathbf{x} \right ) = f_i\left ( \mathbf{x} \right )+\displaystyle\sum_{j=1}^{N}\frac{\partial f_i\left ( \mathbf{x} \right )}{\partial x_j}\delta x_j+O\left ( \partial x^{2} \right ) \\
\approx f_i\left ( \mathbf{x} \right )+\displaystyle\sum_{j=1}^{N}\frac{\partial f_i\left ( \mathbf{x} \right )}{\partial x_j}\delta x_j
\end{matrix}\)
Scrivendo le \(N\) equazioni in forma vettoriale,
\(\begin{matrix}
f\left ( \mathbf{x}+\delta \mathbf{x} \right ) =\displaystyle\begin{bmatrix}
f_1\left ( \mathbf{x}+\delta \mathbf{x} \right ) \\ \vdots \\ f_N\left ( \mathbf{x}+\delta \mathbf{x} \right )
\end{bmatrix} \\
\approx \displaystyle\begin{bmatrix}
f_1\left ( \mathbf{x} \right ) \\
\cdots \\
f_n\left ( \mathbf{x} \right )
\end{bmatrix}+
\displaystyle\begin{bmatrix}
\frac{\partial f_1}{\partial x_1} & \cdots & \frac{\partial f_1}{\partial x_N} \\
\vdots & \ddots &\vdots \\
\frac{\partial f_N}{\partial x_1} & \cdots & \frac{\partial f_N}{\partial x_N}
\end{bmatrix}
\end{matrix} \)
\( f\left ( \mathbf{x}+\delta \mathbf{x} \right ) =f\left ( \mathbf{x} \right )+\mathbf{J_f}\left ( \mathbf{x} \right )\delta \mathbf{x} \)
Qui, \( \mathbf{J_f}\left ( \mathbf{x} \right ) \) rappresenta la matrice Jacobiana di dimensione \(N \times N\) della funzione \(f\left ( \mathbf{x} \right )\).
\(\mathbf{J_f}\left ( \mathbf{x} \right ) =
\begin{bmatrix}
\frac{\partial f_1}{\partial x_1} & \cdots & \frac{\partial f_1}{\partial x_N} \\
\vdots & \ddots &\vdots \\
\frac{\partial f_N}{\partial x_1} & \cdots & \frac{\partial f_N}{\partial x_N}
\end{bmatrix}\)
L’elemento \(i,j\)-esimo della matrice è \(\frac{\partial f_i}{\partial x_j}\).
Dalla relazione seguente,
\(f\left ( \mathbf{x}+\delta \mathbf{x} \right ) =f\left ( \mathbf{x} \right )+\mathbf{J}\left ( \mathbf{x} \right )\delta \mathbf{x}\)
ricaviamo \(\delta \mathbf{x}\). Qui \(f\left ( \mathbf{x}+\delta \mathbf{x} \right )=0\).
\(\delta \mathbf{x}=\mathbf{J}\left ( \mathbf{x} \right )^{-1}\left [ - f\left ( \mathbf{x} \right )\right ]\)
ovvero,
\(\delta \mathbf{x}=-\mathbf{J}\left ( \mathbf{x} \right )^{-1} f\left ( \mathbf{x} \right )\)
Proseguendo,
\( \mathbf{x}+\delta \mathbf{x}=\mathbf{x}-\mathbf{J}\left ( \mathbf{x} \right )^{-1} f\left ( \mathbf{x} \right )\)
e
\( \mathbf{x}_{n+1}=\mathbf{x}_n-\mathbf{J}\left ( \mathbf{x}_n \right )^{-1} f\left ( \mathbf{x}_n \right )\)
Qui, \(\mathbf{x}_n\) è il vettore soluzione alla \(n\)-esima iterazione, mentre \(\mathbf{x}_0=\left [ x_1,\cdots ,x_N \right ]^{T}\) è il vettore iniziale.
Forma generale:
\(\begin{bmatrix}x_1\\ \vdots \\ x_N\end{bmatrix}_{n+1}=
\begin{bmatrix}x_1\\\vdots\\x_N\end{bmatrix}_{n}-
\mathbf{J\left ( x_n \right )}^{-1}
\begin{bmatrix}f_1\left ( x_n \right )\\\vdots \\f_N\left ( x_n \right )\end{bmatrix}\)