L’algorithme de rétropropagation du gradient (qui a rapporté un prix Nobel à Geoffrey Hinton), vise à calculer les coefficients d’un tenseur à l’aide des erreurs d’apprentissage. Cela suggère deux activités réalisables en collège :

• La version la plus simple du calcul de coefficients d’un tenseur est celle où les dimensions du tenseur sont 3,2,1 : On donne la solution d’un système, par exemple (8,5) et on demande aux élèves de trouver un système dont c’est effectivement la solution. Exercice intéressant à expérimenter pour observer les stratégies de résolution choisies.
• Un cas simple de rétropropagation est la méthode de la fausse position qui converge extrêmement vite, puisqu’une seule erreur (l’hypothèse initiale) conduit directement à la solution.

Une leçon à tirer de la rétropropagation du gradient, est que pour un réseau de neurones, la vitesse d’apprentissage est proportionnelle au nombre d’erreurs commises. Un conseil à donner aux élèves ?