Un réseau de neurones qui explique son raisonnement

Rédigé par Nicolas K Aucun commentaire
Image de Daniel Friedman

Les réseaux de neurones ont déjà montré des capacités étonnantes. Ils sont déjà meilleurs que l’homme dans bien des domaines. Mais ils sont tellement complexes que même leurs concepteurs n’arrivent pas à comprendre comment ils raisonnent et comment ils aboutissent à la réponse qu’ils donnent à un problème. C’est pour cette raison qu’ils sont souvent considérés comme une boîte noire qui donne un résultat certes souvent juste mais sans aucune explication.

Une équipe du MIT vient de créer un nouveau type de réseau de neurones qui a un raisonnement transparent, proche de celui de l’homme.

Baptisé TbD-net pour Transparency By Design Network, ce réseau de neurone décompose les problèmes en sous-problèmes compréhensibles. Techniquement, il est décomposé en un certain nombre de modules qui ont chacun une tâche particulière.

Par exemple, vous pouvez lui donner une image et lui demander de quelle couleur est le gros cube métallique sur cette image. Un premier module va d’abord chercher sur l’image les gros objets puis envoyer le résultat à un deuxième module qui va pour sa part détecter lesquels sont métalliques. Un troisième module va ensuite filtrer les résultats pour ne récupérer parmi ces gros objets métalliques celui qui est un cube. Et enfin, un dernier module va être capable de donner la couleur de ce cube : rouge par exemple.

Cette technologie est révolutionnaire car elle résout un problème majeur des réseaux de neurones actuels : l’obscurité du raisonnement. Dans le domaine médical par exemple, l’IA est déjà meilleur que l’homme pour détecter certaines maladies à partir d’un scanner par exemple. Mais jusqu’à maintenant, il n’y avait aucun moyen de comprendre pourquoi l’IA détectait pour un sujet donné une maladie : il fallait faire confiance à l’IA aveuglément. Avec ce nouveau type de réseau de neurones, des arguments compréhensibles par l’homme permettront de comprendre la décision de l’IA.

Mais ce n’est pas tout : en plus d’avoir un processus de raisonnement compréhensible par l’homme, ce nouveau réseau de neurones donne des résultats meilleurs que les réseaux actuels ! (Dans le domaine de la vision par ordinateur.)

Une belle avancée à suivre de près !

Sources :

Écrire un commentaire

Quelle est la deuxième lettre du mot ptai ?

Fil RSS des commentaires de cet article