Comme gravir une montagne par le chemin le plus court possible, l’amélioration des tâches de classification peut être obtenue en choisissant le chemin le plus influent vers le résultat, et pas seulement en apprenant avec des réseaux plus profonds.
Le Deep Learning (DL) effectue des tâches de classification à l’aide d’une série de couches. Pour exécuter efficacement ces tâches, les décisions locales sont prises progressivement au fil des couches. Mais pouvons-nous prendre une décision globale en choisissant la voie la plus influente vers le résultat plutôt que de prendre ces décisions localement ?
Dans un article publié aujourd’hui (31 août) dans la revue Rapports scientifiques, des chercheurs de l’Université Bar-Ilan en Israël répondent à cette question par un « oui » catégorique. Les architectures profondes préexistantes ont été améliorées en mettant à jour les chemins les plus influents vers la sortie.
Comme gravir une montagne par le chemin le plus court possible, l’amélioration des tâches de classification peut être obtenue en entraînant le chemin le plus influent vers le résultat, et pas seulement en apprenant avec des réseaux plus profonds. Crédit : Prof. Ido Kanter, Université Bar-Ilan
Analogie et implications
«On peut l’imaginer comme deux enfants qui souhaitent gravir une montagne comportant de nombreux rebondissements. L’un d’eux choisit l’itinéraire local le plus rapide à chaque intersection tandis que l’autre utilise des jumelles pour voir tout le chemin à parcourir et choisit l’itinéraire le plus court et le plus significatif, tout comme Google Maps ou Waze. Le premier enfant pourrait avoir une longueur d’avance, mais le second finira par gagner », a déclaré le professeur Ido Kanter, du département de physique de Bar-Ilan et du centre de recherche multidisciplinaire sur le cerveau de Gonda (Goldschmied), qui a dirigé la recherche.
« Cette découverte peut ouvrir la voie à un meilleur apprentissage de l’IA, en choisissant la voie la plus significative vers le sommet », a ajouté Yarden Tzach, doctorant et l’un des principaux contributeurs à ce travail.
Relier la biologie et l’apprentissage automatique
Cette exploration d’une compréhension plus approfondie des systèmes d’IA par le professeur Kanter et son équipe de recherche expérimentale, dirigée par le Dr Roni Vardi, vise à établir un pont entre le monde biologique et apprentissage automatique, créant ainsi un système d’IA amélioré et avancé. À ce jour, ils ont découvert des preuves d’une adaptation dendritique efficace à l’aide de cultures neuronales, ainsi que la manière de mettre en œuvre ces résultats dans l’apprentissage automatique, montrant comment les réseaux superficiels peuvent rivaliser avec les réseaux profonds et trouvant le mécanisme qui sous-tend un apprentissage profond réussi.
L’amélioration des architectures existantes à l’aide de décisions globales peut ouvrir la voie à une IA améliorée, qui peut améliorer ses tâches de classification sans avoir besoin de couches supplémentaires.