Neural Structured Learning (NSL) est un framework de TensorFlow qui permet la formation de réseaux de neurones à l'aide de signaux structurés en plus des entrées de fonctionnalités standard. Les signaux structurés peuvent être représentés sous forme de graphiques, où les nœuds correspondent aux instances et les arêtes capturent les relations entre eux. Ces graphiques peuvent être utilisés pour coder divers types d'informations, telles que la similarité, la hiérarchie ou la proximité, et peuvent être exploités pour régulariser le processus de formation des réseaux de neurones.
L'entrée de structure dans l'apprentissage structuré neuronal peut en effet être utilisée pour régulariser la formation d'un réseau neuronal. En incorporant les informations basées sur le graphique pendant la formation, NSL permet au modèle d'apprendre non seulement des données d'entrée brutes, mais également des relations codées dans le graphique. Cette source d'informations supplémentaire peut contribuer à améliorer les capacités de généralisation du modèle, en particulier dans les scénarios où les données étiquetées sont limitées ou bruitées.
Une façon courante d'exploiter l'entrée de structure pour la régularisation consiste à utiliser des techniques de régularisation de graphes. La régularisation du graphe encourage le modèle à produire des plongements qui respectent la structure du graphe, favorisant ainsi la fluidité et la cohérence des représentations apprises. Ce terme de régularisation est généralement ajouté à la fonction de perte lors de l'entraînement, pénalisant les écarts par rapport aux relations graphiques attendues.
Par exemple, considérons un scénario dans lequel vous entraînez un réseau neuronal pour la classification de documents. En plus du contenu textuel des documents, vous disposez également d'informations sur la similitude entre les documents en fonction de leur contenu. En construisant un graphique dans lequel les nœuds représentent les documents et les bords représentent les relations de similarité, vous pouvez incorporer cette entrée de structure dans NSL pour guider le processus d'apprentissage. Le modèle peut alors apprendre non seulement à classer les documents en fonction de leur contenu, mais également à prendre en compte les similitudes des documents codées dans le graphique.
De plus, l'entrée de structure peut être particulièrement bénéfique dans les scénarios où les données présentent une structure graphique naturelle, comme les réseaux sociaux, les réseaux de citations ou les réseaux biologiques. En capturant les relations inhérentes aux données via le graphique, NSL peut aider à régulariser le processus de formation et à améliorer les performances du modèle sur les tâches qui impliquent l'exploitation de ces relations.
L'entrée de structure dans l'apprentissage structuré neuronal peut être utilisée efficacement pour régulariser la formation d'un réseau neuronal en incorporant des informations basées sur des graphiques qui complètent les données d'entrée brutes. Cette technique de régularisation peut améliorer les capacités et les performances de généralisation du modèle, en particulier dans les scénarios où des signaux structurés sont disponibles, et peut fournir des informations précieuses pour l'apprentissage.
D'autres questions et réponses récentes concernant Principes de base de TensorFlow EITC/AI/TFF:
- Comment peut-on utiliser une couche d'intégration pour attribuer automatiquement les axes appropriés pour un tracé de représentation de mots sous forme de vecteurs ?
- Quel est le but du pooling maximum dans un CNN ?
- Comment le processus d’extraction de caractéristiques dans un réseau neuronal convolutif (CNN) est-il appliqué à la reconnaissance d’images ?
- Est-il nécessaire d'utiliser une fonction d'apprentissage asynchrone pour les modèles de machine learning exécutés dans TensorFlow.js ?
- Quel est le paramètre de nombre maximum de mots de l'API TensorFlow Keras Tokenizer ?
- L'API TensorFlow Keras Tokenizer peut-elle être utilisée pour rechercher les mots les plus fréquents ?
- Qu’est-ce que TOCO ?
- Quelle est la relation entre un certain nombre d'époques dans un modèle d'apprentissage automatique et la précision des prédictions issues de l'exécution du modèle ?
- L'API Pack Neighbours dans Neural Structured Learning de TensorFlow produit-elle un ensemble de données d'entraînement augmenté basé sur des données graphiques naturelles ?
- Qu'est-ce que l'API Pack Neighbours dans l'apprentissage structuré neuronal de TensorFlow ?
Voir plus de questions et réponses dans EITC/AI/TFF TensorFlow Fundamentals