Ce memoire porte sur mes travaux de recherche en traitement automatique des langues (TAL) et en fouille de donnees textuelles. Il presente comment ces travaux s'organisent autour de la problematique de l'acces a l'information dans les textes. Notre demarche s'appuie sur la prise en compte de l'aspect semantique de la langue sous forme de modelisation linguistique et de ressources linguistiques pour le developpement d'applications. La methodologie de l'acces a l'information est donc ici vue comme un acces au sens a partir d'une modelisation linguistique relative a l'application visee plutot qu'un acces aux formes de surface comme l'utilisent par exemple actuellement les methodes predominantes des moteurs de recherche. En retour, la formalisation du modele linguistique et son experimentation sur corpus visent a ameliorer notre connaissance des phenomenes traites et permettre un retour qualitatif, c'est-a-dire explicatif, sur le modele. L'interet pour les methodes de fouille fondees sur les motifs et la volonte de les integrer au TAL -- par exemple, pour acquerir automatiquement des ressources linguistiques et alimenter a moindre cout les systemes de TAL -- procede de la meme demarche. Une telle combinaison vise d'une part a repenser la maniere dont les processus de TAL peuvent tirer benefice de methodes de fouille specifiquement adaptees au texte, et d'autre part a renforcer les processus de fouille, en fonction des specificites de la donnee textuelle, par une prise en compte d'informations de nature linguistique visant notamment a selectionner l'information la plus pertinente.

https://tel.archives-ouvertes.fr/tel-00657919/document

Accès à l'information : vers une hybridation fouille de données et traitement automatique des langues

Automatic events extraction by combining multiple approaches In this paper, we present an automatic system for extracting events based on the combination of two existing information extraction approaches : the first one is made of hand-crafted linguistic rules and the second one is based on an automatic learning of linguistic patterns. We have shown that this mixed approach leads to a significant improvement of extraction performances. MOTS-CLES : Extraction d’information, evenements, approche symbolique, apprentissage de patrons linguistiques.

Combinaison d'approches pour l'extraction automatique d'événements

Face a l’augmentation vertigineuse des informations disponibles librement (notamment sur le Web), reperer efficacement celles qui presentent un interet s’avere une tâche longue et complexe. Les analystes du renseignement d’origine sources ouvertes sont particulierement concernes par ce phenomene. En effet, ceux-ci recueillent manuellement une grande partie des informations d'interet afin de creer des fiches de connaissance resumant le savoir acquis a propos d’une entite. Dans ce contexte, cette these a pour objectif de faciliter et reduire le travail des acteurs du renseignement et de la veille. Nos recherches s’articulent autour de trois axes : la modelisation de l’information, l'extraction d’information et la capitalisation des connaissances. Nous avons realise un etat de l’art de ces differentes problematiques afin d'elaborer un systeme global de capitalisation des connaissances. Notre premiere contribution est une ontologie dediee a la representation des connaissances specifiques au renseignement et pour laquelle nous avons defini et modelise la notion d'evenement dans ce domaine. Par ailleurs, nous avons elabore et evalue un systeme d’extraction d’evenements fonde sur deux approches actuelles en extraction d'information : une premiere methode symbolique et une seconde basee sur la decouverte de motifs sequentiels frequents. Enfin, nous avons propose un processus d’agregation semantique des evenements afin d'ameliorer la qualite des fiches d'evenements obtenues et d'assurer le passage du texte a la connaissance. Celui-ci est fonde sur une similarite multidimensionnelle entre evenements, exprimee par une echelle qualitative definie selon les besoins des utilisateurs.

https://hal.archives-ouvertes.fr/tel-01082975/document

Vers une capitalisation des connaissances orientée utilisateur : extraction et structuration automatiques de l'information issue de sources ouvertes

Data mining techniques are used in order to discover emerging knowledge (patterns) in databases. The problem of such techniques is that there are, in general, too many resulting patterns for a user to explore them all by hand. Some methods try to reduce the number of patterns without a priori pruning. The number of patterns remains, nevertheless, high. Other approaches, based on a total ranking, propose to show to the user the top-k patterns with respect to a measure. Those methods do not take into account the user's knowledge and the dependencies that exist between patterns. In this paper, we propose a new way for the user to explore extracted patterns. The method is based on navigation in a partial order over the set of all patterns in the Logical Concept Analysis framework. It accommodates several kinds of patterns and the dependencies between patterns are taken into account thanks to partial orders. It allows the user to use his/her background knowledge to navigate through the partial order, without a priori pruning. We illustrate how our method can be applied on two different tasks (software engineering and natural language processing) and two different kinds of patterns (association rules and sequential patterns).

/pdf/partial-orders-and-logical-concept-analysis-to-explore-1x8t79ikhc.pdf

Partial orders and logical concept analysis to explore patterns extracted by data mining

La reconnaissance des entites nommees et une discipline cruciale du domaine du TAL. Elle sert a l'extraction de relations entre entites nommees, ce qui permet la construction d'une base de connaissance (Surdeanu and Ji, 2014), le resume automatique (Nobata et al., 2002), etc... Nous nous interessons ici aux phenomenes de structurations qui les entourent.Nous distinguons ici deux types d'elements structurels dans une entite nommee. Les premiers sont des sous-chaines recurrentes, que nous appelerons les affixes caracteristiques d'une entite nommee. Le second type d'elements est les tokens ayant un fort pouvoir discriminant, appeles des tokens declencheurs. Nous detaillerons l'algorithme que nous avons mis en place pour extraire les affixes caracteristiques, que nous comparerons a Morfessor (Creutz and Lagus, 2005b). Nous appliquerons ensuite notre methode pour extraire les tokens declencheurs, utilises pour l'extraction d'entites nommees du Francais et d'adresses postales.Une autre forme de structuration pour les entites nommees est de nature syntaxique, qui suit generalement une structure d'imbrications ou arboree. Nous proposons un type de cascade d'etiqueteurs lineaires qui n'avait jusqu'a present jamais ete utilise pour la reconnaissance d'entites nommees, generalisant les approches precedentes qui ne sont capables de reconnaitre des entites de profondeur finie ou ne pouvant modeliser certaines particularites des entites nommees structurees.Tout au long de cette these, nous comparons deux methodes par apprentissage automatique, a savoir les CRF et les reseaux de neurones, dont nous presenterons les avantages et inconvenients de chacune des methodes.

https://tel.archives-ouvertes.fr/tel-01772268/document

La structuration dans les entités nommées

Dans cet article nous presentons une methode utilisant l'extraction de motifs sequentiels d'itemsets pour l'apprentissage automatique de patrons linguistiques. De plus, nous proposons de nous appuyer sur l'ordre partiel existant entre les motifs pour les enumerer de facon structuree et ainsi faciliter leur validation en tant que patrons linguistiques. ------- In this paper, we present a method based on the extraction of itemset sequential patterns in order to automatically generate linguistic patterns. In addition, we propose to use the partial ordering between sequential patterns to enumerate and validate them.

https://hal.archives-ouvertes.fr/hal-01016885/document

Fouille de données séquentielles d’itemsets pour l’apprentissage de patrons linguistiques

Dans cet article, nous proposons une approche pour explorer des textes de taille importante en mettant en evidence des sous-parties coherentes. Cette methode d'exploration s'appuie sur une representation en graphe du texte, en utilisant le modele linguistique de Hoey pour selectionner et apparier les phrases dans le graphe. Notre contribution porte sur l'utilisation de techniques de fouille de graphes sous contraintes pour extraire des sous-parties pertinentes du texte (c'est-a-dire des collections de sous-reseaux phrastiques homogenes). Nous avons realise des experimentations sur deux textes anglais de taille consequente pour montrer l'interet de l'approche que nous proposons.

Fouille de graphes sous contraintes linguistiques pour l'exploration de grands textes (Graph Mining Under Linguistic Constraints to Explore Large Texts) [in French]

In this paper, we propose an approach to explore large texts by highlighting coherent sub-parts. The exploration method relies on a graph representation of the text according to Hoey's linguistic model which allows the selection and the binding of adjacent and non-adjacent sentences. The main contribution of our work consists in proposing a method based on both Hoey's linguistic model and a special graph mining technique, called CoHoP mining, to extract coherent sub-parts of the graph representation of the text. We have conducted some experiments on several English texts showing the interest of the proposed approach.

/pdf/graph-mining-under-linguistic-constraints-for-exploring-1ctqla7nki.pdf

Peggy Cellier

Papers

Fouille de données séquentielles d’itemsets pour l’apprentissage de patrons linguistiques

Fouille de graphes sous contraintes linguistiques pour l'exploration de grands textes (Graph Mining Under Linguistic Constraints to Explore Large Texts) [in French]

Graph Mining under Linguistic Constraints for Exploring Large Texts