Hispanopedia Wiki
Articulo de referencia

aprendiz de patrones acoplados

Coupled Pattern Learner (CPL) es un algoritmo de aprendizaje automático que combina el aprendizaje semisupervisado de categorías y relaciones para prevenir el problema de la der...

Hispanopedia WikiContenido en espanolLectura gratuita

Coupled Pattern Learner (CPL) es un algoritmo de aprendizaje automático que combina el aprendizaje semisupervisado de categorías y relaciones para prevenir el problema de la deriva semántica asociada con los métodos de aprendizaje bootstrap.

Aprendiz de patrones acoplados

Los enfoques de aprendizaje semisupervisado que utilizan un número reducido de ejemplos etiquetados con muchos ejemplos sin etiquetar suelen ser poco fiables, ya que producen un conjunto de extracciones internamente consistente, pero incorrecto. CPL resuelve este problema aprendiendo simultáneamente clasificadores para muchas categorías y relaciones diferentes en presencia de una ontología que define restricciones que acoplan el entrenamiento de estos clasificadores. Fue introducido por Andrew Carlson, Justin Betteridge, Estevam R. Hruschka Jr. y Tom M. Mitchell en 2009. [ 1 ] [ 2 ]

Descripción general de CPL

CPL es un enfoque de aprendizaje semisupervisado que produce resultados más precisos al combinar el entrenamiento de múltiples extractores de información. La idea básica de CPL es que el entrenamiento semisupervisado de un solo tipo de extractor, como "entrenador", es mucho más difícil que entrenar simultáneamente a muchos extractores que abarcan diversos tipos de entidades y relaciones interrelacionadas. Utilizando el conocimiento previo sobre las relaciones entre estas diferentes entidades y relaciones, CPL convierte los datos sin etiquetar en una restricción útil durante el entrenamiento. Por ejemplo, "entrenador(x)" implica "persona(x)" y "no deporte(x)".

Descripción de CPL

Acoplamiento de predicados

CPL se basa principalmente en la noción de acoplar el aprendizaje de múltiples funciones para restringir el problema de aprendizaje semisupervisado. CPL restringe la función aprendida de dos maneras.

  1. Compartir entre predicados de misma aridad según relaciones lógicas
  2. Verificación de tipos de argumentos de relación

Compartir entre predicados de misma aridad

Cada predicado P en la ontología tiene una lista de otros predicados de la misma aridad con los que P es mutuamente excluyente. Si A es mutuamente excluyente con el predicado B, las instancias y patrones positivos de A se convierten en instancias y patrones negativos para B. Por ejemplo, si 'ciudad', que tiene una instancia 'Boston' y un patrón 'alcalde de arg1', es mutuamente excluyente con 'científico', entonces 'Boston' y 'alcalde de arg1' se convertirán en una instancia y un patrón negativos, respectivamente, para 'científico'. Además, algunas categorías se declaran como un subconjunto de otra categoría. Por ejemplo, 'atleta' es un subconjunto de 'persona'.

Verificación de tipos de argumentos de relación

Esta es información de verificación de tipos que se utiliza para vincular el aprendizaje de relaciones y categorías. Por ejemplo, los argumentos de la relación 'ceoOf' se declaran como pertenecientes a las categorías 'persona' y 'empresa'. CPL no promueve un par de frases nominales como una instancia de una relación a menos que ambas frases nominales se clasifiquen como pertenecientes a los tipos de argumentos correctos.

Descripción del algoritmo

A continuación se presenta un breve resumen del algoritmo CPL. [ 2 ]

Entrada: Una ontología O y un corpus de texto C Salida: Instancias/patrones de confianza para cada predicado para i=1,2,...,∞ hacer para cada predicado p en O hacer Extraer instancias/patrones contextuales candidatos utilizando patrones/instancias recientemente promovidos; FILTRAR candidatos que violen el acoplamiento; CLASIFICAR instancias/patrones candidatos; PROMOCIONAR a los mejores candidatos; fin fin

Entradas

Un amplio corpus de oraciones etiquetadas con categorías gramaticales y una ontología inicial con categorías predefinidas, relaciones, relaciones mutuamente excluyentes entre predicados de la misma aridad, relaciones de subconjunto entre algunas categorías, instancias semilla para todos los predicados y patrones semilla para las categorías.

Extracción de candidatos

CPL encuentra nuevas instancias candidatas utilizando patrones recientemente promovidos para extraer las frases nominales que coocurren con esos patrones en el corpus de texto. CPL extrae,

  • Instancias de categoría
  • Patrones de categoría
  • Instancias de relación
  • Patrones de relación

Filtrado de candidatos

Los casos y patrones candidatos se filtran para mantener una alta precisión y evitar patrones extremadamente específicos. Un caso solo se considera para evaluación si coocurre con al menos dos patrones promovidos en el corpus de texto y si su frecuencia de coocurrencia con todos los patrones promovidos es al menos tres veces mayor que su frecuencia de coocurrencia con patrones negativos.

Clasificación de candidatos

CPL clasifica las instancias candidatas según el número de patrones promovidos con los que coocurren, de modo que las candidatas que aparecen con más patrones obtienen una mejor clasificación. Los patrones se clasifican utilizando una estimación de la precisión de cada uno.

Promoción de candidatos

CPL clasifica a los candidatos según sus puntuaciones de evaluación y promueve un máximo de 100 instancias y 5 patrones para cada predicado. Las instancias y los patrones solo se promueven si coocurren con al menos dos patrones o instancias promovidas, respectivamente.

Aprendizaje Meta-Bootstrap

El Meta-Bootstrap Learner (MBL) también fue propuesto por los autores de CPL. [ 2 ] El Meta-Bootstrap Learner combina el entrenamiento de múltiples técnicas de extracción con una restricción de vista múltiple, que requiere que los extractores coincidan. Esto hace factible la adición de restricciones de acoplamiento sobre los algoritmos de extracción existentes, tratándolos como cajas negras. MBL asume que los errores cometidos por las diferentes técnicas de extracción son independientes. A continuación, se presenta un breve resumen de MBL.

Entrada : Una ontología O, un conjunto de extractores ε Salida : Instancias de confianza para cada predicado para i=1,2,...,∞ hacer para cada predicado p en O hacer para cada extractor e en ε hacer Extraer nuevos candidatos para p usando e con instancias recientemente promovidas; fin FILTRAR los candidatos que violen las restricciones de exclusión mutua o de verificación de tipos; PROMOCIONAR candidatos que fueron extraídos por todos los extractores; fin fin

Los algoritmos subordinados utilizados con MBL no promueven ninguna instancia por sí mismos, sino que informan a MBL sobre la evidencia de cada candidato, y MBL es responsable de promover las instancias.

Aplicaciones

En su artículo [ 1 ] los autores han presentado resultados que muestran el potencial de CPL para contribuir con nuevos hechos al repositorio existente de conocimiento semántico, Freebase [ 3 ].

Véase también

Notas

  1. 1 2 Carlson, Andrew; Justin Betteridge; Estevam R. Hruschka Jr.; Tom M. Mitchell (2009). "Acoplamiento del aprendizaje semisupervisado de categorías y relaciones" . Actas del Taller NAACL HLT 2009 sobre Aprendizaje Semisupervisado para el Procesamiento del Lenguaje Natural . Colorado, EE. UU.: Asociación de Lingüística Computacional: 1–9 . ISBN 9781932432381.
  2. 1 2 3 Carlson, Andrew; Justin Betteridge; Richard C. Wang; Estevam R. Hruschka Jr.; Tom M. Mitchell (2010). "Aprendizaje semisupervisado acoplado para la extracción de información". Actas de la tercera conferencia internacional de la ACM sobre búsqueda web y minería de datos . Nueva York, EE. UU.: ACM. págs. 101–110 . doi : 10.1145/1718487.1718501 . ISBN  9781605588896.
  3. ↑ "Volcados de datos de Freebase" . Metaweb Technologies. 2009. Archivado del original el 6 de diciembre de 2011.{{cite journal}}: Para citar una revista se requiere |journal=( ayuda )

Referencias

  • Liu, Qiuhua; Xuejun Liao; Lawrence Carin (2008). "Aprendizaje multitarea semisupervisado". NIPS .
  • Shinyama, Yusuke; Satoshi Sekine (2006). "Extracción preventiva de información mediante descubrimiento de relaciones sin restricciones". HLT-Naacl .
  • Chang, Ming-Wei; Lev-Arie Ratinov; Dan Roth (2007). "Guiding semi-supervision with constraint driven learning". ACL .
  • Banko, Michele; Michael J. Cafarella; Stephen Soderland; Matt Broadhead; Oren Etzioni (2007). "Extracción de información abierta de la web". IJCAI .
  • Blum, Avrim; Tom Mitchell (1998). «Combinación de datos etiquetados y no etiquetados con co-entrenamiento». Actas de la undécima conferencia anual sobre teoría del aprendizaje computacional . págs. 92-100 . doi : 10.1145/279943.279962 . ISBN  1581130570. S2CID 207228399 . 
  • Riloff, Ellen; Rosie Jones (1999). "Aprendizaje de diccionarios para la extracción de información mediante bootstrapping multinivel". AAAI .
  • Rosenfeld, Benjamin; Ronen Feldman (2007). "Uso de estadísticas de corpus sobre entidades para mejorar la extracción de relaciones semisupervisadas de la web". ACL .
  • Wang, Richard C.; William W. Cohen (2008). "Expansión iterativa de conjuntos de entidades nombradas mediante la web". ICDM .