Comparación de modelos de lenguaje en tareas de ... - sepln

Procesamiento del Lenguaje Natural, núm. 35 (2005), pp. 269-276 recibido 29-04-2005; aceptado 01-06-2005Comparación de modelos de lenguaje en tareas de transcripciónautomática de noticiarios televisivos ∗Javier Diéguez TiradoETSI TelecomunicaciónUniversidad de Vigojdieguez@gts.tsc.uvigo.esCarmen García MateoETSI TelecomunicaciónUniversidad de Vigocarmen@gts.tsc.uvigo.esAntonio Cardenal LópezETSI TelecomunicaciónUniversidad de Vigocardenal@gts.tsc.uvigo.esResumen: En el presente artículo se investigan diversas técnicas de modelado delenguaje para una tarea de transcripción automática de noticiarios bilingües. Se comparauna aproximación no adaptada con varios esquemas basados en interpolaciónde modelos. Mediante una estrategia de adaptación dinámica, utilizando reconocedoresen paralelo, se ha conseguido reducir la tasa de errores de reconocimientoen un 20.7 % con respecto al modelo no adaptado. El artículo también analiza losproblemas del habla espontánea que han limitado las mejoras.Palabras clave: adaptación del modelo de lenguaje, transcripción de voz, programasde noticiasAbstract: In this paper several language models for a bilingual broadcast newstranscription task are investigated. A non-adapted approach is compared to variousschemes based on mixture models. Through the use of a dynamic adaptation strategy,employing several decoders in parallel, a 20.7 % reduction in the word errorrate was achieved with respect to the non-adapted model. This paper also analyzesthe problems of spontaneous speech, which have limited the improvements.Keywords: language model adaptation, speech transcription, broadcast news1. IntroducciónLa transcripción de noticiarios televisivos(Lamel et al., 2004) constituye un marco detrabajo idóneo para medir las prestaciones deun reconocedor de voz. La gran diversidad delocutores, estilos de habla y temas tratadosa lo largo de un programa de noticias suponeuna exigente prueba para un reconocedor,obligándole a ser capaz de funcionar de manerarobusta para un abanico de situacionesdiferentes. Es por ello que esta tarea ha centradouna buena parte de la investigación enreconocimiento de voz en la última década.El sistema Transcrigal de la Universidadde Vigo (Diéguez Tirado et al., 2004) fue diseñadopara la transcripción de noticiarios enlengua gallega, que se caracterizan por la presenciafrecuente de locutores que emplean elidioma castellano. El bilingüismo inherentea esta tarea constituye una nueva variable atratar, que aumenta la complejidad y el interésdel sistema.∗Este proyecto ha sido parcialmente apoyado porel MCyT de España, bajo el proyecto TIC2002-02208, y la Xunta de Galicia bajo el proyectoPGIDT03PXIC32201PN. También agradecemos lacolaboración prestada por la Televisión de Galicia(TVG)Para abordar esta variabilidad es convenienterecurrir a esquemas adaptados, tantoen lo relativo a los modelos acústicos comoen el modelo de lenguaje. En este artículo seestudian varias aproximaciones al modeladode lenguaje en Transcrigal. Se comparará unesquema adaptado con un esquema no adaptado:Aproximación de fuerza bruta, que consisteen concatenar todo el texto de entrenamientodisponible.Adaptación con modelos de mezclas(Clarkson, 1999), en la cual el texto sedivide en fuentes, y el modelo resultantese obtiene como combinación lineal demodelos componentes. La elección de lospesos permite la adaptación.La adaptación por modelos de mezclas esbien conocida, si bien este artículo utiliza dosvariaciones frente a las aproximaciones tradicionales:(i) aplicar el modelo adaptado enla fase de Viterbi del reconocedor, en lugarde esperar a la fase N-best; (ii) aumentar laespecificidad de los modelos de lenguaje mediantela selección de subconjuntos dentro dedominio, en lugar de la aproximación habitualde entrenar “modelos de temas” fueraISSN: 1135-5948© 2005 Sociedad Española para el Procesamiento del Lenguaje Natural

F. Diéguez, C. García, A. Cardenalde dominio, eg. (Gotoh y Renals, 1999). Secompararán varias estrategias realizando unaumento progresivo de la especificidad. El usode estas técnicas ha permitido obtener unadisminución del 20.7 % en la tasa de erroresde reconocimiento con respecto a la aproximaciónpor fuerza bruta.El resto del artículo está organizado de lasiguiente forma. A continuación, en el apartado2 se proporciona una visión general del sistemacompleto de transcripción de noticias.En el apartado 3 se introducen algunos conceptosbásicos sobre adaptación del modelode lenguaje. El apartado 4 describe las solucionespropuestas para el modelo de lenguajede Transcrigal. Seguidamente, el apartado 5recoge los resultados experimentales. Finalmente,se realiza una discusión de los resultadosobtenidos (Apdo. 6) y se proporcionanlas conclusiones y las líneas futuras del trabajo(Apdo. 7).2. El sistema Transcrigal detranscripción de noticiasEn el presente apartado se resumen loscomponentes del sistema Transcrigal. Unadescripción más detallada puede encontrarseen (Diéguez Tirado et al., 2004).2.1. Bases de datosPara la construcción de Transcrigal se utilizaronvarias bases de datos:Transcrigal-DB. Es la base de datos propiadel sistema. Está formada por grabacionesde noticiarios de la Televisión deGalicia, tanto en audio como en vídeo,así como su transcripción de texto. Estabase de datos ha sido ampliada recientementede 14 a 31 programas (Tabla 1).Cada programa dura aproximadamente1 h., distinguiéndose tres secciones: “noticias”(N), “deportes” (D) y “el tiempo”(T). Las transcripciones constan de untotal de 315K palabras (2MB de texto).Los 31 programas se dividen en entrenamiento,validación y test (26, 2 y 3,respectivamente).Bases de datos de audio. Se utilizaron 25horas en castellano y 15 horas de gallegotomadas de SpeechDAT, como materialde entrenamiento para los modelosacústicos.Bases de datos de texto. Fueron utilizadaspara para entrenar los modelos deRemesa1 Remesa2Núm. programas 14 17Fecha captura 2002 2003–2004Edición mediodía tardeCodif. audio PCM 16Khz PCM 48KhzCodif. vídeo AVI (Indeo) MPEG2Tabla 1: Base de datos Transcrigal-DBNombre id. fechas tamañoEl Correo Gallego ES 12/00–01/05 366 MBEl Correo Gallego GA 12/00–01/05 122 MBGalicia Hoxe GA 05/03–01/05 117 MBVieiros GA 03/01–02/04 11 MBEscaletas GA 06/01–12/04 154 MBTabla 2: Material de textolenguaje, y corresponden a la edición Internetde varios diarios en lengua gallegay castellana. También se pudo contarcon las transcripciones utilizadas por lospresentadores de los informativos, conocidashabitualmente como escaletas, proporcionadaspor la TVG (Tabla 2).2.2. Estructura del sistemaEl sistema Transcrigal consta de tres bloquesfundamentales (Fig. 1): (i) segmentadoracústico, divide cada programa de noticias enuna serie de turnos de locutor; (ii) reconocedorde voz, transcribe cada turno de locutorutilizando un modelo de lenguaje y una seriede modelos acústicos determinados. El modelode lenguaje se integra con el reconocedor enla fase de alineamiento de patrones (Fig. 2);(iii) visualizador: permite acceder a los contenidosmultimedia en base a búsquedas sobrelas transcripciones (Fig. 3).3. El mecanismo de adaptacióndel modelo de lenguajeA lo largo de este apartado se exponenalgunos conceptos básicos sobre adaptaciónde modelos de lenguaje. En primer lugar, sepresenta la adaptación de modelos de lenguajecomo una herramienta capaz de solucio-Figura 1: Diagrama de bloques de Transcrigal270

Comparación de modelos de lenguaje en tareas de transcripción automática de noticiarios televisivosii¢j k lm¨ḧ me]f¨gḧqr¢s¢ẗ op usü p qos vw q xp ü wn]op§¤©¢¨¦¢¥¦¨§ £¢¥ £©§ ¦¨¢¡¤£¥¦¨§†¤‡¤ˆ‰Š‹Œ¤ŽŽ‘¤ŠŠ’“Š„…:¤; 9;

F. Diéguez, C. García, A. CardenalNombretrs-ftrsescp-GAp-ESDescripciónTranscrigal-DB entrenam. (filtrada)Transcrigal-DB entrenam. (total)Escaletas (filtrada)ECG-GA, Galicia Hoxe, VieirosECG-ES¡¡¡¢¡¢¡¢¡¢¡¢¡¡¡¢¡¢¡¢¡¢¡¢Tabla 3: Organización del texto en fuentesPSfrag replacementsdonde la probabilidad P se calcula parauna palabra w i con una historia dada h i . Lospesos de interpolación {λ j } se obtienen pormedio del algoritmo EM, minimizando la perplejidadde un cierto corpus de adaptación.En el caso de Transcrigal, el texto disponiblese organizó en cinco fuentes distintas,según la tabla 3. El corpus de adaptaciónfue extraído del conjunto de validación deTranscrigal-DB. El esquema para obtener losmodelos adaptados fue el siguiente: en primerlugar, los LMs componentes fueron entrenadoscomo trigramas por medio del paqueteSRILM (Stolcke, 2002) con suavizadode Katz. Tras el cálculo de los pesos, segúnlas estrategias explicadas en el Apartado 4,cada modelo resultante se convirtió a un modelode trigramas autónomo. Finalmente, seaplicó poda basada en entropía con umbral2, 5 · 10 −8 , y el vocabulario se limitó a 20Kpalabras, para permitir su uso con el reconocedor.4. Esquemas adaptados paraTranscrigalEn este apartado, se proponen tres esquemasdiferentes para el modelado de lenguajede Transcrigal, basados en adaptacióncon modelos de mezclas. En primer lugar, sedescribe un esquema de adaptación al dominio.Seguidamente, se describe una aproximaciónque aprovecha la estructura temporal dela tarea. Finalmente, se detalla un esquemadinámico, que consigue una adaptación a tema,estilo e idioma.La principal novedad de estas estrategiasconsiste en el aumento de la especificidadde los modelos escogiendo subconjuntos homogéneosen el texto dentro de dominio, enlugar del procedimiento habitual de identificarestos subconjuntos en el corpus de referencia.4.1. Adaptación al dominioPara realizar una adaptación al dominio,únicamente es necesario entrenar un conjun-plan. espont. espont.GA GA ESN¡¡¡¢¡¢¡¢¡¢¡¢¢¡¢¡¢¡¢¡¢ ¡ ¡ ¡ D¡¡¡¢¡¢¡¢¡¢¡¢¢¡¢¡¢¡¢¡¢ ¡ ¡ ¡ TTRS validación(COMPLETO)algoritmo EMLM1 LM2 LM3 LM4trs esc p-GA p-ESFigura 4: Creación del LM universalLM trs esc p-GA p-ESuniv. 0.173 0.471 0.268 0.088Tabla 4: Pesos LM universalto de pesos, de manera que se obtenga unmodelo de lenguaje universal. Este modeloserá aplicado a todos los turnos de locutor demanera ciega, al igual que si fuese un modelode lenguaje obtenido por fuerza bruta, perocon la ventaja de haber combinado el materialde entrenamiento de manera adecuadacon respecto a la tarea.Para entrenar el modelo de lenguaje universal,se combinaron cuatro de las fuentes dela Tabla 3, y se utilizó como corpus de adaptaciónla totalidad del texto de validación deTranscrigal-DB. Este proceso se ilustra en laFigura 4. Los pesos obtenidos se muestranen la Tabla 4. Se observa que la fuente demayor peso corresponde a las escaletas, a pesarde carecer de transcripciones de habla espontánea,por ofrecer el mejor compromisoentre ajuste a la tarea y cantidad de texto. Sibien la fuente “trs” corresponde a materialmás ajustado, no se le asigna un peso importantedebido a su escasez.4.2. Adaptación por bloquesEl siguiente esquema propuesto aprovechaque cada programa de noticias está separadoen tres bloques bien diferenciados: noticias,deportes y tiempo. Precediendo a cada bloquese encuentra una sintonía característicaque permite su fácil identificación. Por tanto,puede asumirse que para cada turno delocutor que se desee reconocer, el bloque alque pertenece será conocido, siendo factiblela aplicación de un modelo adaptado a esebloque.Conforme a este planteamiento, se entrenóun modelo diferente para cada tema,utilizando como corpus de adaptación el sub-λ272

Comparación de modelos de lenguaje en tareas de transcripción automática de noticiarios televisivosplan. espont. espont.GA GA ESN¥¡¥¡¥¡¥¡¥ ¦¡¦¡¦¡¦¡¦¦¡¦¡¦¡¦¡¦ ¥¡¥¡¥¡¥¡¥LM5trs-f(filtrados)plan.¡¡ ¡¡¡¡¡¡¡ ¡¡ ¡¡GA GA¡ ¡ ¡¡¡ ¡¡ ¡ ¡¡ ¡ ¡ ¡¡ ©¡©¡©Nespont. espont.ES¡algoritmo EMλ¡¡¡¡¡¡¡¡D£¡£¡£¡£¡££¡£¡£¡£¡£¤¡¤¡¤¡¤¡¤¤¡¤¡¤¡¤¡¤¤¡¤¡¤¡¤¡¤£¡£¡£¡£¡£©¡©¡©¡¡¡¡©¡©¡©LM5trs-f(filtrados)D¤¡¤¡¤¡¤¡¤ £¡£¡£¡£¡£T¤¡¤¡¤¡¤¡¤ £¡£¡£¡£¡£¡¡¡¢¡¢¡¢¡¢¡¢¡¡ ¡¡¨¡¨¡¨¡¨¡¨ §¡§¡§¡§¡§g replacementsTRS validación(3 SUBCONJ.)¡¡¡¢¡¢¡¢¡¢¡¢LM1 LM2 LM3 LM4trs esc(filtradas)p-GAp-ES¨¡¨¡¨¡¨¡¨ §¡§¡§¡§¡§¡¡ ©¡©¡©¡¡algoritmo EMλT¡¡PSfrag replacementsTRS validación(6 SUBCONJ.)LM1 LM2 LM3 LM4trs esc(filtradas)p-GA p-ES¡¡ ©¡©¡©Figura 5: Creación de los LMs por bloquesLM trs-f trs esc p-GA p-ESN 0.07 0.02 0.49 0.34 0.08D 0.15 0.04 0.52 0.14 0.15T 0.83 0.02 0.11 0.04 0.00Tabla 5: Pesos LMs por bloquesconjunto correspondiente de la parte de validación.Se combinaron cinco fuentes y se hizouso de filtrado en algunas de ellas, paramejorar la correspondencia entre corpus deadaptación y texto de entrenamiento, de estamanera:Las escaletas fueron divididas en noticiasy deportes en base a sus etiquetas. Paralos bloques de noticias y deportes, seescogió el subconjunto correspondiente.Para el bloque de el tiempo, se escogió latotalidad de las escaletas.La fuente “trs-f” está formada porel subconjunto de entrenamiento deTranscrigal-DB correspondiente al bloque.La fuente “trs” corresponde a la totalidaddel texto de entrenamiento, sinfiltrado.El proceso de creación de los tres modelosse representa en la Figura 5. Los pesos obtenidospara cada uno de los tres modelos serecogen en la Tabla 5. Se observa cómo la importanciade cada fuente varía claramente enfunción del bloque considerado. En todos loscasos, se le asigna un mayor peso a la fuentefiltrada “trs-f” que a la fuente “trs”, debidoa que está más ajustada, a pesar de contarcon un tamaño menor.4.3. Adaptación dinámicaSi bien el esquema anterior consigue unaadaptación al tema, se realizaron ciertas modificacionespara incorporar adaptación al estilo(habla planeada o espontánea) y al idio-Figura 6: Creación de los LMs para adapt.dinámicaLM trs-f trs esc p-GA p-ESN-pl-GA 0.05 0.01 0.60 0.33 0.01N-sp-GA 0.19 0.07 0.13 0.53 0.09N-sp-ES 0.23 0.01 0.01 0.03 0.71D-pl-GA 0.06 0.03 0.74 0.16 0.01D-sp 0.33 0.01 0.02 0.05 0.59T 0.83 0.02 0.11 0.04 0.00Tabla 6: Pesos LMs para adapt. dinámicama (castellano o gallego). Procediendo demanera análoga al caso anterior, se crearon6 modelos adaptados, utilizando como corpusde adaptación subconjuntos concretos delcorpus de validación:Para el bloque de noticias, se crearon 3modelos: habla planeada en gallego, hablaespontánea en gallego y habla espontáneaen castellano. No se creó unmodelo para habla planeada en castellanodebido a que el texto en Transcrigal-DB para esta condición es insuficiente.En el bloque de deportes, debido a quecasi toda el habla espontánea es en idiomacastellano, se creó un único modelopara habla espontánea cubriendo ambosidiomas.Para el bloque de el tiempo, únicamentese entrenó un modelo de lenguaje, debidoa que todos los turnos corresponden allocutor principal.Los pesos de los seis modelos entrenadosse recogen en la Tabla 6, y los subconjuntosde validación utilizados se resumen en la Figura6.Para aplicar el modelo adecuado a cadaturno de locutor, podría haberse procedidocon un esquema multipase. Sin embargo, debidoa que únicamente existe incertidumbreacerca de un máximo de 3 modelos, ha resul-273

F. Diéguez, C. García, A. CardenalLMPPL %OOV(int.) (20K)%WERfuerza bruta 155.8 5.72 37.13mezcla estática 109.9 4.76 32.75mezcla bloques 95.9 4.39 31.67mezcla dinámica 84.7 3.94 29.55Tabla 7: Resultados globalestado factible una implementación basada enreconocedores en paralelo, decidiendo el modeloadecuado en base a la puntuación finalde reconocimiento. Este esquema proporcionados ventajas sobre el anterior:Permite realizar adaptación dinámicasin utilizar transcripciones erróneas, locual evita una fuente de problemas.Facilita la implementación en tiemporeal, lo cual puede ser útil para aplicacionesfuturas de subtitulado en directo.5. Resultados experimentalesEl el presente apartado se analizan lasprestaciones de cada uno de los mecanismosde modelado de lenguaje propuestos, frente ala parte de test de Transcrigal-DB (3 programasde noticias, con un total de 31577palabras etiquetadas). Se realizaron experimentosde texto, en base a perplejidad y tasade palabras fuera de vocabulario (OOV), yexperimentos de reconocimiento. La tabla 7presenta los resultados.5.1. Experimentos de textoLa columna PPL de la tabla 7 representala perplejidad de cada LM frente al texto detest de Transcrigal-DB. La perplejidad se obtuvopara los modelos de lenguaje ya podadospor entropía, restringiéndolos a un vocabulariocomún de manera que se permitiera lacomparación. Se utilizó el vocabulario intersección,formado por 6571 palabras presentesen todos los modelos de lenguaje obtenidos,con una tasa de palabras fuera de vocabulariode 21.07 %. En el caso de los modelos porbloques y dinámicos, se aplicaron únicamentea los subconjuntos del test correspondientes.La columna “OOV” muestra la tasa de palabrasfuera de vocabulario, de cada modelode lenguaje, una vez podado a 20K palabraspara poder ser utilizado por el reconocedor.Ambas variables analizan distintos aspectosacerca la calidad del LM resultante. Mientrasla tasa de OOV mide la capacidad delLM para seleccionar un lexicón adaptado, laperplejidad mide el poder predictivo del modelode lenguaje frente al test. Ambos aspectosinfluirán de manera complementaria en latasa de reconocimiento final.Los resultados obtenidos indican que laaproximación por fuerza bruta, al haber sidorealizada sin tener en cuenta la naturalezade la tarea, se ve claramente superada por lastécnicas basadas en mezclas. A medida que laestrategia tiene en cuenta las variaciones puntualesde tema y estilo, se obtienen mejorastanto en tasa de OOV como en perplejidad.5.2. Experimentos dereconocimientoLos experimentos de reconocimiento serealizaron utilizando modelos acústicos adaptadosa locutores masculinos, femeninos, ylocutores principales, según el procedimientoexplicado en (Diéguez Tirado et al., 2004).Los parámetros de poda del reconocedor fueronajustados para una ejecución en 3 vecestiempo real. Se partió de una segmentaciónmanual del material de test, para evitar erroresderivados de una segmentación automáticaimperfecta.La columna WER de la Tabla 7 muestrala tasa de errores de reconocimiento para laparte de test de Transcrigal-DB, utilizandocada uno de los esquemas de modelado delenguaje propuestos. Se observan resultadosbastante correlados con los valores de perplejidadobtenidos.En la Tabla 8 se desglosa la WER parala aproximación de fuerza bruta y la adaptacióndinámica. También se incluye la proporcióndel test que corresponde a cada grupodesglosado. Si bien se observan mejoras paratodos los grupos de locutores, el porcentajede errores en la parte de habla espontánea(en negrilla) sigue siendo muy alto, si biencorresponde únicamente a un 19 % del test.6. Discusión. Los problemas delhabla espontáneaEn este artículo se han presentado algunosmecanismos de adaptación al modelo delenguaje para una tarea de transcripción denoticias. El mejor de los mecanismos propuestos,ha proporcionado una mejora relativa deun 20.7 % en tasa de reconocimiento, con respectoa una aproximación basada en fuerzabruta (Tabla 7). No obstante, un desglose delos resultados (Tabla 8) indica una gran di-274

Comparación de modelos de lenguaje en tareas de transcripción automática de noticiarios televisivosBloque Locutores %test% WERf.bruta ad.din.Loc. ppal 21.61 18.41 14.24NReporteros 34.85 34.33 26.85Entrev-GA 7.46 59.79 53.42Entrev-ES 6.44 61.18 57.64Loc. ppal 5.46 27.39 17.93DReporteros 11.97 42.57 29.60Entrev-GA 1.52 80.38 75.57Entrev-ES 3.71 72.76 66.10T Loc. ppal 6.98 32.56 18.50Total 100.0 37.13 29.55Tabla 8: Desglose de la WERferencia entre los resultados para habla planeada(WER entre 14 y 29 %) y aquellos obtenidospara habla espontánea (WER entre53 y el 75 %). Es necesario por tanto profundizaren las razones de este comportamiento,para intentar solucionar el problema de caraa próximos trabajos.Una de las razones fundamentales parael pobre funcionamiento con habla espontáneaconsiste en la ausencia de materialespecífico de entrenamiento. Tanto los corporaperiodísticos utilizados, como las escaletas,corresponden fundamentalmente a hablade tipo planeado. Únicamente se ha sacadopartido de la parte de habla espontánea deTranscrigal-DB, si bien su escasez no ha permitidograndes mejoras. El hecho de trabajaren idioma gallego implica una mayor dificultadpara la adquisición de corpora de texto.Actualmente estamos investigando el usode guiones de series de televisión y películas,para paliar este problema. También estamosutilizando mecanismos de recuperaciónde información para intentar aislar la pequeñafracción de habla espontánea que puedeestar presente en nuestros corpora actuales.Al margen de la inadecuación de los corporade texto, existen otros problemas asociadosal habla espontánea. En primer lugar,se dan todo un conjunto de disfluencias (repeticiones,muletillas, palabras inacabadas,etc.) no presentes en habla planeada, que dificultanel modelado de lenguaje utilizandon-gramas. Un modelo de lenguaje basado enconteos no modelará nunca de manera correctaestos fenómenos, que surgirán siempre demanera aleatoria independientemente de loobservado en el corpus de entrenamiento. Asimismo,el reconocedor de voz siempre intentaajustar la secuencia acústica a palabras presentesen el vocabulario. Para tener en cuentalos fenómenos mencionados, habría que liberarlode esta restricción.Finalmente, otro aspecto que puede estarinfluyendo son los parámetros utilizados parala detección de actividad dentro del reconocedor,los cuales están ajustados para hablaplaneada. El habla espontánea incluye normalmentepausas durante las frases, y el detectorde actividad provoca que los segmentosentre dos pausas se consideren frases separadas,no utilizando la historia de palabras anteriora la pausa. Sería por tanto convenienteaplicar una detección de actividad adaptativaal tipo de hablante.7. Conclusiones y líneas futurasEn el presente artículo, se han propuestodiversos mecanismos de modelado de lenguajepara una tarea de transcripción de noticiariosbilingües. Se ha comparado un esquemano adaptado, basado en concatenación deltexto de entrenamiento, con diversos esquemasadaptados basados en modelos de mezclas.El uso de modelo de mezclas ha permitidoaprovechar el texto de entrenamientodisponible de manera efectiva, y poder aplicarel modelo adaptado resultante desde elprincipio del proceso de reconocimiento. Mediantela identificación de condiciones típicasde tema, estilo e idioma dentro del corpusla tarea, se ha desarrollado un esquema deadaptación dinámica realista basada en reconocimientosen paralelo. Este esquema deadaptación dinámica proporciona dos ventajascon respecto a aproximaciones multipase(i) no es necesario depender de transcripcionesincorrectas para la adaptación (ii) facilitael reconocimiento en tiempo real. El modeloadaptado dinámico ha permitido una mejorade un 20.7 % en tasa de error con respectoal esquema no adaptado. Se ha observadoun comportamiento pobre para el habla espontánea,y se han identificado los problemasque dan origen a este comportamiento: faltade adecuación del corpus de entrenamiento,mal modelado de las disfluencias del lenguaje,y detección de actividad inadecuada.El cuanto a próximas líneas de actuación,se está trabajando en la recopilación de corporade habla espontánea, así como en técnicaspara aislar habla espontánea de los corporaexistentes. También se están investigandomecanismos de clustering jerárquico del materialde entrenamiento, que permitan combi-275

F. Diéguez, C. García, A. Cardenalnar el material con una mayor granularidad,combatiendo los efectos de fragmentación.BibliografíaBellegarda, J. 2004. Statistical language modeladaptation: review and perspectives.Speech Communication, 42(1):93–108, January.Cardenal-Lopez, A., F. J. Dieguez-Tirado, yC. Garcia-Mateo. 2002. Fast LM lookaheadfor large vocabulary continuousspeech recognition using perfect hashing.En Proc. IEEE Int. Conf. Acoustics, Speechand Signal Processing, volumen 1, páginas705–708, Orlando, FL, May.Clarkson, Philip R. 1999. Adaptation ofStatistical Language Models for AutomaticSpeech Recognition. Ph.D. tesis, Universityof Cambridge.Diéguez Tirado, Javier, Carmen García Mateo,Laura Docío Fernández, y AntonioCardenal López. 2004. Transcrigal: Sistemade transcripción de noticias de launiversidad de vigo. En Emilio SanchisArnal, editor, Terceras Jornadas en Tecnologíadel Habla, páginas 243–248, Valencia,Spain, November.Gotoh, Y. y S. Renals. 1999. Topic-basedmixture language modelling. J. NaturalLanguage Engineering, 5:355–375.Lamel, L., J-L. Gauvain, G. Adda, M. Adda-Decker, L. Canseco, L. Chen, O. Galibert,A. Messaoudi, y H. Schwenk. 2004. Speechtranscription in multiple languages. EnProc. IEEE Int. Conf. Acoustics, Speechand Signal Processing, volumen 3, páginas757–760, Montreal, Canada, May.Manning, Christopher D. y Hinrich Schütze.1999. Foundations of Statistical NaturalLanguage Processing. The MIT Press,Cambridge, Massachusetts.Stolcke, A. 2002. SRILM – an extensiblelanguage modeling toolkit. En Proc. Int.Conf. Spoken Language Processing, volumen2, páginas 901–904, Denver, CO, September.276