T ecnicas de Correcci on de Errores y - Departamento de Sistemas ...

UNIVERSIDADPOLITECNICADEVALENCIA
DEPARTAMENTODESISTEMASINFORMATICOSY
COMPUTACION
TesisDoctoral
AplicacionenReconocimiento<strong>de</strong>Formas, T<strong>ecnicas</strong><strong>de</strong><strong>Correcci</strong>on<strong>de</strong>Erroresysu
Tratamiento<strong>de</strong>lLenguajeNaturaly TraduccionAutomatica
PresentadaporJuanCarlosAmengualArgudo DirigidaporelDoctorD.EnriqueVidalRuiz
Valencia,Enero<strong>de</strong>l999

hacesquemesienta Inma, siemprequeestoyasolascontigo
divertido,capaz,privilegiado,dichoso, libre,enamorado,pleno,feliz,::: joven,alegre,protegido,entero,puro,
digaloquediga, estedon<strong>de</strong>este, Hagaloquehaga,
siempretequerre
Madre,
ojalapudiese<strong>de</strong>cirtequetequera:::

Elproblemacentralqueabordamosenestatesissepue<strong>de</strong>plantearformalmentecomosigue: Resumen
uncanal,C.Lasca<strong>de</strong>nasquecontienenlosmensajesquepue<strong>de</strong>enviarE,songeneradas utilizandola<strong>de</strong>scripcion<strong>de</strong>llenguajefuente,F.SupongamosqueEenvaunmensajea \Seaunsistema,S,don<strong>de</strong>unemisor,E,envamensajesaunreceptor,R,pormedio<strong>de</strong> R,contenidoenlaca<strong>de</strong>nay,atraves<strong>de</strong>C.Sinembargo,laca<strong>de</strong>naquerecibeResla ca<strong>de</strong>nax,posiblementedistintaay.Seha<strong>de</strong>dise~narun<strong>de</strong>scodicadorDelcual,apartir <strong>de</strong>x,obtengaunaestimacion<strong>de</strong>lmensajeoriginalmenteenviado,teniendoencuentanosolo
Enestetrabajo,hemospartido<strong>de</strong>lossiguientessupuestosbasicos: la<strong>de</strong>scripcionF(lacualesconocidaporR),sinotambienlascaractersticas<strong>de</strong>lruidoo distorsionque,posiblemente,puedaintroducirC."
El\lenguaje"queutilizaelemisorEparaenviarmensajesalreceptorR,sepue<strong>de</strong>representar fehacientementeporunmo<strong>de</strong>lo<strong>de</strong>estadosnitos(posiblementeestocastico)F. <strong>de</strong>formaindividual,ysepue<strong>de</strong>representarmediantelastresoperaciones<strong>de</strong>edicion:insercion, sustitucion(incluyendoelaciertootransmisioncorrecta<strong>de</strong>lainformacion)yborrado. ElruidoqueintroduceensufuncionamientoelcanalC,afectaunicamenteasmbolosconsi<strong>de</strong>rados
Paralograrnuestroobjetivo:
ysustituciones),asumiendoquesufuncionamientoes<strong>de</strong>naturalezaestocastica. Hemosplanteadodiversast<strong>ecnicas</strong>paralaestimacion<strong>de</strong>losparametros<strong>de</strong>C(inserciones,borrados patiblesconlautilizacion<strong>de</strong>t<strong>ecnicas</strong><strong>de</strong>busquedaenhaz,paraimplementarD.Hemos<strong>de</strong>sarrolladoecientesalgoritmos<strong>de</strong>analisissintacticocorrector<strong>de</strong>errores,todoselloscom- posible<strong>de</strong>los,normalmente,escasosdatos<strong>de</strong>losquesedisponeparaobtenera<strong>de</strong>cuadasestimaciones Hemosutilizadot<strong>ecnicas</strong><strong>de</strong>validacioncruzaday<strong>de</strong>bootstrappingparasacarelmaximopartido <strong>de</strong>losparametros<strong>de</strong>C. Hemos<strong>de</strong>sarrolladounnuevomo<strong>de</strong>loestocasticoparaC,capaz<strong>de</strong>consi<strong>de</strong>rarsustitucionesque, a<strong>de</strong>mas,conllevanuncambio<strong>de</strong>or<strong>de</strong>nentrelossmbolosimplicadosenlaoperacion(trasposiciones).
Last<strong>ecnicas</strong><strong>de</strong>correccion<strong>de</strong>erroreshansidoconsi<strong>de</strong>radas,tradicionalmente,comopropias<strong>de</strong>lreco- utilizandooperaciones<strong>de</strong>insercion,borradoysustitucion. Estemetodoescapaz<strong>de</strong><strong>de</strong>shacercrucesenloqueseraelalineamientooptimoentredosfrases,
utilidadpara: nocimientosintactico<strong>de</strong>formas.Enestatesis,a<strong>de</strong>mas<strong>de</strong>aplicarlasenestecampoygracias,fundamentalmente,alasherramientas<strong>de</strong>sarrolladasparalaestimacion<strong>de</strong>losparametros<strong>de</strong>C,<strong>de</strong>mostraremossu Tratamiento<strong>de</strong>llenguajenatural. Traduccionautomatica.Enestecaso,efectuaremosunestudiopreliminar<strong>de</strong>laviabilidad<strong>de</strong>lnuevo Suavizado<strong>de</strong>mo<strong>de</strong>los<strong>de</strong>lenguajey<strong>de</strong>traduccion.
mo<strong>de</strong>loestocasticoparaC,capaz<strong>de</strong>realizartrasposiciones.

Prologo i
queaquelacontecimientosupondracomenzarunanuevaetapaenella.FueEnriquequienlainicio,al miperiploporlauniversidad,\tropece"conEnriqueVidal.Quienmeibaa<strong>de</strong>ciram,poraquelentonces, comentarmelaposibilidad<strong>de</strong>continuarmitrabajoinvestigador(reciencomenzado),integrandomeenel Lejanoquedayaeneltiempoelmomentoenque,buscandounproyecton<strong>de</strong>carreraconelqueconcluir Llegaelmomento<strong>de</strong>pasarrevistaaltrabajorealizadoenestosultimoscincoa~nos<strong>de</strong>investigacion.
grupoRFIA<strong>de</strong>laUniversidadPolitecnica<strong>de</strong>Valencia,grupoqueelmismodirigejuntoconFrancisco Casacuberta,yrealizandoelprograma<strong>de</strong>doctorado<strong>de</strong>reconocimiento<strong>de</strong>formaseinteligenciaarticial.
plaza<strong>de</strong>ayudanteenlaUniversidadJaumeI(UJI).Paseuna~nocomoayudante<strong>de</strong>escuelay,enestos cuandomelaconcedieron.Ahcomenzotodo.Losdosprimerosa~nosdisfrute<strong>de</strong>estabeca<strong>de</strong>lMinisterio <strong>de</strong>EducacionyCiencia,paralaformacion<strong>de</strong>personaldocenteeinvestigador.Despuesobtuveuna Recuerdoelmomentoenquesoliciteunabeca<strong>de</strong>investigacion(apurandoelplazo<strong>de</strong>presentacion<strong>de</strong>
momentos,llevo(casi)doscomoayudante<strong>de</strong>facultad. solicitu<strong>de</strong>shastaelultimominuto,comoesyanormahabitualenm)ylasatisfaccionqueexperimente
puedaexistirsobrelafaz<strong>de</strong>estemundo:miesposaInma. cambioshansidoparamejor,entreotrascosasporqueheconocidoalapersonamasmaravillosaque Tambienhansidocincoa~nosenlosquemispropiasconviccionesycaracter,hanidocambiandoalolargo <strong>de</strong>ltiempo.Estosa~noshaninuidoinclusoenmipropiavidaprivada.Creormementequetodosestos Hansidocincoa~nos<strong>de</strong>intensotrabajoyestudioquehanculminadoconlarealizacion<strong>de</strong>estatesis.
su(valioso)tiempoacolaborarconmigoyaexplicarmeconceptosei<strong>de</strong>as,quehandadocomoresultado estatesis.Todasestaspersonastienenun<strong>de</strong>nominadorcomun:elhecho<strong>de</strong>serbecarios,porlomenos enespritu.Conestoquiero<strong>de</strong>cirquenotodasellasdisfrutanohandisfrutado<strong>de</strong>unabeca,sinoque han<strong>de</strong>dicadobuenaparte<strong>de</strong>sutiempoalainvestigacion,quehantrabajadocon<strong>de</strong>dicacion,quenohan Enestosa~nos,muchashansidolaspersonasquehancontribuidoamiformacion,<strong>de</strong>dicandoparte<strong>de</strong>
limitandoseaaprovecharse<strong>de</strong>ltrabajo<strong>de</strong>los<strong>de</strong>mas,sinomasbientomandolocomopunto<strong>de</strong>partida para<strong>de</strong>sarrollarelsuyopropio. <strong>de</strong>paso,los<strong>de</strong>rechoslegtimos<strong>de</strong>otros)yquehancontribuidoconaportacionescientcasoriginales,no vistoel\doctorado"comounmedioparaconseguir,medrando,unaplazaenlauniversidad(pisoteando,
RFIA,enlaUniversidadPolitecnica<strong>de</strong>Valencia,yACRATA,enlaUJI,porhabercontribuidonotoriamenteamiformacion,tantopersonalcomoinvestigadora.Quisieraagra<strong>de</strong>cer,particularmente,alas personasquemehanayudadodirectamenteenlarealizacion<strong>de</strong>estatesis: Aspues,enprimerlugar,vayamiagra<strong>de</strong>cimientoatodoslosbecarios<strong>de</strong>losgrupos<strong>de</strong>investigacion
proceso. JoanAndreuSanchez,porexplicarmeelproceso<strong>de</strong>calculo<strong>de</strong>lassumas<strong>de</strong>probabilida<strong>de</strong>s,utili-
JoseMiguelBened,quiencolaboroactivamenteenelproceso<strong>de</strong>simplicacion<strong>de</strong>llenguaje<strong>de</strong>scrito zandosuslogaritmoscambiados<strong>de</strong>signoenlugar<strong>de</strong>susvaloresnumericosreales.A<strong>de</strong>mas,tuvo lagentileza<strong>de</strong>pasarmecopia<strong>de</strong>laspaginas<strong>de</strong>latesis<strong>de</strong>Lee,don<strong>de</strong>se<strong>de</strong>scribecon<strong>de</strong>talledicho enelcaptulo8.ElfueelexpertohumanoqueconstruyolagramaticainicialparalatareaMGEO implementacioneciente<strong>de</strong>un<strong>de</strong>scodicadorcapaz<strong>de</strong>obtenerlasNmejoressoluciones.
AndresMarzalyVctorJimenez,loscualesmeexplicaron,diligentemente,<strong>de</strong>tallesclavesparala yquien,posteriormente,lamodicoatendiendolaspeticiones<strong>de</strong>quienestoescribe.

ii
miesfuerzoy<strong>de</strong>dicacionala\causa". paraproseguir,enbreve,lainvestigacionenestalnea.Estoyen<strong>de</strong>udaconelyesperopagarlecon correccion<strong>de</strong>erroresenelsuavizado<strong>de</strong>mo<strong>de</strong>los<strong>de</strong>estadosnitos.El\peso"<strong>de</strong>laexperimentacion conlatareaATISrecayosobresusespaldas.Ynosoloeso,sinoquehaaportadoi<strong>de</strong>asvaliosas PierreDupont,elcualcontribuyoadarunempujon<strong>de</strong>nitivoalaaplicacion<strong>de</strong>last<strong>ecnicas</strong><strong>de</strong>
mencionespecial<strong>de</strong>laspersonasquemassehanimplicadoenalgunos<strong>de</strong>losaspectos<strong>de</strong>estatesis. Sonincontableslosfavoresquele<strong>de</strong>boeinmensamigratitudporhaberme\soportado"pacientemente Vaya,<strong>de</strong>s<strong>de</strong>estaslneas,mimassinceroagra<strong>de</strong>cimientoatodosellos.Noobstante,megustarahacer
duranteesteperiodo<strong>de</strong>tiempo.Enalgunasocasioneshemosmantenidodiscusionescientcasenel <strong>de</strong>spacho(sobretodoreferentesalMAMOE),<strong>de</strong>lascualessiemprehesalidoconlasi<strong>de</strong>asmasclaras. Aunque,aveces,casisiemprehablabayo(note<strong>de</strong>jabahacerloat),graciasporsaberescucharme.El ToniCastellanoshasidomicompa~nero<strong>de</strong><strong>de</strong>spacho,enlaUJI,enestosdosultimosa~nosymedio.
Jesuln). Digamosqueun90%loprimero,un8%losegundoyelresto:::inverosmil(parafraseandoal\eminente" sabequeleconsi<strong>de</strong>roamigomo,aunquenosesiestoparaelresultaunhalagoo,masbien,una\cruz".
enormementequecontribuyeseaaclararmealgunosaspectos<strong>de</strong>laimplementacion<strong>de</strong>lMAMOE,ascomo sucolaboracionenlaevaluacion<strong>de</strong>losalineamientoscastellano-alemanyviceversarealizadosconeste i<strong>de</strong>as,loscualeshanresultadoclavesenlarealizacion<strong>de</strong>parte<strong>de</strong>estatesis.Tambienleagra<strong>de</strong>zcoel mo<strong>de</strong>lo.Haaportadoamimenteesospeque~nos\<strong>de</strong>talles"quehanservidoparaaclararconceptose JuanMiguelVilares,quizas,lapersonamastranquila,preclarayamablequeconozco.Leagra<strong>de</strong>zco
<strong>de</strong>utilizarestapo<strong>de</strong>rosatecnicaparalaestimacion<strong>de</strong>losparametros<strong>de</strong>lmo<strong>de</strong>lo<strong>de</strong>error.Ynosolo haberseconvertidoenmiconsultoron-line<strong>de</strong>LATEX,resolviendomuchas<strong>de</strong>lasdudasymuchos<strong>de</strong>los
eso,sinoquetambienestuvosiempredispuestoaresolvermecualquierduda,oaaclararmecualquier problemasquesemepresentarondurantelaredaccion<strong>de</strong>estetrabajo.
concepto,sobreeltema.Tambiencolaboroa<strong>de</strong>spejaralgunas<strong>de</strong>lasdudasquemesurgieronduranteel <strong>de</strong>sarrollo<strong>de</strong>lMAMOE.Jamasencontreunanegativaporrespuesta,apesar<strong>de</strong>susocupaciones.Gracias AFe<strong>de</strong>Pratle<strong>de</strong>boel\<strong>de</strong>scubrimiento"<strong>de</strong>lExpectation-Maximization.Elfuequienmediolai<strong>de</strong>a
Fe<strong>de</strong>. muchas<strong>de</strong>misi<strong>de</strong>as<strong>de</strong>scabelladas,sinotambienporconarenm.Elhasidoquienhadise~nadolas lneasmaestras<strong>de</strong>estetrabajoyquienhacontribuido,<strong>de</strong>nodadamente,alarealizacion<strong>de</strong>muchos<strong>de</strong>los experimentosqueenelsepresentan. EnriqueVidalhasidomidirector<strong>de</strong>tesisyleestoyagra<strong>de</strong>cido,nosoloporaten<strong>de</strong>rpacientemente
sometida,durantelosultimosmeses<strong>de</strong>larealizacion<strong>de</strong>estatesis.Soyconsciente<strong>de</strong>que,durante esteperiodo,apenashapodidocontarconmigopararesolvermuchos<strong>de</strong>losproblemascotidianosque habitualmentesepresentan.Esmas,hatenidoquesoportarmis<strong>de</strong>presiones,cansancioymalhumor;y lohahechoconenormeentereza.Sinsuapoyoysuconstantealiento,estaempresanohubiesepodido MiesposaInmahasoportadoestoicamentetodaslaspenalida<strong>de</strong>syelabandonoalquelahetenido
llevarseatermino.Inma,teestoymuyagra<strong>de</strong>cidoporayudarmeaacabarmitesis.
varieda<strong>de</strong>s:RobertSmith,cantanteyl<strong>de</strong>r<strong>de</strong>lgrupomusicalTheCure(enrealidad,elesTheCure). Enunasociedaddon<strong>de</strong>,pormuchoquenosquieranven<strong>de</strong>relproducto\vida",estaresultaasquerosa como<strong>de</strong>alegra,alolargo<strong>de</strong>losultimosdieza~nos<strong>de</strong>miexistencia.Meestoyreriendoami\poeta" contemporaneofavorito,a<strong>de</strong>mas<strong>de</strong>excelentemusicoyvirtuoso<strong>de</strong>laguitarra,encualquiera<strong>de</strong>sus Finalmente,quisierahablar<strong>de</strong>uncompa~nero<strong>de</strong>viaje,presentetantoenlosmomentos<strong>de</strong><strong>de</strong>saliento
y<strong>de</strong>nigranteenmuchasocasiones,elmehaense~nadoa<strong>de</strong>scubrirlasublimebelleza<strong>de</strong>lamelancola,

<strong>de</strong>la<strong>de</strong>sesperacionylaangustia,<strong>de</strong>laansiedad,<strong>de</strong>l<strong>de</strong>terioro,<strong>de</strong>laagonanal,<strong>de</strong>l<strong>de</strong>sprecio,<strong>de</strong>las iii
ello.Estatesisestaestructuradaendospartesfundamentales.Laprimera,<strong>de</strong>naturalezamasbienteorica, (parte<strong>de</strong>)ciertasestrofas<strong>de</strong>algunas<strong>de</strong>miscanciones(poemas)predilectas.Esperoquedisfruteiscon Esporelloque,amodo<strong>de</strong>divertimento,heincluido,encadauno<strong>de</strong>los10captulosquelacomponen, ilusionesvanasyefmeras,<strong>de</strong>la<strong>de</strong>presion,<strong>de</strong>lasoledad,<strong>de</strong>lsuicidio,<strong>de</strong>labandonoylamarginaciony, nalmente,<strong>de</strong>lamor.Megustaracompartirconellector<strong>de</strong>estatesistodasestasromanticasemociones.
captulo5,para\<strong>de</strong>scribir"losalineamientosqueseproducenentreunafraseenelidiomaorigen,ysu ultimocaso,noslimitaremosarealizarunestudiopreliminar<strong>de</strong>lacapacidad<strong>de</strong>lmo<strong>de</strong>lo<strong>de</strong>scritoenel aplicacion<strong>de</strong>last<strong>ecnicas</strong>expuestasenlaprimeraparte,alreconocimientosintactico<strong>de</strong>formas,suavizado<strong>de</strong>mo<strong>de</strong>los<strong>de</strong>estadosnitos,tratamiento<strong>de</strong>llenguajenaturalytraduccionautomatica.Eneste compren<strong>de</strong>loscaptulos2al5.Lasegunda,presentalosresultadosexperimentalesobtenidosconla
correspondientetraduccionenelidioma<strong>de</strong>stino.Estasegundapartecompren<strong>de</strong>loscaptulos6al9.Los contenidosfundamentales<strong>de</strong>losdiversoscaptulos,queserviranparaexponereltrabajorealizado,son lossiguientes: correccion<strong>de</strong>errores.Presentamosunabreveintroduccionhistoricayplanteamosla Captulo1:Introducimoslasi<strong>de</strong>asbasicasenlasquesesustentanlast<strong>ecnicas</strong><strong>de</strong> problematicaque,fundamentalmente,hamotivadolarealizacion<strong>de</strong>latesis. Captulo2:Presentamosconceptosbasicos<strong>de</strong>lateora<strong>de</strong>lenguajesformales.Plan-
CEconmo<strong>de</strong>los<strong>de</strong>estadosnitos.Describimosunmetodoparaimplementarun Captulo3:Desarrollamosalgoritmosqueresuelvenecazmenteelproblema<strong>de</strong>lAS- Denimoselconcepto<strong>de</strong>analisissintacticocorrector<strong>de</strong>errores(ASCE). teamosformalmenteelproblemacentral<strong>de</strong>latesis.Introducimosalgoritmosbasicos.
Captulo4:Planteamost<strong>ecnicas</strong>paraelaprendizajeinductivo<strong>de</strong>losparametros<strong>de</strong> analizadorcorrector<strong>de</strong>errores,capaz<strong>de</strong><strong>de</strong>volverlasNmejoressoluciones.
Captulo5:Presentamosunmo<strong>de</strong>loestocastico<strong>de</strong>correccion<strong>de</strong>errores,basadoen error.Presentamossolucionesparaelproblema<strong>de</strong>lsuavizado<strong>de</strong>dichosparametros.
distintosalgoritmosexpuestosenelcaptulo3,presentamosexperimentos<strong>de</strong>proce- Captulo6:Coneln<strong>de</strong>evaluarlasprestacionesque,enlapractica,ofrecenlos paraestimarsusparametrosapartir<strong>de</strong>unconjunto<strong>de</strong>datos<strong>de</strong>aprendizaje. lasoperaciones<strong>de</strong>edicion,capaz<strong>de</strong>tratarcontrasposiciones.Describimosmetodos
Captulo7:Describimoslaaplicacion<strong>de</strong>last<strong>ecnicas</strong><strong>de</strong>correccion<strong>de</strong>erroresparael reconocimientooptico<strong>de</strong>caracteresenconcreto. suavizado<strong>de</strong>mo<strong>de</strong>los<strong>de</strong>lenguaje.PresentamosexperimentosconlatareaATISycon samiento<strong>de</strong>llenguajeconlatareaMLAy<strong>de</strong>reconocimientosintactico<strong>de</strong>formas;
latarea<strong>de</strong>lTurista.
Captulo9:PresentamosexperimentosconlatareaMLAyconlatarea<strong>de</strong>lTurista <strong>de</strong>lTuristaylatareaMGEO. Captulo8:Presentamosnuestraaproximacionaltratamiento<strong>de</strong>llenguajenatural
utilizandoelmo<strong>de</strong>lo<strong>de</strong>scritoenelcaptulo5. utilizandot<strong>ecnicas</strong><strong>de</strong>correccion<strong>de</strong>errores.Describimosexperimentosconlatarea
Captulo10:Conclusiones.Aportaciones<strong>de</strong>latesis.Futuraslneas<strong>de</strong>investigacion.

IndiceGeneral
1Introduccion 1.1T<strong>ecnicas</strong><strong>de</strong><strong>Correcci</strong>on<strong>de</strong>Errores............................... 1.2Antece<strong>de</strong>ntesHistoricos..................................... 1
1.3Motivacion<strong>de</strong>lTrabajo..................................... 13
IT<strong>ecnicas</strong><strong>de</strong><strong>Correcci</strong>on<strong>de</strong>Errores 73
2Miscelanea 2.1Introduccion............................................ 2.2ConceptosBasicos........................................10 9
2.2.1Concepto<strong>de</strong>Smbolo,Alfabeto,FraseyLenguaje...................10 9
2.2.2AlgunosConceptossobreTeora<strong>de</strong>LenguajesFormales...............11 2.2.3AutomatasFinitos....................................12 2.2.4TraductoresFinitos...................................13 2.2.5TraductoresSubsecuenciales...............................14
2.3Denicion<strong>de</strong>lProblema.....................................17 2.2.6Mo<strong>de</strong>losEstocasticos<strong>de</strong>EstadosFinitos........................16
2.4AnalisisSintactico........................................20 2.2.7ComentariosFinales...................................17
2.5AnalisisSintacticoCorrector<strong>de</strong>Errores............................25 2.4.1AnalisisSintacticoEstocastico.............................22 2.4.2Utilizacion<strong>de</strong>BusquedaenHaz.............................23 v

vi 3AnalisisSintacticoCorrector<strong>de</strong>Errores INDICEGENERAL
3.1Introduccion............................................29 3.2ElProblemaComputacional...................................31 29
3.3Or<strong>de</strong>nacion<strong>de</strong>losEstadossegunsuPuntuacion........................33 3.4SucesivasRepeticiones<strong>de</strong>lCalculo...............................35 3.5Or<strong>de</strong>nacion\PrimeroenProfundidad"<strong>de</strong>losEstados....................36 3.6Implementacion<strong>de</strong>laBusquedaenHaz............................41
4Estimacion<strong>de</strong>losParametros<strong>de</strong>lCanal 3.7Calculo<strong>de</strong>lasNMejoresSoluciones..............................42
4.1Introduccion............................................45 4.2Adaptacion<strong>de</strong>lMo<strong>de</strong>lo<strong>de</strong>LenguajealCanal.........................47 45
4.3EstimacionmedianteBaum-Welch...............................49 4.4EstimacionmedianteViterbi..................................60 4.5Suavizado<strong>de</strong>losParametros..................................62 4.3.1Inicializacion<strong>de</strong>losParametros.............................58
5ElMAMOE 5.1Introduccion............................................65 5.1.1Concepto<strong>de</strong>Alineamiento................................66 65
5.2Descripcion<strong>de</strong>lMAMOE....................................70 5.1.2I<strong>de</strong>asBasicas.......................................67 5.1.3Mo<strong>de</strong>losEstadsticos<strong>de</strong>Traduccion..........................69
5.3Estimacion<strong>de</strong>losParametros<strong>de</strong>lMo<strong>de</strong>lo...........................82 5.4LneasFuturas<strong>de</strong>Trabajo....................................90 5.2.1Probabilidad<strong>de</strong>unAlineamientosegunelMAMOE.................74
IIAplicaciones 6EvaluacionExperimental<strong>de</strong>losAlgoritmos<strong>de</strong>Analisis 91 93

INDICEGENERAL 6.1Introduccion............................................93 vii
6.2Experimentos<strong>de</strong>Procesamiento<strong>de</strong>lLenguaje.........................95 6.3Experimentos<strong>de</strong>Reconocimiento<strong>de</strong>CaracteresManuscritos.................99 6.1.1Descripcion<strong>de</strong>laTareaMLA..............................94
7Suavizado<strong>de</strong>Mo<strong>de</strong>los<strong>de</strong>EstadosFinitos 6.4Conclusiones...........................................101
7.1Introduccion............................................103 7.1.1Descripcion<strong>de</strong>laTarea<strong>de</strong>lTurista...........................104 103
7.2ValidacionCruzada........................................106 7.3ExperimentosconlaTarea<strong>de</strong>lTurista.............................107 7.1.2Descripcion<strong>de</strong>laTareaATIS..............................105
7.4ExperimentosconlaTareaATIS................................113 7.3.1Conclusiones.......................................113
8Simplicacion<strong>de</strong>lLenguajeNatural 7.4.1Conclusiones.......................................116
8.1Introduccion............................................119 8.2ResultadosInicialesconlaTarea<strong>de</strong>lTurista..........................120 119
8.3Construccion<strong>de</strong>unSistemaRobustomedianteBootstrapping................122 8.4Descripcion<strong>de</strong>laTareaMGEO.................................124 8.5ExperimentosconlaTareaMGEO...............................125
9Experimentos<strong>de</strong>Traduccion 8.6Conclusiones...........................................135
9.1Introduccion............................................137 9.2Descripcion<strong>de</strong>lProtocoloExperimental............................138 137
9.3ResultadosconlaTareaMLA..................................141 9.4ResultadosconlaTarea<strong>de</strong>lTurista...............................142 9.5Conclusiones...........................................144

viii IIIConclusionesFinalesyBibliografa INDICEGENERAL
10ConclusionesFinales 147
10.1Aportaciones<strong>de</strong>laTesis.....................................149 10.2LneasFuturas<strong>de</strong>Investigacion.................................150 149
Bibliografa 10.3PublicacionesRelacionadasconlaTesis............................152
IVApendices 159 153
AResultados<strong>de</strong>lSuavizado<strong>de</strong>TraductoresSubsecuenciales BEjemplos<strong>de</strong>Simplicacion<strong>de</strong>lLenguaje 161
B.1Introduccion............................................165 B.2Ejemplos<strong>de</strong>laTarea<strong>de</strong>lTurista................................166 165
B.2.1Ejemplos<strong>de</strong>SimplicacionesCorrectas.........................166
B.3Ejemplos<strong>de</strong>laTareaMGEO..................................167 B.2.2Ejemplos<strong>de</strong>SimplicacionesAproximadas.......................167 B.2.3Ejemplos<strong>de</strong>SimplicacionesErroneas.........................167 B.3.1Ejemplos<strong>de</strong>Simplicaciones<strong>de</strong>lConjunto<strong>de</strong>Aprendizaje..............167 B.3.2Frases<strong>de</strong>lConjunto<strong>de</strong>AprendizajenoSimplicadas.................169 B.3.3Ejemplos<strong>de</strong>Simplicaciones<strong>de</strong>lConjunto<strong>de</strong>Evaluacion..............169
CEjemplos<strong>de</strong>AlineamientosObtenidosconelMAMOE B.3.4Frases<strong>de</strong>lConjunto<strong>de</strong>EvaluacionnoSimplicadas.................170
C.1Introduccion............................................171 C.2Ejemplos<strong>de</strong>laTareaMLA...................................172 171
C.3Ejemplos<strong>de</strong>laTarea<strong>de</strong>lTurista:Castellano-InglesyViceversa...............184 C.4Ejemplos<strong>de</strong>laTarea<strong>de</strong>lTurista:Castellano-AlemanyViceversa..............196

Indice<strong>de</strong>Figuras
2.1Ejemplo<strong>de</strong>automatanitono<strong>de</strong>terminista...........................13 2.2Ejemplo<strong>de</strong>traductorsubsecuencial...............................15 2.3Trellisasociadoalautomata<strong>de</strong>lagura2.1.Enelsemuestraelcamino<strong>de</strong>aceptacion 3.1Trelliscon:a)transicionespropias<strong>de</strong>lautomataytransiciones<strong>de</strong>bidasaerrores<strong>de</strong>sus- paralaca<strong>de</strong>na<strong>de</strong>entradaabb..................................22 titucion;b)transiciones<strong>de</strong>bidasaerrores<strong>de</strong>insercion;c)transiciones<strong>de</strong>bidasaerrores
3.2Ejemplo<strong>de</strong>automataconciclos.................................38 <strong>de</strong>borradoenunautomataacclicoyd)transiciones<strong>de</strong>bidasaerrores<strong>de</strong>borradoenun automataconciclos........................................31
3.3Bosqueexpandidoprimeroenprofundidadparaelautomata<strong>de</strong>lagura3.2........38 4.1Automataquerepresentalafraseaabc,extendidoconlastransiciones<strong>de</strong>C.Lasinserciones
5.1Dosposiblestrazasparaalinearlafrase<strong>de</strong>entradaabc<strong>de</strong>fconlafrase<strong>de</strong>salida<strong>de</strong>fabc. sonlastransicionesetiquetadascon,lassustitucioneslasetiquetadasconfsmbolo correctogyelrestosonborrados.................................50
6.1Tiempomedio<strong>de</strong>proceso(encentesimas<strong>de</strong>segundo)<strong>de</strong>losdistintosalgoritmos,medido Elalineamientonumero2contienecrucesentrelaslneasquecomponenlatraza......67
6.2Tiempomedio<strong>de</strong>proceso(encentesimas<strong>de</strong>segundo)medidoparacadavalor<strong>de</strong>distorsion, paraun10%<strong>de</strong>distorsionysinutilizarBH...........................97
6.3Tiempomedio<strong>de</strong>proceso(encentesimas<strong>de</strong>segundo)medidoparaun10%<strong>de</strong>distorsion siendo=20...........................................98
6.4Tiempomedio<strong>de</strong>proceso(encentesimas<strong>de</strong>segundo)<strong>de</strong>losdistintosalgoritmossinutilizar yparavalores<strong>de</strong>5,10,20y40................................98 BH.................................................100 ix

x7.1Impacto<strong>de</strong>lASCE(conelmo<strong>de</strong>lo<strong>de</strong>errorViterbi)sobrelastraduccionescastellano-ingles INDICEDEFIGURAS
7.2Impacto<strong>de</strong>lASCE(conelmo<strong>de</strong>lo<strong>de</strong>errorViterbi)sobrelastraduccionescastellano-aleman realizadas,usandoP1(izquierda)yP2(<strong>de</strong>recha).ElejeverticalrepresentalaTEPpara
realizadas,usandoP1(izquierda)yP2(<strong>de</strong>recha).ElejeverticalrepresentalaTEPpara latraduccionefectuada,mientrasqueelejehorizontalsecorrespon<strong>de</strong>coneltama~no(en millares)<strong>de</strong>losconjuntos<strong>de</strong>aprendizajeutilizadosenlainferencia<strong>de</strong>traductores.....110
7.3Impacto<strong>de</strong>lASCE(conelmo<strong>de</strong>lo<strong>de</strong>errorViterbi)sobrelastraduccionescastellano- latraduccionefectuada,mientrasqueelejehorizontalsecorrespon<strong>de</strong>coneltama~no(en millares)<strong>de</strong>losconjuntos<strong>de</strong>aprendizajeutilizadosenlainferencia<strong>de</strong>traductores.....111
7.4Perplejidad<strong>de</strong>lconjunto<strong>de</strong><strong>de</strong>sarrolloenfuncion<strong>de</strong>lvalorparaelparametro<strong>de</strong>interpo- paralatraduccionefectuada,mientrasqueelejehorizontalsecorrespon<strong>de</strong>coneltama~no italianorealizadas,usandoP1(izquierda)yP2(<strong>de</strong>recha).ElejeverticalrepresentalaTEPlacion()..............................................115
(enmillares)<strong>de</strong>losconjuntos<strong>de</strong>aprendizajeutilizadosenlainferencia<strong>de</strong>traductores...111
7.5Perplejidad<strong>de</strong>lconjunto<strong>de</strong><strong>de</strong>sarrolloduranteelproceso<strong>de</strong>reestimacion<strong>de</strong>lmo<strong>de</strong>lo<strong>de</strong> 8.1Evolucion<strong>de</strong>laperplejidadparaelprimerbloque<strong>de</strong>A,A1,conlaprimera(izquierda)y errorparalasopciones1y2...................................116
8.2Numero<strong>de</strong>vecesqueseencuentraunasimplicaciona<strong>de</strong>cuada,encadauna<strong>de</strong>las50 A1.Arribaseutilizolaprimeraversion<strong>de</strong>lmo<strong>de</strong>lo<strong>de</strong>lenguajeparalatareaMGEO, soluciones(sintenerencuentarepeticiones),enlaprimerayultimaiteracionconelbloque conlasegundaversion(<strong>de</strong>recha)<strong>de</strong>lmo<strong>de</strong>lo<strong>de</strong>lenguajedise~nadoparalatareaMGEO..127
8.3Evolucion<strong>de</strong>laperplejidadparalosbloques2,3,4,5,6y7.................129 8.4Numero<strong>de</strong>vecesqueseencuentraunasimplicaciona<strong>de</strong>cuada,encadauna<strong>de</strong>las50 mientrasqueabajoseutilizolasegunda(y<strong>de</strong>nitiva).....................128
8.5Numero<strong>de</strong>vecesqueseencuentraunasimplicaciona<strong>de</strong>cuada,encadauna<strong>de</strong>las50 soluciones(sintenerencuentarepeticiones),enlaprimerayultimaiteracion<strong>de</strong>lbloque3.130 soluciones(sintenerencuentarepeticiones),enlaprimerayultimaiteracion<strong>de</strong>lbloque2.130
8.7Numero<strong>de</strong>vecesqueseencuentraunasimplicaciona<strong>de</strong>cuada,encadauna<strong>de</strong>las50 8.6Numero<strong>de</strong>vecesqueseencuentraunasimplicaciona<strong>de</strong>cuada,encadauna<strong>de</strong>las50 soluciones(sintenerencuentarepeticiones),enlaprimerayultimaiteracion<strong>de</strong>lbloque5.131 soluciones(sintenerencuentarepeticiones),enlaprimerayultimaiteracion<strong>de</strong>lbloque4.131
8.9Numero<strong>de</strong>vecesqueseencuentraunasimplicaciona<strong>de</strong>cuada,encadauna<strong>de</strong>las50 8.8Numero<strong>de</strong>vecesqueseencuentraunasimplicaciona<strong>de</strong>cuada,encadauna<strong>de</strong>las50 soluciones(sintenerencuentarepeticiones),enlaprimerayultimaiteracion<strong>de</strong>lbloque7.132
soluciones(sintenerencuentarepeticiones),enlaprimerayultimaiteracion<strong>de</strong>lbloque6.132

Indice<strong>de</strong>Tablas
6.1Ejemplos<strong>de</strong>frases,eningles,pertenecientesalatareaMLA.................94 6.2Ejemplos<strong>de</strong>frases,encastellano,pertenecientesalatareaMLA...............95 6.3Resultados<strong>de</strong>lASCEsinBHenfuncion<strong>de</strong>latasa<strong>de</strong>error<strong>de</strong>palabras(TEP-%)yla 6.4TEP(%)yPPobtenidosparacadavalor<strong>de</strong>laanchura<strong>de</strong>lhaz<strong>de</strong>busquedausandoel perplejidad<strong>de</strong>lconjunto<strong>de</strong>prueba(PP)paracadaautomata.................96
6.5Rango<strong>de</strong>variacion<strong>de</strong>lnumeromedio<strong>de</strong>iteraciones<strong>de</strong>EV2enlosdistintosautomatas, automata<strong>de</strong>3:231estados(k=6)................................96
6.6Tasa<strong>de</strong>acierto(%)obtenidaparacadaautomata.......................100 6.7Numero<strong>de</strong>iteracionesrealizadasporEV2paracadauno<strong>de</strong>losautomatasutilizados...101 paracadavalor<strong>de</strong>distorsionyanchura<strong>de</strong>lhaz.........................97
6.8Inuencia<strong>de</strong>laBHenlatasa<strong>de</strong>acierto(%)yeneltiempomedio<strong>de</strong>proceso(centesimas 7.1Algunosejemplos<strong>de</strong>pares<strong>de</strong>frases<strong>de</strong>latarea<strong>de</strong>lTurista..................105 <strong>de</strong>segundo).............................................101
7.2Principalescaractersticas<strong>de</strong>loscorpora<strong>de</strong>latarea<strong>de</strong>lTurista................105 7.3Experimentosconentrada\correcta":TEPparatraduccion(enporcentaje)conysin 7.4Tama~no<strong>de</strong>losdiferentesconjuntos<strong>de</strong>evaluacion(numero<strong>de</strong>parestotalesynumero<strong>de</strong> correccion<strong>de</strong>errores(CE)....................................108
7.5TEF(%)yTEP(%)obtenidasparaelconjunto<strong>de</strong>evaluacion<strong>de</strong>lbanco<strong>de</strong>pruebas paresdistintos)...........................................109
7.6Perplejidadobtenidasobreelconjunto<strong>de</strong>prueba<strong>de</strong>latareaATIS..............116 establecidoenlasegundafase<strong>de</strong>EuTrans...........................112
8.1Ejemplos<strong>de</strong>frasessimplicadas(ysustraduccionesasociadas)paralasfrasesespontaneas alingles...............................................122 <strong>de</strong>latarea<strong>de</strong>lTurista.\E"signicalafrase<strong>de</strong>entradaencastellano,\S"signicalafrase simplicadaencontradaencastellanoy\T"signicalatraduccion<strong>de</strong>lafrasesimplicada xi

xii8.2Numero<strong>de</strong>iteracionesefectuadasy<strong>de</strong>frasesnalmenterechazadasencadauno<strong>de</strong>los INDICEDETABLAS
8.3Numero<strong>de</strong>vecesqueseencuentraunasimplicacioncorrecta,encadauna<strong>de</strong>las50 sietebloques<strong>de</strong>lcorpus<strong>de</strong>aprendizajeparaMGEO......................126
8.4Numero<strong>de</strong>vecesqueseencuentraunasimplicacioncorrecta,encadauna<strong>de</strong>las50 soluciones,enlaprimerayultimaiteracionconelbloqueA1.................128
8.5Resultadosnalesconlas208frases<strong>de</strong>evaluacion<strong>de</strong>latareaMGEO............134 8.6Resultadosobtenidosconelpeoryelmejor<strong>de</strong>losdistintosmo<strong>de</strong>losevaluados.......135 soluciones,enlaprimerayultimaiteracionconlosbloquesA2,A3,A4,A5,A6yA7...133
9.1Algunascaractersticas<strong>de</strong>loscorpora<strong>de</strong>entrenamiento<strong>de</strong>la(sub)tarea<strong>de</strong>lTurista(ex- 9.2Vocabulariovistoenlasmuestras<strong>de</strong>entrenamiento<strong>de</strong>la(sub)tarea<strong>de</strong>lTurista(extrada trada<strong>de</strong>[78])...........................................139
A.1TEF(%)yTEP(%)obtenidaenlosexperimentoscastellano-ingles,usandoP1......161 <strong>de</strong>[78])...............................................139
A.2TEF(%)yTEP(%)obtenidaenlosexperimentoscastellano-ingles,usandoP2......162
A.5TEF(%)yTEP(%)obtenidaenlosexperimentoscastellano-italiano,usandoP1.....162 A.4TEF(%)yTEP(%)obtenidaenlosexperimentoscastellano-aleman,usandoP2......162 A.3TEF(%)yTEP(%)obtenidaenlosexperimentoscastellano-aleman,usandoP1......162
A.6TEF(%)yTEP(%)obtenidaenlosexperimentoscastellano-italiano,usandoP2.....163

Indice<strong>de</strong>Algoritmos
12 AlgoritmoparacalcularD....................................19
3 Algoritmo<strong>de</strong>Viterbi.Obtieneunaentrelassecuencias<strong>de</strong>transicionesquepermitenque
4 Algoritmo<strong>de</strong>Viterbiparacalcularlaprobabilidad<strong>de</strong>queFaceptex............23 Algoritmo<strong>de</strong>Viterbiparacalcularlaprobabilidad<strong>de</strong>queFaceptexutilizandoBH....25 Faceptex.A<strong>de</strong>mas<strong>de</strong>vuelveciertoofalsosegunxseaaceptadaporFono.......21
567 EsquemaalgortmicoparaEV1yEV1PQ............................34
8 EsquemaalgortmicoparaEV2..................................36
9 Algoritmoque<strong>de</strong>tectalasaristashaciaatrasenelgrafoquerepresentaaF.........39
10Algoritmoforward.........................................51 Calculo<strong>de</strong>i8qi2Q.......................................40
11Algoritmobackward........................................52 EsquemaalgortmicoparaEV3..................................41
13AlgoritmotipoBaum-Welchparaestimarlosparametros<strong>de</strong>C................59 12Algoritmoquecalculalosvalores<strong>de</strong>Cu(a;b)paraun<strong>de</strong>terminadopar(x;y)2T,segun
14AlgoritmoViterbi........................................61 lasecuaciones4.9,4.10y4.11..................................58
15AlgoritmotipoViterbiparaestimarlosparametros<strong>de</strong>C...................63 16Descripcion<strong>de</strong>lfuncionamiento<strong>de</strong>lcanalruidosoC......................71
18AlgoritmohaciaatrasparacalcularpC(xjy).Beseltama~nomaximo<strong>de</strong>lamemoria<strong>de</strong>l 17Algoritmohaciaa<strong>de</strong>lanteparacalcularpC(xjy).Beseltama~nomaximo<strong>de</strong>lamemoria
canalyCi;m=im.......................................80 <strong>de</strong>lcanalyCi;m=im.....................................76
xiii

xiv19AlgoritmotipoViterbiparacalcularpC(xjy).Beseltama~nomaximo<strong>de</strong>lamemoria<strong>de</strong>l INDICEDEALGORITMOS
20Algoritmoquecalculalosvalores<strong>de</strong>Cu(a;b)paraun<strong>de</strong>terminadopar(x;y)2T,segun canalyCi;m=im.......................................81
21AlgoritmoExpectation-Maximizationparaestimarlosparametros<strong>de</strong>lMAMOE.Besel tama~nomaximo<strong>de</strong>lamemoria<strong>de</strong>lcanalyCi;m=im...................89
lasecuaciones5.6,5.7y5.8.Beseltama~nomaximo<strong>de</strong>lamemoria<strong>de</strong>lcanalyCi;m=im.87

CAPITULO UNO
Introduccion
\IthinkI'moldandI'mfeelingpain", yousaid \Andit'sallrunningoutlikeit'stheendoftheworld", Sometimes,youjustmakemefeel likeI'mlivingattheedgeoftheworld, yousaid
likeI'mlivingattheedgeoftheworld. \It'ssocold,it'slikethecoldifyouwere<strong>de</strong>ad",
\It'sjustthewayIsmile", thenyousmiledforasecond.
-\Plainsong",Disintegration,1989,FictionRec.- yousaid.RobertSmith(TheCure) Contenidos<strong>de</strong>lCaptulo 1.3Motivacion<strong>de</strong>lTrabajo 1.2Antece<strong>de</strong>ntesHistoricos 1.1T<strong>ecnicas</strong><strong>de</strong><strong>Correcci</strong>on<strong>de</strong>Errores
1.1 sistema<strong>de</strong>procesamiento<strong>de</strong>frases.Consi<strong>de</strong>raremosqueunafrasees,ensuacepcionmasgeneral,una Enlaactualida<strong>de</strong>xistenmuchasaplicaciones<strong>de</strong>interescuyonucleobasicoestacompuestoporun T<strong>ecnicas</strong><strong>de</strong><strong>Correcci</strong>on<strong>de</strong>Errores
secuenciaoca<strong>de</strong>na<strong>de</strong>smbolospertenecientesaunalfabeto,nitoyconocido,construidasegunun mecanismosvalidosparacombinarlossmbolosentres<strong>de</strong>maneraqueformenfrases,vienen<strong>de</strong>terminados conjunto<strong>de</strong>reglasquetambienesconocido<strong>de</strong>antemano. Des<strong>de</strong>elpunto<strong>de</strong>vista<strong>de</strong>lateora<strong>de</strong>lenguajesformales,elalfabetoylasreglasqueestablecenlos 1

2porunagramaticaG[48].Dadadichagramatica,po<strong>de</strong>mosconstruirunautomataomaquinaformal CAPITULO1.INTRODUCCION
<strong>de</strong>procesamiento<strong>de</strong>frases.Faceptarafrases<strong>de</strong>entradaqueesten\bienformadas",es<strong>de</strong>ciraquellas Paranuestrospropositos,Fconstituyelabasesobrelacualrecaeralamayorparte<strong>de</strong>ltrabajo<strong>de</strong>lsistema frasesqueseanconformesconlasreglas<strong>de</strong>G.Sinembargo,Frechazarafrasesquesean,<strong>de</strong>algunaforma, \imperfectas"oesten\malformadas".Noobstante,enmuchasocasiones,estossistemasrecibenfrases<strong>de</strong> equivalente,F,queaceptalasca<strong>de</strong>nasofrasespertenecientesallenguajegeneradoporG,L(G)1[48].
entrada\ruidosas"o<strong>de</strong>cientementecompuestas(piensese,porejemplo,enunsistema<strong>de</strong>tratamiento<strong>de</strong>l <strong>de</strong>lsistemaanteestaentrada.Porconsiguiente,esnecesarioconsi<strong>de</strong>rarlautilizacion<strong>de</strong>t<strong>ecnicas</strong>quesean capaces<strong>de</strong>manejarsituacionesenlasquelasfrasesaprocesardistan(muchoopoco)<strong>de</strong>ser\i<strong>de</strong>ales", es<strong>de</strong>cir,<strong>de</strong>lasqueelsistemaesperacomoentrada[42,38]. lenguajenaturalquerecibeunafrase<strong>de</strong>entradanogramatical).Apesar<strong>de</strong>elloseesperaunarespuesta
fraseaceptableyconstituyeneltema<strong>de</strong>lapresentetesisdoctoral.Unsistemaqueutilizaestast<strong>ecnicas</strong> lafraseque,enrealidad,seintentoexpresar,perosusprestacionesson,enlamayora<strong>de</strong>loscasos, pue<strong>de</strong>nosercapaz<strong>de</strong>manejartodosloserroresposibles,nisepue<strong>de</strong>esperar<strong>de</strong>elquesiemprerecupere correccion<strong>de</strong>errores[42,38].Estast<strong>ecnicas</strong>soncapaces<strong>de</strong>transformarunafraseincorrectaenuna Unaaproximacioncapaz<strong>de</strong>procesarfrases\erroneas"eslabasadaenlautilizacion<strong>de</strong>t<strong>ecnicas</strong><strong>de</strong>
recuperar,engeneral,loserroresproducidosenlatransmision<strong>de</strong>lainformacionatraves<strong>de</strong>uncanal signicativamentemejoresquelas<strong>de</strong>unsistemaconvencionalqueselimitasimplementearechazartodas
ruidoso.Des<strong>de</strong>estepunto<strong>de</strong>vistavamosaconsi<strong>de</strong>rarqueloserroresafectansolamenteasmbolos(y lasfrasesimperfectas[42,38,76,77,82,14,67,83,79,4,5,13].
noagrupos<strong>de</strong>ellos)ynosvamosacentrarenlacorreccion<strong>de</strong>trestiposcomunes<strong>de</strong>(operaciones<strong>de</strong>) errorque,<strong>de</strong>ahoraena<strong>de</strong>lante,<strong>de</strong>nominaremosoperaciones<strong>de</strong>edicion: Last<strong>ecnicas</strong><strong>de</strong>correccion<strong>de</strong>erroreshansidoampliamenteutilizadasenlabibliografaconeln<strong>de</strong>
operaciones<strong>de</strong>sustitucion.Notesequeelaciertouoperacion<strong>de</strong>noerrorpue<strong>de</strong>versecomouncaso particular<strong>de</strong>operacion<strong>de</strong>sustitucion,don<strong>de</strong>elsmboloimplicadosesustituyeporsmismo. Erroresconsistentesenlatransformacion<strong>de</strong>unsmboloenotro,comunmenteconocidoscomo
operaciones<strong>de</strong>borrado. Erroresconsistentesenlaaparicion<strong>de</strong>unsmboloenlatransmision,tambienconocidoscomo Erroresconsistentesenla<strong>de</strong>saparicion<strong>de</strong>unsmbolodurantelatransmision,masconocidoscomo
Aunquepue<strong>de</strong>pensarseenoperaciones<strong>de</strong>errormascomplicadas[69],lamayora<strong>de</strong>ellaspue<strong>de</strong>nverse operaciones<strong>de</strong>insercion.
comocombinaciones<strong>de</strong>lasoperaciones<strong>de</strong>ediciony,enmuchasocasiones,elincrementoquehabraque
uncambioenelor<strong>de</strong>nentrelossmbolos<strong>de</strong>lafraseoriginalmentetransmitida(veasecaptulo5). aumentoenlasprestaciones<strong>de</strong>lmismo.Unaexcepcionlaconstituyelaoperacion<strong>de</strong>trasposicionlacual, aunquesepue<strong>de</strong>mo<strong>de</strong>larconlasoperaciones<strong>de</strong>edicion,pue<strong>de</strong>resultarabsolutamenteimprescindiblepara queelsistemaseacapaz<strong>de</strong>recuperarse<strong>de</strong>lefecto<strong>de</strong>operaciones<strong>de</strong>sustitucionqueconllevan,a<strong>de</strong>mas, introducirenlacomplejidad<strong>de</strong>lsistemaparaquefuesecapaz<strong>de</strong>manejarlas,nocompensaraelescaso
comoeselcaso<strong>de</strong>lasgramaticasregulares,quesonlasqueutilizaremosenelambito<strong>de</strong>estatesis.
1Aunque<strong>de</strong>s<strong>de</strong>unpunto<strong>de</strong>vistageneralestonoessiempreposible,sloespara<strong>de</strong>terminadostipos<strong>de</strong>gramaticas,

1.2 1.2.ANTECEDENTESHISTORICOS Antece<strong>de</strong>ntesHistoricos 3
<strong>de</strong>un<strong>de</strong>terminadopreproceso(extraccion<strong>de</strong>suscaractersticasintrnsecas)aplicadoasuformaesencial frecuentementeintroducidosenlarepresentacion<strong>de</strong>objetos<strong>de</strong>lmundoreal(patrones)obtenidaapartir mientooptico<strong>de</strong>caracteres(ROC)[76,77,57].Elobjetivoperseguidoconsisteenrecuperarloserrores<strong>de</strong>formas[42,38],entareastalescomoreconocimientoautomatico<strong>de</strong>lhabla(RAH)[16,73]yreconoci- Last<strong>ecnicas</strong><strong>de</strong>correccion<strong>de</strong>erroreshansidotradicionalmenteempleadasenreconocimientosintactico
capturadaatraves<strong>de</strong>undispositivofsico.Enestecaso,lacombinacion\dispositivofsico-preproceso" constituyeelcanalruidosoqueintroduceerrores,produciendoquelafraseobtenidacomorepresentacion basica<strong>de</strong>lobjetodiste<strong>de</strong>surepresentacion\i<strong>de</strong>al".Tambienhansidofrecuentementeutilizadasenteora <strong>de</strong>lacodicacionei<strong>de</strong>nticacion<strong>de</strong>sistemas[22,46].Sepreten<strong>de</strong>recuperarelmensajeoriginalmente enviadoatraves<strong>de</strong>unmediofsico<strong>de</strong>comunicacion,utilizandooperaciones<strong>de</strong>error(lasoperaciones basicas<strong>de</strong>edicionnormalmente),teniendoencuentaque: 1.Lasreglasparalaconstruccion<strong>de</strong>losmensajessonconocidastantoporelemisorcomoporel 2.Elmediofsicoporelquesetransmitelainformacioneselcanalruidosoenestecaso.Seasume receptor.Esencialmente,elemisorcodica,omejordicho,generasusmensajesempleandoun
operaciones<strong>de</strong>error. quesucomportamientoesperfectamentecaracterizablemediantelasreglasasociadasalasposibles automataquetambienesconocidoporelreceptor.
3.Seconsi<strong>de</strong>raquelafraseoriginalmenteenviadaesaquellaque,conmayorprobabilidad,pudohaber
menteenelarea<strong>de</strong>lainferenciagramatical[15,60,75].Lainferenciagramaticalpersigueapren<strong>de</strong>rlaEstast<strong>ecnicas</strong>tambienhansidoutilizadasconexitoenaprendizajecomputacional,masconcreta- sidodistorsionadaporelcanalhastaconvertirlaenlafraserealmenterecibida.
<strong>de</strong>HectorRulotseproponeunatecnica<strong>de</strong>inferenciabasadaenlacorreccion<strong>de</strong>errores[68].Otrostradizajecompuestoporvariasrepresentaciones(enforma<strong>de</strong>frase)<strong>de</strong>dichoobjeto.Enlatesisdoctoralbajos<strong>de</strong>inferencia,basadosenlautilizacion<strong>de</strong>lacorreccion<strong>de</strong>errores,son[29,71].Trabajosrecientesestructurasintactica(gramatica)<strong>de</strong>unobjeto<strong>de</strong>terminado,apartir<strong>de</strong>unconjunto<strong>de</strong>datos<strong>de</strong>apren- investigacion. han<strong>de</strong>mostradolautilidad<strong>de</strong>estast<strong>ecnicas</strong>paraelmo<strong>de</strong>lado<strong>de</strong>llenguaje[65,75,14].Enestecasose preten<strong>de</strong>apren<strong>de</strong>rautomaticamentemo<strong>de</strong>losestocasticos<strong>de</strong>lenguajeparatareas<strong>de</strong>RAHapartir<strong>de</strong>un conjunto<strong>de</strong>muestras<strong>de</strong>latarea2.Enlaactualidad,laconstruccion<strong>de</strong>mo<strong>de</strong>los<strong>de</strong>lenguajeformaparte importanteenel<strong>de</strong>sarrollo<strong>de</strong>ecacessistemas<strong>de</strong>RAH,constituyendoensmismaunarearelevante<strong>de</strong>
1.3 mediantefrases.Estasfrasespreten<strong>de</strong>nmo<strong>de</strong>larla\estructura"<strong>de</strong>estosobjetos.Unaclase<strong>de</strong>objetos Enreconocimientosintactico<strong>de</strong>formas,lospatronesuobjetosquesepreten<strong>de</strong>reconocerserepresentan Motivacion<strong>de</strong>lTrabajo
procesamiento<strong>de</strong>frases,clasicandoseelobjetorepresentadoporlafrase<strong>de</strong>entradaalsistema,como pertenecientealaclasecuyagramaticalagenera.Caso<strong>de</strong>quelosmo<strong>de</strong>losgramaticalesseanestocasticos, frase<strong>de</strong>llenguajequegeneradichagramatica,L(G).Elclasicadorconsiste,pues,enunsistema<strong>de</strong> se<strong>de</strong>nemedianteunagramaticaG,<strong>de</strong>maneraquecadaobjeto<strong>de</strong>laclaseserepresentamedianteuna
<strong>de</strong>losparametros<strong>de</strong>lmo<strong>de</strong>lo,locualnosiempresuce<strong>de</strong>eninferenciagramatical.
2Notesequeestaaplicacionrequierenosolounaprendizajecorrecto<strong>de</strong>laestructura,sinotambienunabuenaestimacion

4seutilizalaregla<strong>de</strong>clasicacion<strong>de</strong>maximaverosimilitud,clasicandoseelobjetocomopertenecientea CAPITULO1.INTRODUCCION
laclasecuyagramaticagenera,conmayorprobabilidad,lafrasequelorepresenta[38].
mo<strong>de</strong>losgramaticalesque<strong>de</strong>nencadauna<strong>de</strong>lasclasesutilizadasenelproceso<strong>de</strong>clasicacion.Enel mundorealy/oaerroresimputablesalpreproceso(extraccion<strong>de</strong>suscaractersticasbasicas),lasfrases obtenidascomorepresentacion<strong>de</strong>losmismos,nopue<strong>de</strong>nseraceptadas(generadas)porninguno<strong>de</strong>los caso<strong>de</strong>usarmo<strong>de</strong>losestocasticos,estosemaniestaporelhecho<strong>de</strong>quelaprobabilidad<strong>de</strong>generacion Muchasveces,<strong>de</strong>bidoalruidointroducidoporeldispositivofsicoque\captura"losobjetos<strong>de</strong>l
sintactico<strong>de</strong>formas,estast<strong>ecnicas</strong>resultan<strong>de</strong>graninteres,alahora<strong>de</strong>implementarenlapractica <strong>de</strong>dichasfrases,esnulaparatodoslosmo<strong>de</strong>los.Last<strong>ecnicas</strong><strong>de</strong>correccion<strong>de</strong>errorespue<strong>de</strong>nutilizarse
clasicadoresecientes. pararesolveresteproblema[42,38].Estast<strong>ecnicas</strong>soncapaces<strong>de</strong>convertirfrases<strong>de</strong>entradaalsistema inaceptables,enfrasessusceptibles<strong>de</strong>sergeneradasporalguno<strong>de</strong>losmo<strong>de</strong>losgramaticalesutilizados (yconunaciertaprobabilidad,enelcaso<strong>de</strong>queseanestocasticos).Esporelloque,enreconocimiento
prestacionesentareas<strong>de</strong>dominiosemanticorestringido.Consi<strong>de</strong>raremostareas<strong>de</strong>dominiorestringido <strong>de</strong>procesamiento<strong>de</strong>frases.Aplicaciones<strong>de</strong>estetiposon,porejemplo,sistemas<strong>de</strong>RAH,sistemaspara eltratamiento<strong>de</strong>llenguajenaturalysistemas<strong>de</strong>traduccionautomatica;todosellos<strong>de</strong>unaenorme importanciay<strong>de</strong>indudablevalorcientco.Lamayora<strong>de</strong>estasaplicacionesofrecen,<strong>de</strong>pors,buenas Noobstante,hayunbuennumero<strong>de</strong>aplicaciones<strong>de</strong>interesquesebasanenlautilizacion<strong>de</strong>sistemas
limitadoydon<strong>de</strong>elconjuntoposible<strong>de</strong>frasesqueunusuariopue<strong>de</strong>introduciralsistemaselimitaaciertas situacionesconcretas.Sinembargo,enmuchasocasiones,lasprestacionesqueofrecenestasaplicaciones aquellascuyocontenidosemanticoesperfectamenteconocido<strong>de</strong>antemano,conunlexicoovocabulario enlapractica,aunrestringiendosuutilizacionadominiosrestringidos,sonbastante<strong>de</strong>cientes.
\ese"1%,achacableafactoresimprevistos,alo\inusual",etc.quepodra<strong>de</strong>gradarmas<strong>de</strong>loquesera <strong>de</strong>seableelfuncionamiento<strong>de</strong>lsistema.Existeunabuenadisquisicionalrespectoen[53].Delasi<strong>de</strong>as quepue<strong>de</strong>nexhibirlospotencialesusuarios<strong>de</strong>estossistemas,aunendominiosrestringidos.Eincluso, aunqueelsistemafueseunelreejo<strong>de</strong>larealida<strong>de</strong>nun,pongamosporcaso,99%,siemprequedara Elproblemaprincipalqueseplantea,esqueresultaimposible\capturar"todalavariabilidadsintactica
queallseexponen,hemosentresacadolassiguientescomo,quizas,lasquemejorpue<strong>de</strong>nservirpara ilustrarloquequeremosexpresar: Existen,enlapractica,diferenciasentreejemplaresdistintos<strong>de</strong>loque,paranosotros,representa
bacionespropias<strong>de</strong>lmecanismoutilizado,sinotambienafactoresachacablesalindividuoconcretomuyprobablementeserecibira<strong>de</strong>formadistintaencadaocasion.Estose<strong>de</strong>benosoloapertur- Sitransmitimosrepetidamenteelmismomensajeutilizandoelmismomecanismo<strong>de</strong>comunicacion, unmismoconceptosemantico(es<strong>de</strong>cir,algoaloquecatalogamosconunaunica\etiqueta").
Normalmente,solemosreferirnosaestegrupo<strong>de</strong>factorescomo\variacionaleatoria",osimplemente \azar". A<strong>de</strong>mas,siemprehayquecontarconlainevitablepresencia<strong>de</strong>factoresimprevistoseinexplicables. queloestautilizando(porejemplo,asucaracter,estado<strong>de</strong>animo,forma<strong>de</strong>expresarse,etc.).
Elhecho<strong>de</strong>queexistandiferenciasesunconceptouniversal.Losmecanismosque,enciertaforma,
elnal<strong>de</strong>otrafraserepresentandootroconceptodistinto.
<strong>de</strong>terminanestasdiferencias,pue<strong>de</strong>ncambiarbastante<strong>de</strong>unasituacionaotra.Sinembargo,existe diferenciasentrelasfrasesquesecorrespon<strong>de</strong>nconununicoconceptosemanticosonlocales,es <strong>de</strong>cirelprincipio<strong>de</strong>unafrasesecorrespon<strong>de</strong>aproximadamenteconelprincipio<strong>de</strong>laotraynocon unhiloconductorcomunatodasellas.Entodoslosambitos<strong>de</strong>aplicacionseobservaquelas

1.3.MOTIVACIONDELTRABAJO Ensuma,no<strong>de</strong>bemossorpren<strong>de</strong>rnos<strong>de</strong>queexistandiferencias.Lo<strong>de</strong>stacableesque,enmuchas 5
ocasiones,esasdiferenciasseanmnimas.Masaun,loqueresulta<strong>de</strong>stacableesquepodamosi<strong>de</strong>nticar variasfrasescomoreferentes<strong>de</strong>unmismoconcepto,apesar<strong>de</strong>lasdiferencias.Y,enestesentido,es don<strong>de</strong>laaplicacion<strong>de</strong>t<strong>ecnicas</strong><strong>de</strong>correccion<strong>de</strong>erroresha<strong>de</strong>mostradosuecaciaeninnidad<strong>de</strong>ocasiones
loconstituyeelautomataomaquinaformalaceptoraequivalente,F.Masconcretamente,elalgoritmo construyensegunlasreglas<strong>de</strong>terminadasporunagramaticaG.Elnucleo<strong>de</strong>lsistema<strong>de</strong>procesamiento, (consulteselabibliografa<strong>de</strong>estatesis,porejemplo).
caso,Gserasiempreunagramaticaregulary,porconsiguiente,Fserasurepresentacionequivalenteen <strong>de</strong>analisis(analizador)sintactico<strong>de</strong>sarrolladoapartir<strong>de</strong>lconocimientoquetenemos<strong>de</strong>F.Ennuestro Ennuestroplanteamientohemosasumidoquelasfrasesquepue<strong>de</strong>recibircomoentradaelsistema,se
forma<strong>de</strong>automataomo<strong>de</strong>lo<strong>de</strong>estadosnitos.Elhecho<strong>de</strong>queenestatesisnoscentremosenlamejora <strong>de</strong>sistemasbasadosenestetipo<strong>de</strong>mo<strong>de</strong>losobe<strong>de</strong>ce,fundamentalmente,alassiguientesrazones:
2.Ladisponibilidad<strong>de</strong>t<strong>ecnicas</strong>capaces<strong>de</strong>apren<strong>de</strong>rlosautomaticamenteapartir<strong>de</strong>unconjunto<strong>de</strong> 1.Muchas<strong>de</strong>last<strong>ecnicas</strong>empleadasenlasaplicaciones<strong>de</strong>sarrolladasenlasareasmencionadasal
muestras<strong>de</strong>latareaquepreten<strong>de</strong>mosabordar. principio<strong>de</strong>estaseccionsebasan,enmayoromenormedida,enlautilizacion<strong>de</strong>mo<strong>de</strong>los<strong>de</strong> estadosnitos.
3.Laexistencia<strong>de</strong>ecientesalgoritmos<strong>de</strong>analisissintacticocapaces<strong>de</strong>resolverelproblema<strong>de</strong> relevanciaaun,dadalacomplejidadadicionalqueconllevaeldotaralanalizador<strong>de</strong>lacapacidad <strong>de</strong>corregirerroresproducidosporlasoperaciones<strong>de</strong>edicionanteriormentemencionadas(vease <strong>de</strong>terminarlapertenencia<strong>de</strong>unafraseallenguaje<strong>de</strong>nidoporG.Estehechoadquieremayor
4.Apesar<strong>de</strong>susimplicidady<strong>de</strong>surelativamentepocapotenciaexpresiva,soncapaces<strong>de</strong>representar captulo3). ecientementecomplicadosprocesospresentesenellenguajehumano.Estacapacida<strong>de</strong>sincluso
problemashacenquelossistemasquelosutilizan,bajenalarmantementesusprestacionesysemaniestan Sinembargo,lautilizacion<strong>de</strong>estetipo<strong>de</strong>mo<strong>de</strong>losadolece<strong>de</strong>ciertosproblemasenlapractica.Dichos mayor,sicircunscribimossuambito<strong>de</strong>actuacionatareas<strong>de</strong>naturalezasemanticarestringida.
portresrazonesfundamentales:
seacapaz<strong>de</strong>aceptar,comocorrectas,<strong>de</strong>masiadasfrases<strong>de</strong>estructurasintacticanogramaticaly, masgenericaquelapresenteenelconjunto<strong>de</strong>datos<strong>de</strong>entrenamiento.Elloprovocaqueelsistema enconsecuencia,asumacomoa<strong>de</strong>cuadaslasrespuestasproporcionadas(locual,enmuchoscasos, Sobregeneralizacion.Elalgoritmo<strong>de</strong>aprendizajeconstruyeunaestructurasintacticaexcesivamente
Escasez<strong>de</strong>datos<strong>de</strong>aprendizaje.Estohacequeelsistemasea<strong>de</strong>masiadosimpleeincapaz<strong>de</strong>ofrecer noesas). unarespuestacorrecta(eincluso<strong>de</strong>ofrecerunasolarespuesta)afrases<strong>de</strong>entrada\conformes" conrespectoalosdatosquesetienennoes,sinembargo,capaz<strong>de</strong><strong>de</strong>senvolversea<strong>de</strong>cuadamenteen lapractica,yaquenoesunelreejo<strong>de</strong>larealidad.Estoproducequeelsistemarechazelamayora Insucienterepresentatividad<strong>de</strong>losdatos<strong>de</strong>aprendizaje.Aunqueelmo<strong>de</strong>loaprendidoseabueno conlatareaquesepreten<strong>de</strong>abordar.
<strong>de</strong>lasfrases\correctas"<strong>de</strong>entrada,simplementeporquesuestructuranohasidogeneralizadapor elalgoritmo<strong>de</strong>aprendizaje.

6Enestatesis<strong>de</strong>mostraremoslacapacidad<strong>de</strong>last<strong>ecnicas</strong><strong>de</strong>correccion<strong>de</strong>erroresparasolucionarestos CAPITULO1.INTRODUCCION
problemasenmo<strong>de</strong>los<strong>de</strong>estadosnitos. capaces<strong>de</strong>obtenera<strong>de</strong>cuadasestimaciones<strong>de</strong>losparametros(inserciones,borradosysustituciones)<strong>de</strong> unmo<strong>de</strong>lo<strong>de</strong>errorestocastico.Creemosqueuna<strong>de</strong>lasprincipalesrazonesporlasquelautilizacion <strong>de</strong>last<strong>ecnicas</strong><strong>de</strong>correccion<strong>de</strong>erroreshasufridounligeroretrocesoes,precisamente,elhecho<strong>de</strong>que nosehanrealizadomuchostrabajosalrespecto.Estatesispreten<strong>de</strong>,mo<strong>de</strong>stamente,intentarayudar Otroproblemaquevamosaabordarenestatesisesel<strong>de</strong><strong>de</strong>sarrollart<strong>ecnicas</strong><strong>de</strong>aprendizajeinductivo,
capacidadyconsistencia. error,pue<strong>de</strong>contribuiraimpulsarlautilizacion<strong>de</strong>lacorreccion<strong>de</strong>erroresenmuchasotrasareas<strong>de</strong> investigacion,don<strong>de</strong>sehacenecesariodisponer<strong>de</strong>sistemasrobustos<strong>de</strong>procesamiento<strong>de</strong>frases.Eneste sentido,creemosqueelmarcoformal<strong>de</strong>laestadsticapue<strong>de</strong>resultarfundamentalparadotarlas<strong>de</strong>mayor asubsanaresta<strong>de</strong>ciencia.Pensamosqueel<strong>de</strong>sarrollo<strong>de</strong>t<strong>ecnicas</strong><strong>de</strong>estimacion<strong>de</strong>losparametros<strong>de</strong>
error.Concretamenteutilizaremosmetodosbasadosenlautilizacion<strong>de</strong>t<strong>ecnicas</strong><strong>de</strong>validacioncruzaday bootstrapping.Demostraremosque,utilizandoestosmetodos,po<strong>de</strong>mosobtenerresultadossucientemente datos<strong>de</strong>aprendizaje,pararealizarestimacionescorrectas<strong>de</strong>losvalores<strong>de</strong>losparametros<strong>de</strong>lmo<strong>de</strong>lo<strong>de</strong> portanto,presentaremosmetodoscapaces<strong>de</strong>sacarelmayorprovechoposible<strong>de</strong>los,avecesescasos, Elproblema<strong>de</strong>laescasezoinsuciencia<strong>de</strong>datos<strong>de</strong>aprendizajees,tambien,relevante.Enestatesis,
estosparametros. buenos,aunapesar<strong>de</strong>laescasez(oinclusofalta)<strong>de</strong>datos<strong>de</strong>entrenamientoespeccosparaestimar
ygracias,fundamentalmente,alasherramientas<strong>de</strong>sarrolladasparalaestimacion<strong>de</strong>losparametros <strong>de</strong>error,<strong>de</strong>mostraremossuutilidadparael<strong>de</strong>sarrollo<strong>de</strong>aplicacionesespeccas<strong>de</strong>otroscampos<strong>de</strong> consi<strong>de</strong>radascomopropias<strong>de</strong>lreconocimientosintactico<strong>de</strong>formas,siendo,igualmente,muyutilizadas enteora<strong>de</strong>lacodicacion.Enestatesis,a<strong>de</strong>mas<strong>de</strong>suaplicacionenreconocimientosintactico<strong>de</strong>formas Hemoscomentadoenlaseccionanterior,quelast<strong>ecnicas</strong><strong>de</strong>correccion<strong>de</strong>erroreshansidoclasicamente
investigacion,don<strong>de</strong>tambiensehacenecesarialaconstruccion<strong>de</strong>sistemasrobustos<strong>de</strong>procesamiento<strong>de</strong> frases.Concretamentetambiennosocuparemos<strong>de</strong>suaplicacionenlaconstruccion<strong>de</strong>robustosmo<strong>de</strong>los <strong>de</strong>lenguaje,tratamiento<strong>de</strong>llenguajenaturalytraduccionautomatica.
situacionesimprevistasentraduccionautomatica3yeldise~no<strong>de</strong>unclasicador<strong>de</strong>maximaverosimilitud paraaplicaciones<strong>de</strong>reconocimientosintactico<strong>de</strong>formas. <strong>de</strong>lenguaje,eltratamientoymo<strong>de</strong>lado<strong>de</strong>disuencias<strong>de</strong>llenguajenaturalespontaneo,eltratamiento<strong>de</strong> mas<strong>de</strong>diversandole,comoson:laestimacion<strong>de</strong>losparametros<strong>de</strong>suavizadoparamo<strong>de</strong>losestocasticosFinalmente,quisieramos<strong>de</strong>stacarquehemossituadobajoununicomarcoformal,lasolucionaproble- 3Porejemplo,latraduccion<strong>de</strong>frasesendominiossemanticosrestringidoscuyaestructurasintacticanoestacontemplada
enelsistema,perossusignicadoosemantica.

ParteI
T<strong>ecnicas</strong><strong>de</strong><strong>Correcci</strong>on<strong>de</strong>Errores
7

CAPITULO DOS
Miscelanea
Iwouldhavelefttheworldallbleeding, couldIonlyhelpyoulove? Theeetingshapes
Thewordsallleftmelifeless,hoping, Everythingwastrue,itcouldn'tbeastory. Iwishitwasalltrue,Iwishitcouldn'tbeastory. somanyyearsago,
breathinglikethedrowningman. soyoungandbeautifulandbrave.
Oh,Fushia!youleaveme breathinglikethedrowningman.
Contenidos<strong>de</strong>lCaptulo -\TheDrowningMan",Faith,1981,FictionRec.- RobertSmith(TheCure)
2.4AnalisisSintactico 2.3Denicion<strong>de</strong>lProblema 2.1Introduccion
2.5AnalisisSintacticoCorrector<strong>de</strong>Errores 2.2ConceptosBasicos
2.1 presentetesis,facilitandoconelloquepodamoscentrarnosconmayorsolturaysinpreambuloenlos Enestecaptulopreten<strong>de</strong>mossentarlasbasesqueposibilitenunamejorlectura<strong>de</strong>lmeollo<strong>de</strong>la Introduccion
conceptosprincipalesa<strong>de</strong>sarrollar.Allectorlerecomendamospacienciayaque,comoposteriormente sepodracomprobar,lalectura<strong>de</strong>estecaptulonoresultabalad,siendo<strong>de</strong>fundamentalimportancia paraelresto<strong>de</strong>ltrabajo.Aunquepuedaresultartedioso,ytambienloresultaparaelautor,esnecesario 9

10 introducir<strong>de</strong>niciones,notacion,nomenclatura,antece<strong>de</strong>ntes,algoritmosbasicos,etc.aemplearenel CAPITULO2.MISCELANEA
algoritmos.Sinmaspreambulos,invitamosallectoraarmarse<strong>de</strong>pacienciaya\soportar"estesegundo captulo. <strong>de</strong>losconceptosintroducidosy,enmuchoscasos,partiremos<strong>de</strong>ellospara<strong>de</strong>sarrollarnuevasi<strong>de</strong>asy resto<strong>de</strong>latesis.Asumiendolalectura<strong>de</strong>estecaptulo,enelresto<strong>de</strong>latesisdaremosporsentadosvarios
2.2 2.2.1Concepto<strong>de</strong>Smbolo,Alfabeto,FraseyLenguaje ConceptosBasicos
mentereferenciaaesteconceptoalolargo<strong>de</strong>lpresentetrabajo,utilizandolapalabracastellanasmboloobasica<strong>de</strong>informacion,atomicay,portanto,no<strong>de</strong>scomponibleenotrasunida<strong>de</strong>s.Haremosindistinta- lainglesatoken.Unaagrupacionnitaoconjunto<strong>de</strong>smbolos<strong>de</strong>neunalfabeto.Portanto,unalfabeto noesmasqueunacoleccionnita<strong>de</strong>smbolos,quepue<strong>de</strong>nutilizarsepararepresentarlainformacionque Paraempezarvamosa<strong>de</strong>nirelconcepto<strong>de</strong>smbolo.Consi<strong>de</strong>raremosqueunsmboloesunaunidad
letras<strong>de</strong>nuestroalfabetoenminusculas.Losalfabetosseranrepresentadosutilizandoletrasmayusculas entodoslosalfabetos.Estesmboloresultauntantoespecial,puesnoesunsmboloenrealidad,sinoque representalaausencia<strong>de</strong>unsmboloencuestion.Portanto,nopue<strong>de</strong>serutilizadoparaformarfrases,ni queremostransmitir.Asumiremoslaexistencia<strong>de</strong>lsmbolonuloovaco,alcualrepresentaremoscomo\,
<strong>de</strong>lalfabetogriegotalescomo;;;:::. enrealidadrepresentainformacionalguna.Representaremoslossmbolosutilizando,indistintamente,las
a,bycsonsmbolos,abcesunaca<strong>de</strong>na.Representaremoslasfrasesutilizando,nuevamente,lasletras informacion.Acadauna<strong>de</strong>estasunida<strong>de</strong>s,formadaporlaconcatenacion<strong>de</strong>unnumeronito<strong>de</strong> smbolospertenecientesaunalfabeto,la<strong>de</strong>nominaremosindistintamentefraseoca<strong>de</strong>na.Porejemplo,si <strong>de</strong>nuestroalfabetoenminusculas,perosituandolesunabarraencima.As,xrepresentaunsmbolo, Lossmbolosseconcatenanunosacontinuacion<strong>de</strong>otrosparaformarunida<strong>de</strong>smascomplejas<strong>de</strong>
peroxrepresentaunafrase.Uncasoespecialloconstituyelaca<strong>de</strong>naofrasevaca,es<strong>de</strong>ciraquellaque queconstituyenlafrasexserepresentaracomojxj,siendoportantojj=0.Laconcatenacion<strong>de</strong> dosfrasesxeyeslafraseresultante<strong>de</strong>concatenarlossmbolosqueconstituyenytraslossmbolos queconstituyenx,ylorepresentaremoscomoxy.Laoperacion<strong>de</strong>concatenacion<strong>de</strong>ca<strong>de</strong>nascumple lapropiedadasociativa.A<strong>de</strong>massuelementoneutroes,laca<strong>de</strong>navaca.Parahacerreferenciaal nocontieneningunsmbolo.Utilizaremoslaletragriegapararepresentarla.Elnumero<strong>de</strong>smbolos
smboloqueseencuentraenlaposicioni-esima<strong>de</strong>laca<strong>de</strong>nax,emplearemoslanotacionxi.Portanto laca<strong>de</strong>nacompuestaunicamenteporelsmboloxi.Cuandoj

2.2.2AlgunosConceptossobreTeora<strong>de</strong>LenguajesFormales 2.2.CONCEPTOSBASICOS 11
que[48]:esunconjuntonito<strong>de</strong>smbolosnoterminales.
unformalismo.Nosotrosutilizaremoselconcepto<strong>de</strong>gramaticaformalintroducidoporChomskyensu <strong>de</strong>nicion<strong>de</strong>jerarqua<strong>de</strong>lenguajesformales[48].UnagramaticaGesunatupla,G=(;;P;S)tal Parapo<strong>de</strong>rtrabajarconlenguajesy,fundamentalmente,parapo<strong>de</strong>rcaracterizarlosesnecesario<strong>de</strong>nir
([).Unpar(;)2Psignicaque,segunlasreglas<strong>de</strong>lagramatica,sepue<strong>de</strong>reescribir queremoscaracterizar. Pesunconjuntonito<strong>de</strong>produccionesoreglas<strong>de</strong>reescritura,talqueP(([)([)) esunconjuntonito<strong>de</strong>smbolosterminales,disjunto<strong>de</strong>,sobreelquese<strong>de</strong>neellenguajeque
Sesunsmboloespecial<strong>de</strong>que<strong>de</strong>nominaremossmboloinicial. parteizquierdayacomolaparte<strong>de</strong>recha. comoylorepresentaremosmediante !.Encadaproduccion<strong>de</strong>nominaremosacomola
<strong>de</strong>remos<strong>de</strong>lasiguienteforma: 1.ComenzamosescribiendoelsmboloinicialS. Paragenerarfrasespertenecientesa utilizandolagramaticaGtalcuallahemos<strong>de</strong>nido,proce-
3.Silasecuenciaestacompuestaenteramenteporsmbolosterminales,entonceshemosterminadoy 2.Sienlasecuencia<strong>de</strong>smbolosquellevamosescritaquedatodavaalgunopertenecientea,entonces buscamosalgunasubsecuenciaquecoincidaconlaparteizquierda<strong>de</strong>algunaproduccion<strong>de</strong>Pyla sustituimosporlacorrespondienteparte<strong>de</strong>recha.
generalagramaticaG.ParareferirnosallenguajequegeneraunagramaticaGcualquiera,utilizaremos Elconjunto<strong>de</strong>frasesquepo<strong>de</strong>mosobtenermedianteesteprocedimiento,constituyeellenguajeque lafraseresultanteperteneceallenguajegeneradoporlagramatica.
lateora<strong>de</strong>lenguajesformales,consta<strong>de</strong>lossiguientestipos[48]: lanomenclaturaL(G).Existendiferentestipos<strong>de</strong>gramaticas,<strong>de</strong>pendiendo<strong>de</strong>lasrestriccionesquese imponganalconjunto<strong>de</strong>producciones.La<strong>de</strong>nominadajerarqua<strong>de</strong>Chomsky,clasicamenteutilizadaen
<strong>de</strong>laformaA!BaoA!a,entoncesse<strong>de</strong>nominanregularesporlaizquierda.Ambostipos Gramaticasregulareso<strong>de</strong>tipo3.Susproduccionesson<strong>de</strong>laformaA!aBoA!a,don<strong>de</strong>
Gramaticasincontextualeso<strong>de</strong>tipo2.Susproduccionesson<strong>de</strong>laformaA!,don<strong>de</strong>A2y sonequivalentesy,encualquiercaso,loslenguajesquegeneranse<strong>de</strong>nominanlenguajesregulares. A;B2ya2.Enestecasose<strong>de</strong>nominanregularesporla<strong>de</strong>recha.Silasproduccionesfuesen
esunaca<strong>de</strong>na<strong>de</strong>([).Loslenguajesquegeneranse<strong>de</strong>nominan,<strong>de</strong>igualmodo,incontextuales. Gramaticassensiblesalcontextoo<strong>de</strong>tipo1.Seexigequelaparte<strong>de</strong>recha<strong>de</strong>lasproduccionessea Gramaticasnorestringidaso<strong>de</strong>tipo0.Noexisterestriccionalgunaalahora<strong>de</strong>formarelconjunto <strong>de</strong>producciones.Todaslasgramaticas,sonpues,norestringidas.Loslenguajesquegeneranse <strong>de</strong>nominanlenguajesnorestringidosotambienrecursivamenteenumerables.
mayoroigualquelaparteizquierda.Generanlos<strong>de</strong>nominadoslenguajessensiblesalcontexto.

12Cadauno<strong>de</strong>lostipos<strong>de</strong>nidos,comoellectorpue<strong>de</strong>apreciar,estaestrictamenteincluidoenlos CAPITULO2.MISCELANEA
estamosreriendoalosautomatasnitos. siguientes(vamos<strong>de</strong>masamenosrestricciones).Enestatesisvamosautilizarexclusivamentegramaticas regulares,pasamosa<strong>de</strong>nir,acontinuacion,unformalismomuyutilparasuutilizacionpractica.Nos regulares1ytrabajaremosconloslenguajesquedichasgramaticasgeneran.Porello,noahondaremos masenelresto<strong>de</strong>latipologaqueacabamos<strong>de</strong><strong>de</strong>scribir.Y,puestoquevamosatrabajarcongramaticas
2.2.3AutomatasFinitos Formalmente,unautomatanito2FesunatuplaF=(Q;;;q0;Z),don<strong>de</strong>[48]: Qeselconjuntonito<strong>de</strong>estados<strong>de</strong>lautomata. eslafuncion<strong>de</strong>transicion,lacualobe<strong>de</strong>cealsiguienteperl::Q eselalfabeto<strong>de</strong>entrada.
transicionesunica),entoncessedicequeFes<strong>de</strong>terminista. comoresultadoelconjunto<strong>de</strong>estadosalquesepue<strong>de</strong>\transitar"<strong>de</strong>s<strong>de</strong>elestadoq,utilizandoel (es<strong>de</strong>cir,obiennoexistetransicion<strong>de</strong>s<strong>de</strong>elestadoqutilizandoelsmboloao,siexiste,dicha smbolo<strong>de</strong>entradaa,8q2Qy8a2[48].Sieltama~no<strong>de</strong>(q;a)es1o0,8q2Qy8a2 !2Q.Dichafuncionda
q02Qeselestadoinicial.
leyendo,smboloasmbolo,<strong>de</strong>izquierdaa<strong>de</strong>rechayenlacualsesituaunafrase<strong>de</strong>entradax2+.F UnautomatanitoFfunciona<strong>de</strong>lasiguientemanera[42].Ftieneunacinta<strong>de</strong>entradaqueva ZQeselconjunto<strong>de</strong>estadosnalesoaceptores.
aencontrarF.Fsesituaenelestadocorrespondientealaseleccionefectuada.Ftermina<strong>de</strong>operar cuandohaledotodoslossmbolos<strong>de</strong>x.Enesecaso,siFhaparadoencualquiera<strong>de</strong>losestadosnales sesituaenelestadoinicialq0.Lafuncion<strong>de</strong>transicion,,eslaque<strong>de</strong>terminaelmecanismo<strong>de</strong>operacion
oaceptores<strong>de</strong>ZsedicequelafrasexesaceptadaporF.Laca<strong>de</strong>navacatambienpue<strong>de</strong>seraceptada <strong>de</strong>F,yaqueproporciona,paralacombinacionestadoactualenqueseencuentraFysmbolo<strong>de</strong>entrada
porF,porejemplo,siq02Z. quevaaserledo,elconjuntoposible<strong>de</strong>alternativasparaseleccionarelsiguienteestadoenqueseva
formadoportodasaquellasca<strong>de</strong>nas<strong>de</strong> F<strong>de</strong>neunlenguaje,que<strong>de</strong>nominaremosL(F)siguiendolanomenclaturautilizadacongramaticas,
posibleencontrar,dadaunagramaticaregularG,elautomataFqueaceptaL(G)y,dadounautomata aceptores<strong>de</strong>lasmismas,enrealidadambosformalismossonequivalentesenelsentido<strong>de</strong>quesiemprees quepermitentransitar<strong>de</strong>s<strong>de</strong>q0hastacualquierestadoq2Zutilizando.Aunquetradicionalmentese habla<strong>de</strong>lasgramaticasregularescomomo<strong>de</strong>losgeneradores<strong>de</strong>frasesy<strong>de</strong>losautomatascomomo<strong>de</strong>los (monoi<strong>de</strong>libre)quesonaceptadasporel,es<strong>de</strong>cir,aquellas
Unlenguajeesaceptadoporunautomatanitosiysolosiesgeneradoporunagramaticaregular. F,lagramaticaregularGquegeneraL(F),comolopruebaelsiguienteteorema Teorema2.1
generalparaestemo<strong>de</strong>loformal.
2La<strong>de</strong>nicionquevamosadaresla<strong>de</strong>automatanitono<strong>de</strong>terminista.Nosparecea<strong>de</strong>cuado,puesesla<strong>de</strong>nicionmas 1Bueno,enrealida<strong>de</strong>stonoes<strong>de</strong>ltodocierto,perosloesquevamosatrabajarconmo<strong>de</strong>losregularesengeneral.

2.2.CONCEPTOSBASICOS 13
B
b
a
D
A
a
a
a
cionesquepermitenpasar<strong>de</strong>GaFyviceversa.cuya<strong>de</strong>mostracionpo<strong>de</strong>mosencontraren[42].Parala<strong>de</strong>mostracion<strong>de</strong>lteoremasedanlasconstruc- Figura2.1:Ejemplo<strong>de</strong>automatanitono<strong>de</strong>terminista.
b
C
<strong>de</strong>gramatica,automatay,engeneral,mo<strong>de</strong>lo<strong>de</strong>estadosnitosparareferirnossindistincionalgrafo \ve"comoaceptorogenerador.Porotraparte,<strong>de</strong>cirqueemplearemosequivalentementelosconceptos mo<strong>de</strong>losaceptoresogeneradores<strong>de</strong>frases,siendoelcontextoelque<strong>de</strong>terminesielmo<strong>de</strong>loencuestionse gulares)que<strong>de</strong>automatasenelmarco<strong>de</strong>lapresentetesis.Tambienhablaremosindistintamente<strong>de</strong>Dichoesto,concluiremosque,paranosotros,seraexactamentelomismohablar<strong>de</strong>gramaticas(re- resultante<strong>de</strong>representarelmo<strong>de</strong>locorrespondientetalcualserepresentaenlagura2.1.Enellase muestraconarcosdibujadosutilizandountrazomasgrueso,comogenera/aceptalafraseabbelsiguiente automatanito: Q=fA;B;C;Dg
(D;a)=(D;b)=; (A;a)=fB;Cg,(B;b)=fB;Dg,(C;a)=fC;Dg,(C;b)=fAgy(A;b)=(B;a)= =fa;bg
q0=A
2.2.4TraductoresFinitos Z=fDg
unageneralizaciondirecta<strong>de</strong>lmo<strong>de</strong>lo<strong>de</strong>automatanitono<strong>de</strong>terministaqueacabamos<strong>de</strong><strong>de</strong>nir.Basta conincluirenla<strong>de</strong>nicionunalfabeto<strong>de</strong>salida. quenospermitirapo<strong>de</strong>rrealizarestaaplicacion.Concretamente,existeunmo<strong>de</strong>lo<strong>de</strong>traduccionquees frasesexpresadasenunlenguajeorigen,aunlenguaje<strong>de</strong>stino.Porelloesnecesario<strong>de</strong>nirelformalismo Una<strong>de</strong>lasaplicacionespracticasquevaaabordarseenlapresentetesis,eslatraduccionautomatica<strong>de</strong>
lomismoqueenla<strong>de</strong>nicion<strong>de</strong>automatanitoy,enestecaso[42] As,untraductornito(no<strong>de</strong>terminista)TesunatuplaT=(Q;;;;q0;Z)siendoQ,,q0yZ eselalfabeto<strong>de</strong>salida.
b

14 eslafuncion<strong>de</strong>transicion<strong>de</strong>ltraductor,lacualobe<strong>de</strong>cealsiguienteperl::Q([f\g)! CAPITULO2.MISCELANEA
y8a2(es<strong>de</strong>cir,obiennoexistetransicion<strong>de</strong>s<strong>de</strong>elestadoqutilizandoelsmboloao,siexiste, dichatransicionsecorrespon<strong>de</strong>conununicoparestado<strong>de</strong>stino,ca<strong>de</strong>na<strong>de</strong>salida),entoncessedice queTes<strong>de</strong>terminista. 2Q.Siparacadaestadoqyparacadasmbolo<strong>de</strong>entradaaeltama~no<strong>de</strong>(q;a)es1o08q2Q
caso,Tdisponetambien<strong>de</strong>unacinta<strong>de</strong>salidaenlaquevaescribiendo[42].Elestadoinicialesq0, entradaseleesmboloasmbolo,procediendo<strong>de</strong>izquierdaa<strong>de</strong>recha.Lafuncion<strong>de</strong>transicion,,esla que<strong>de</strong>terminaelmecanismo<strong>de</strong>operacion<strong>de</strong>T,yaqueproporciona,paralacombinacionestadoactual enlacinta<strong>de</strong>entradaaparecelafrase<strong>de</strong>entradax2+ylacinta<strong>de</strong>salidaestavaca.Lafrase<strong>de</strong> UntraductornitoTfunciona<strong>de</strong>unamaneramuysimilarala<strong>de</strong>lautomatanitosoloque,eneste
enposicionesconsecutivas,situandoseTenelestadocorrespondiente(segunlaseleccionefectuada)yel cabezal<strong>de</strong>escrituraenlasiguienteposicionvaca<strong>de</strong>dichacinta.Sedicequelafrasexesaceptadapor posible<strong>de</strong>alternativasparaseleccionarelsiguienteestadoenquesevaaencontrarTylaca<strong>de</strong>na<strong>de</strong>salida quevaaserescritaenlacinta<strong>de</strong>salida.Laca<strong>de</strong>na<strong>de</strong>salidaseleccionadaseescribeenlacinta<strong>de</strong>salida enqueseencuentraTysmbolo<strong>de</strong>entradaquevaaserledo(otambienelsmbolonulo),elconjunto
Tsiesposible,partiendo<strong>de</strong>q0,leertodoslossmbolos<strong>de</strong>x,parandoencualquiera<strong>de</strong>losestadosnales oaceptores<strong>de</strong>Z.SilafrasexesaceptadaporT,sedicequelafraseyquesehaescritoenlacinta<strong>de</strong> salidaesunatraduccionregular<strong>de</strong>x,<strong>de</strong>maneraqueelpar(x;y)constituyeunpar<strong>de</strong>traduccion.Sila frasexnoesaceptadaporT,entoncesnoesposible3realizarningunatraduccion<strong>de</strong>x.Laca<strong>de</strong>navaca espontaneos. pue<strong>de</strong>seraceptadaytraducidaporTigualmente,porejemplo,siq02Zomediantecambios<strong>de</strong>estado unafrase<strong>de</strong>salida,sinnecesidad<strong>de</strong>leerningunsmbolo<strong>de</strong>entrada.Inclusoavecesesposiblenoescribir permitenqueTpuedarealizartraduccionesentrefrasescondiferentenumero<strong>de</strong>smbolos.Enelcaso masgeneral,pue<strong>de</strong>ocurrirqueexistanvariastraduccionesposiblesparax,correspondiendoseestasa nadaenlacinta<strong>de</strong>salida,peseahaberledounsmbolo<strong>de</strong>entrada.Sonestascaractersticaslasque Notesequeuntraductornitoescapaztanto<strong>de</strong>cambiarespontaneamente<strong>de</strong>estado,como<strong>de</strong>generar
etiquetadosporunparsmbolo<strong>de</strong>entrada,ca<strong>de</strong>nacorrespondiente<strong>de</strong>salida. distintoscaminos<strong>de</strong>aceptacion<strong>de</strong>xenT.RepresentaremosT<strong>de</strong>lamismaformaquesemostroenla gura2.1paraelcaso<strong>de</strong>automatasnitos.Launicadiferenciaesque,enestecaso,losarcosestaran
2.2.5TraductoresSubsecuenciales traductoressubsecuenciales.Finalmentepasamosa<strong>de</strong>niresteformalismo. Enestatesisvamosautilizaruncasoparticular<strong>de</strong>traductornito,concretamenteutilizaremos
resi<strong>de</strong>enqueexistenecientesalgoritmosparaapren<strong>de</strong>rlosapartir<strong>de</strong>unconjunto<strong>de</strong>aprendizaje[62, <strong>de</strong>laformafrase<strong>de</strong>llenguajeorigen-correspondientetraduccionenellenguaje<strong>de</strong>stino.Formalmente 63,64].Altratarse<strong>de</strong>traductores,losconjuntos<strong>de</strong>aprendizajeestarancompuestosporpares<strong>de</strong>frases untraductorsubsecuencialTSesunatuplaTS=(Q;;;E;q0;),siendoQ,,yq0lomismoque Lostraductoressubsecuencialesconstituyenunaclase<strong>de</strong>ntro<strong>de</strong>lostraductoresnitos.Suinteres
enla<strong>de</strong>nicion<strong>de</strong>traductornitoy,enestecaso4
queseras,mejorandosenotablemente,enmuchasocasiones,lasprestaciones<strong>de</strong>lsistema<strong>de</strong>traduccion. subsecuencialessontraductoresnitos<strong>de</strong>terministas.
4Realmenteesta<strong>de</strong>nicionesequivalentealautilizadaparatraductoresnitos.Lounicoquesuce<strong>de</strong>esquelostraductores 3Comoveremosenloscaptulos7y8,graciasalautilizacion<strong>de</strong>t<strong>ecnicas</strong><strong>de</strong>correccion<strong>de</strong>errores,estoyanotienepor Eesunconjunto<strong>de</strong>arcosoaristas,EQ Q.E\representa"lafuncion<strong>de</strong>transicion,

2.2.CONCEPTOSBASICOS 15
entonces,y=x^q=q0.Estoesloquese<strong>de</strong>nominalacondicion<strong>de</strong><strong>de</strong>terminismo. ,dadaenla<strong>de</strong>nicion<strong>de</strong>traductornito.Secumpleque,si(p;a;y;q)2E^(p;a;x;q0)2E, Figura2.2:Ejemplo<strong>de</strong>traductorsubsecuencial.
especicarZenla<strong>de</strong>nicion<strong>de</strong>traductornito,soloque,a<strong>de</strong>mas,losestadosnalesemitiranuna ca<strong>de</strong>napertenecientea. estadosparaloscualesesta<strong>de</strong>nida,se<strong>de</strong>nominanestadosnales<strong>de</strong>ltraductor.Estoequivalea ,:Q!esunafuncionparcial<strong>de</strong>emision<strong>de</strong>ca<strong>de</strong>nasenlosestados<strong>de</strong>ltraductor.Aquellos
concatenaalnal<strong>de</strong>laca<strong>de</strong>naque,hastaelmomento,habaescritaenlaca<strong>de</strong>na<strong>de</strong>salida.Lacondicion <strong>de</strong><strong>de</strong>terminismoimplicaquenopue<strong>de</strong>existirmasqueuncamino<strong>de</strong>aceptacionvalidoenTSparaxy laca<strong>de</strong>na<strong>de</strong>entradaxyseparaenunestadonalaceptandola,a<strong>de</strong>masemiteunaca<strong>de</strong>na5quese que,porconsiguiente,solopue<strong>de</strong>existir,comomucho,unaunicatraduccionparax. Elfuncionamiento<strong>de</strong>TSesanalogoal<strong>de</strong>ltraductornito.Noteseque,cuandoTStermina<strong>de</strong>leer
TS.Porejemplo,elmo<strong>de</strong>lo<strong>de</strong>estadosnitosquegenera/aceptaaL1tendralamismaestructura<strong>de</strong>TS. Lounicoquehabraquehacerseraeliminarlasca<strong>de</strong>nas<strong>de</strong>salidaasociadasalosarcosyalosestados portantomediantemo<strong>de</strong>los<strong>de</strong>estadosnitos.Dichosmo<strong>de</strong>lospue<strong>de</strong>nobtenersefacilmenteapartir<strong>de</strong> unlenguaje<strong>de</strong>salida<strong>de</strong>stino,L2.TantoL1comoL2sonlenguajesregulares,siendorepresentables NotesequeTS<strong>de</strong>ne,engeneral,unafuncionparcialentreunlenguaje<strong>de</strong>entradaorigen,L1 ,y
nales,loscualesseguiransiendonalesenelautomata.
correspondiente.ElconjuntoE<strong>de</strong>aristas(transiciones<strong>de</strong>ltraductor)serepresentamediantelosarcos semarcaelcorrespondientenodomedianteunadoblelnea<strong>de</strong>contornoyseetiquetaconlasalida enforma<strong>de</strong>grafo,talcualsemuestraenlagura2.2.Aligualqueparaautomatasnitos,cada nodo<strong>de</strong>lgraforepresentaunestado<strong>de</strong>ltraductor.Sielestadotienesalidaasociada,ergoesnal, Enloquesigue,cuandohablemos<strong>de</strong>traductoressubsecuencialesnosreferiremosasurepresentacion
existe. <strong>de</strong>lgrafo,etiquetandolosconelparsmbolo<strong>de</strong>entrada/ca<strong>de</strong>na<strong>de</strong>salidaasociada.Finalmente,elestado
Inferencia<strong>de</strong>TraductoresSubsecuenciales inicialsemarcaconunaecha,etiquetadaconunprejocomunatodaslasca<strong>de</strong>nas<strong>de</strong>entrada,siesque
traductoresnitoso<strong>de</strong>,engeneral,mo<strong>de</strong>los<strong>de</strong>estadosnitos.Unarevision<strong>de</strong>metodos<strong>de</strong>inferenciase pue<strong>de</strong>encontraren[75].Pero,porsuimportancia,valelapena<strong>de</strong>stacarlossiguientestrabajosreferentes alainferenciaautomatica<strong>de</strong>traductoressubsecuenciales: Noeselobjetivo<strong>de</strong>estatesiselestudio<strong>de</strong>metodos<strong>de</strong>inferencia<strong>de</strong>gramaticasregulares,automatas,
5Que,comoellectorhabraapreciado,pue<strong>de</strong>serlaca<strong>de</strong>navaca.
(OnwardSubsequentialTransducerInferenceAlgorithm)en[62,63].Siguiendoelmarcoformal Lapresentacion<strong>de</strong>lalgoritmo<strong>de</strong>aprendizaje<strong>de</strong>traductoressubsecuencialesconocidocomoOSTIA
un/a
triangulo/λ
cuadrado/λ
triangle
square
gran<strong>de</strong>/large triangle
gran<strong>de</strong>/large square
λ

16propuestoporlateora<strong>de</strong>aprendizajeenellmite[41],enestostrabajosseconcluye,comoprincipal CAPITULO2.MISCELANEA
subsecuencialestotalessepue<strong>de</strong>i<strong>de</strong>nticarenellmiteapartir<strong>de</strong>unamuestrapositivacompuesta<strong>de</strong> resultadoteorico,<strong>de</strong>mostrandoque,empleandoOSTIA,laclasecompuestaporlastraducciones pares<strong>de</strong>frasesentrada-salida.Es<strong>de</strong>cir,queOSTIAescapaz<strong>de</strong>obtenereltraductorsubsecuencial
origen(dominio)y<strong>de</strong>stino(rango)pararealizarlasmezclas<strong>de</strong>estados[64].Estaversionseconoce a<strong>de</strong>lantadomnimo,querealizacualquiertraduccionsubsecuencialtotalapartir<strong>de</strong>unconjunto<strong>de</strong> aprendizajelosucientementegran<strong>de</strong>. Lapresentacion<strong>de</strong>unaversion<strong>de</strong>OSTIAqueutilizarestriccionessintacticassobreloslenguajes
pobres.Po<strong>de</strong>mosencontrarunaexplicacion<strong>de</strong>tallada<strong>de</strong>estefenomenoen[28]. traductorsubsecuencialresultanteseobtienenparaloslenguajes<strong>de</strong>entradaysalida,sonbastante construireltraductorsubsecuencialobjetivo.Dichoconotraspalabras,losmo<strong>de</strong>losnitosque<strong>de</strong>l comoOSTIA-DR(OSTIAconDominioyRango).Conellasesolucionaelproblemaquetiene OSTIA,dadasuten<strong>de</strong>nciaasobregeneralizarlomasquepue<strong>de</strong>loslenguajes<strong>de</strong>entradaysalidaal
MejoradoEmpleandoGarantasyAlineamientos)conexperimentosque<strong>de</strong>muestransubondad (encuantoareduccion<strong>de</strong>lnumero<strong>de</strong>muestras<strong>de</strong>aprendizajenecesariasparaobtenerbuenos Precisamenteen[78]seintroduceunanuevaversion<strong>de</strong>OSTIA,elalgoritmoOMEGA(OSTIA estadsticos<strong>de</strong>traduccion,paramejorarlainferencia<strong>de</strong>traductoressubsecuencialesen[81,80,78]. El<strong>de</strong>sarrollo<strong>de</strong>unaserie<strong>de</strong>t<strong>ecnicas</strong>basadasenlautilizacion<strong>de</strong>categoraslexicasymo<strong>de</strong>los
traductoressubsecuencialesymejora<strong>de</strong>laestructurainferidaens)enaplicaciones<strong>de</strong>interesen
2.2.6Mo<strong>de</strong>losEstocasticos<strong>de</strong>EstadosFinitos dominiossemanticosrestringidos.
Q,,yq0lomismoqueenla<strong>de</strong>nicion<strong>de</strong>automatanitoy,enestecaso Unautomatanitoestocastico(yasea<strong>de</strong>terministaono)esunatuplaFE=(Q;;;q0;; ,:Q Q!

consistenteinduceunamedida<strong>de</strong>probabilidadsobre 2.3.DEFINICIONDELPROBLEMA comoespaciomuestral<strong>de</strong>sucesos,enelcualun 17
existeunaasimetraentreelpo<strong>de</strong>rgenerador<strong>de</strong>unagramaticaregularestocasticayelpo<strong>de</strong>raceptor sucesoesunaocurrencia<strong>de</strong>unaca<strong>de</strong>na[42]. diferencia<strong>de</strong>loqueocurreconlenguajesnoestocasticoso,engeneral,nopon<strong>de</strong>rados(veaseteorema2.1), <strong>de</strong>unautomatanitoestocastico[42].Ellose<strong>de</strong>bealhecho<strong>de</strong>quetodolenguajeestocasticogenerado porunagramaticaregularestocasticaesreconocibleporalgunautomatanitoestocastico,peronoa Hayquetenerencuentala<strong>de</strong>nicionquehemosdado<strong>de</strong>automatanitoestocasticoyaque,a
lainversa[42].Elproblemahasidoestudiadoen[26].Esteinconveniente<strong>de</strong>saparecesiutilizamosla <strong>de</strong>nicionquehemosdadopararepresentarlosmo<strong>de</strong>losestocasticos<strong>de</strong>estadosnitos(yaseangramaticas, yaseanautomatas)queutilizaremosenelresto<strong>de</strong>lapresentetesis. sulenguaje<strong>de</strong>entrada,utilizandosolamenteunconjunto<strong>de</strong>aprendizajeformadoporfrases<strong>de</strong>entrada. Dichoautomataestocastico,a<strong>de</strong>mas,<strong>de</strong>beraserconformeconla<strong>de</strong>nicionqueacabamos<strong>de</strong>darenesta enrealidad,altraductorsubsecuencialresultante<strong>de</strong>estimarlasprobabilida<strong>de</strong>s<strong>de</strong>lautomataaceptor<strong>de</strong> seccion. Porotraparte,cuandohablemos<strong>de</strong>traductoressubsecuencialesestocasticos6,nosestamosreriendo,
2.2.7ComentariosFinales tesis: Pasamosaenumeraralgunoscomentariosque<strong>de</strong>benmantenersepresentesdurantelalectura<strong>de</strong>esta
1.Existennumerosast<strong>ecnicas</strong><strong>de</strong>inferenciainductiva<strong>de</strong>mo<strong>de</strong>los<strong>de</strong>estadosnitos(inclusoestocas-
2.Siemprequehablemos<strong>de</strong>gramaticasregulares,automatas,traductoressubsecuenciales,engeneral, ticos).Estosmo<strong>de</strong>losofrecenbuenasprestacionesensuaplicacionatareas<strong>de</strong>dominiorestringido
mo<strong>de</strong>los<strong>de</strong>estadosnitos,nosreferiremosalmo<strong>de</strong>loresultanterepresentadoenforma<strong>de</strong>grafotal (inclusoentareas<strong>de</strong>traduccionautomatica)[39,25,75,74].
3.Equivalentemente,cuandohablemos<strong>de</strong>mo<strong>de</strong>losestocasticos<strong>de</strong>estadosnitosengeneral,nos referiremosalgraforesultante,conpesos(querepresentanprobabilida<strong>de</strong>s)asociadosasusaristas. cualsemuestraenlasguras2.1y2.2.
Des<strong>de</strong>estepunto<strong>de</strong>vista,elmo<strong>de</strong>loprobabilsticoresultante<strong>de</strong>beserconformeconla<strong>de</strong>nicion <strong>de</strong>automatanitoestocasticodadaenlaseccionanterior.
dicacion<strong>de</strong>lainformacionenviadaatraves<strong>de</strong>uncanalruidoso: 2.3Elproblemasobreelcualgiralapresentetesis,sepue<strong>de</strong>planteargenericamentecomoel<strong>de</strong>la<strong>de</strong>sco Denicion<strong>de</strong>lProblema
6Permtasenosestepeque~noabuso<strong>de</strong>llenguaje,aunquemejorsera<strong>de</strong>circonprobabilida<strong>de</strong>s.

18 uncanal,C.Lasca<strong>de</strong>nasquecontienenlosmensajesquepue<strong>de</strong>enviarE,songeneradas \Seaunsistema,S,don<strong>de</strong>unemisor,E,envamensajesaunreceptor,R,pormedio<strong>de</strong> CAPITULO2.MISCELANEA
utilizandola<strong>de</strong>scripcion<strong>de</strong>llenguajefuente,F.SupongamosqueEenvaunmensajea ca<strong>de</strong>nax,posiblementedistintaay.Seha<strong>de</strong>dise~narun<strong>de</strong>scodicadorDelcual,apartir <strong>de</strong>x,obtengaunaestimacion<strong>de</strong>lmensajeoriginalmenteenviado,teniendoencuentanosolo la<strong>de</strong>scripcionF(lacualesconocidaporR),sinotambienlascaractersticas<strong>de</strong>lruidoo R,contenidoenlaca<strong>de</strong>nay,atraves<strong>de</strong>C.Sinembargo,laca<strong>de</strong>naquerecibeResla
lenguajefuenteFes,engeneral,unmo<strong>de</strong>lo<strong>de</strong>estadosnitos.Asumiremosqueelfuncionamiento<strong>de</strong> Comoyasabemos,ennuestrocasonoscentraremosensistemasparaloscualesla<strong>de</strong>scripcion<strong>de</strong>l distorsionque,posiblemente,puedaintroducirC."
compren<strong>de</strong>ninserciones,borradosysustituciones<strong>de</strong>smbolospertenecientesalalfabeto<strong>de</strong>Fyque,a Cpue<strong>de</strong><strong>de</strong>scribirsemedianteunconjunto<strong>de</strong>operaciones,comunmente<strong>de</strong>nominadas<strong>de</strong>edicion,que
<strong>de</strong>Cse<strong>de</strong>scribemediantetrestiposdistintos<strong>de</strong>operaciones<strong>de</strong>transformacion: ca<strong>de</strong>na[38],T: continuacion,pasamosa<strong>de</strong>scribir. Paraexplicarelfuncionamiento<strong>de</strong>C,<strong>de</strong>bemosintroducirelconcepto<strong>de</strong>transformacion<strong>de</strong>una
1.T(z1J1azJ+1)`z1J1bzJ+18J:1Jjzj^8a;b2 `.Seaunaca<strong>de</strong>nacualquieraz2;z=z1z2:::zjzj=z1.Elfuncionamiento
2.T(z1J1azJ+1)`z1J1zJ+18J:1Jjzj^8a2 3.T(z1J1zJ)`z1J1bzJ8J:1Jjzj^8b2
conelhecho<strong>de</strong>quelatransmision<strong>de</strong>lainformacionporelcanalhayasidocorrecta(noerror).Las smbolos(a;b)pertenecientesa,incluyendoelcasoparticularenquea=b.Estecasosecorrespon<strong>de</strong> transformaciones<strong>de</strong>ltipo2y<strong>de</strong>ltipo3mo<strong>de</strong>lan,respectivamente,elerror<strong>de</strong>borradoy<strong>de</strong>insercion<strong>de</strong> cualquiersmbolo<strong>de</strong>.Notesequelostrestipos<strong>de</strong>transformacionessonin<strong>de</strong>pendientes<strong>de</strong>laposicion<strong>de</strong> Lastransformaciones<strong>de</strong>ltipo1mo<strong>de</strong>lantodoslosposibleserrores<strong>de</strong>sustitucionentrecualquierpar<strong>de</strong>
(\;b);8b2;b6=\. laca<strong>de</strong>naenlaquesehayanproducido.Dehecho,cadauna<strong>de</strong>estasoperaciones<strong>de</strong>transformacionactua sobreunparconcreto<strong>de</strong>smbolospertenecientesa,incluyendo,talcualcomentamosenlaseccion2.2.1 tipo2actuansobrepares<strong>de</strong>laforma(a;\);8a2;a6=\ylas<strong>de</strong>tipo3actuansobrepares<strong>de</strong>laforma a\,elsmbolonulo.Las<strong>de</strong>tipo1actuansobrepares<strong>de</strong>laforma(a;b);8a;b2;a6=\^b6=\;las<strong>de</strong>
queelmensajeoriginalseacambiadoporelcanalalrealizardichaoperacion.Dichocosteestarealmente asociadoconlossmbolossobrelosqueactualatransformacionconcretaempleadaporelcanal.Para asignarelcoste<strong>de</strong>latransformacionsubyacenteparacadapar(a;b)<strong>de</strong>smbolos<strong>de</strong>,utilizaremosla funcion,lacualobe<strong>de</strong>cealsiguienteperl: Cadauna<strong>de</strong>estasoperaciones<strong>de</strong>transformacionllevaasociadouncoste,elcualcomportaelhecho<strong>de</strong>
enlatransformacionT(y)`x. a=b=\.Elcoste<strong>de</strong>unatransformacionvendra<strong>de</strong>terminadoporlafuncion,conperl:T!

2.3.DEFINICIONDELPROBLEMA yn=x.Resultaobvioque,sin=0,entoncesTI(y)`y.Elcoste<strong>de</strong>unaaplicacionsucesiva<strong>de</strong>transfor- 19
apartir<strong>de</strong>y,TI(y)`x8I2S,entonces<strong>de</strong>nimoslafuncion<strong>de</strong>disimilitu<strong>de</strong>ntredosca<strong>de</strong>nascomo macionesse<strong>de</strong>necomo:TT:::T!

20Enelmismotrabajo<strong>de</strong>WagneryFischerpue<strong>de</strong>encontrarseelalgoritmoque\recupera"elcamino<strong>de</strong> CAPITULO2.MISCELANEA
hanpublicadonumerosasversiones<strong>de</strong>estealgoritmo,algunas<strong>de</strong>ellasintentandoreducirlacomplejidad <strong>de</strong>lcalculo(proporcionalajxjjyj),otrasutilizandolocomobaseparanuevosalgoritmosqueresuelven otrosproblemas.Encualquiercaso,po<strong>de</strong>mosencontrarunexcelentemuestrarioen[69]. mnimocoste,mostrandolasecuencia<strong>de</strong>operaciones<strong>de</strong>edicionutilizadas(Isegunnuestranotacion).Se
paralatransmisioncorrecta<strong>de</strong>lainformacionporelcanal,es<strong>de</strong>cir(a;a)=0;8a2.Basicamente 1paralasoperacionesqueimplicanerror,es<strong>de</strong>cir(\;b)=(a;\)=(a;b)=1;8a;b2;a6=b,y0 engrancantidad<strong>de</strong>situaciones[69],<strong>de</strong>stacandoporsuelevadautilizacionendiversosproblemaslallamadadistancia<strong>de</strong>Levenshtein[53]queasigna,paracadaposibleoperacion<strong>de</strong>lcanal,lossiguientespesos: Lospesos<strong>de</strong>lascorrespondientesoperaciones<strong>de</strong>edicionhansidojadosapriori,<strong>de</strong>formaheurstica,
militu<strong>de</strong>ntrexey.Sinembargo,enlarealida<strong>de</strong>lfuncionamiento<strong>de</strong>lcanalpue<strong>de</strong>resultarmuchomasestaaproximacionconsisteenutilizarelcriterio<strong>de</strong>l\menornumero<strong>de</strong>errores"comofuncion<strong>de</strong>disi- complicado.Aesterespecto,trabajosposterioressugirieronlaconveniencia<strong>de</strong>utilizarelmarcoformal <strong>de</strong>laestadstica,paramo<strong>de</strong>larelcomportamiento<strong>de</strong>lcanalruidoso[72,42,38]. Elmo<strong>de</strong>lo<strong>de</strong>Ctambienseraestocastico,<strong>de</strong>talformaqueobe<strong>de</strong>zcaalsiguienteperl:: Enestecaso,Fseraunautomatanitoestocasticosegunla<strong>de</strong>nicionquedimosenlaseccion2.2.6.
transformacionesdistintasqueproducenxapartir<strong>de</strong>y,laprobabilidad<strong>de</strong>queelcanalCproduzcaxa [0::1]^P8b2(a;b)=18a2[38].Enestecaso,lafuncionqueda<strong>de</strong>nidacomolaprobabilidad<strong>de</strong> unaaplicacionsucesiva<strong>de</strong>transformaciones(es<strong>de</strong>cir,comolaaplicacion<strong>de</strong>unasecuencia<strong>de</strong>operaciones <strong>de</strong>error):(TI(y))=Qni=1(Ti(yi1)).Portanto,siendonuevamenteSelconjunto<strong>de</strong>secuencias<strong>de</strong> !
aprendizajeinductivopararealizarunacorrectaestimacion<strong>de</strong>losparametros<strong>de</strong>.Enelsiguiente captuloabordaremoseldise~no<strong>de</strong>l<strong>de</strong>scodicadorDque,ennuestrocaso,noesmasqueunanalizador partir<strong>de</strong>yseraPC(xjy)=P8I2S(TI(y)).
sintacticocorrector<strong>de</strong>erroresparamo<strong>de</strong>los<strong>de</strong>estadosnitos.Peroantesalgunosconceptospreviosque esnecesarioexponer. Precisamenteenestatesisvamosaocuparnos,enbuenamedida,<strong>de</strong>laaplicacion<strong>de</strong>t<strong>ecnicas</strong><strong>de</strong>
2.4 <strong>de</strong>estadosnitos,F,<strong>de</strong>nuestrosistemaS.Enestaseccionasumiremosquex2L(F)y,enconsecuencia, Elproblemaquenosplanteamosesel<strong>de</strong>analizarsintacticamenteunafrase,x,utilizandoelmo<strong>de</strong>lo AnalisisSintactico
pue<strong>de</strong>existirmas<strong>de</strong>unasecuencia<strong>de</strong>transicionesenFquepermitanaceptarx.Ennuestrocasoesto general<strong>de</strong>ltemadon<strong>de</strong>Fnosolopue<strong>de</strong>serno<strong>de</strong>terminista,sinoa<strong>de</strong>masambiguo.Estosignicaque consi<strong>de</strong>raremosqueelfuncionamiento<strong>de</strong>Cestalibre<strong>de</strong>errores.Portantoestamosinteresadosen <strong>de</strong>terminarlasecuencia<strong>de</strong>transicionesquesigueFparaaceptarx.Asumiremosunplanteamiento daigualycualquiera<strong>de</strong>loscaminos<strong>de</strong>aceptacionenFparaxnosresultaraigualmentevalido.
lalectura<strong>de</strong>captulosposteriores,presentarelalgoritmoutilizandola<strong>de</strong>scripcionalgortmica2.Notese aparicion.Noesnuestraintencionprofundizarenuntematantrilladoya,peros<strong>de</strong>bemos,parafacilitar <strong>de</strong>artculossobreeltema,pero<strong>de</strong>stacaremos[59]comounbuen\tutorial",siendoa<strong>de</strong>mas<strong>de</strong>reciente <strong>de</strong>Fquepermitenaceptarx,escomunmenteconocidocomoalgoritmo<strong>de</strong>Viterbi[37].Existenmultitud Elalgoritmoquepermiteobtenerunacualquieraentrelasposiblessecuencias<strong>de</strong>transiciones(caminos)
quelacomplejidadtemporal<strong>de</strong>estealgoritmoesO(jxjjQjB)7,siendoBelfactormaximo<strong>de</strong>ramicacion enF.Sucomplejida<strong>de</strong>spacialesO(jxjjQj).Aunquelacotasuperior(enelpeor<strong>de</strong>loscasos)para 7MasconcretamenteO(jxjna),siendonaelnumero<strong>de</strong>arcos<strong>de</strong>F[59].

lacomplejidadtemporalnopue<strong>de</strong>sermejorada,ses<strong>de</strong>esperarque,empleandounalista<strong>de</strong>estados 2.4.ANALISISSINTACTICO 21
visitadosenvez<strong>de</strong>recorrersesiemprelalistaQ<strong>de</strong>estados<strong>de</strong>F,hayaunareduccionsignicativaenel casopromedio.Lacomplejida<strong>de</strong>spacialsereducesinoqueremosrecuperarlasecuencia<strong>de</strong>transiciones Algoritmo2Algoritmo<strong>de</strong>Viterbi.Obtieneunaentrelassecuencias<strong>de</strong>transicionesquepermitenque quehemosseguidoenFparaaceptarx. Faceptex.A<strong>de</strong>mas<strong>de</strong>vuelveciertoofalsosegunxseaaceptadaporFono. 1:Entrada 2:F=(Q;;;q0;Z),x2; 3:Salida
8:parai=0hastajxjhacer 7:Metodo 5:Variables 6:i:entero;q;q0:Q;sigue:fcierto;falsog;trellis:vector0::jxj;jQj<strong>de</strong>(Q;); 4:C:Lista<strong>de</strong>(Q;);
10: 11: 12: 13:parai=1hastajxjhacer 9: paratodoq2Qhacer
14: npara paratodoq2Qhacer npara trellisi;q=(nulo;nulo);
15: 16: 17: 18: 19: paratodoq02(q;xi)hacer
20:paratodoq2Zhacer npara
trellisi;q0=(q;xi);fguardamos\punteros"haciaatrasg
22: 23: 21: mientrassiguehacer C=(q;nulo);i=jxj;sigue=cierto;
26: 27: 24: 25: sii=0^q=q0entonces
28: sino sinositrellisi;q=(nulo;nulo)entonces sigue=falso; append(C,trellisi;q);i=i1;q=primero(trellisi;q); invierte(C);<strong>de</strong>vuelvecierto;
29: 30: 31: 32:<strong>de</strong>vuelvefalso; npara nmientras nsi
entradaquesevaaanalizarycadaarco<strong>de</strong>ltrellis,tk=(qik;qjk+1),representaunatransicionentreel tienelaestructura<strong>de</strong>ungrafomultietapadirigidoyacclico,don<strong>de</strong>cadanodoqjkcorrespon<strong>de</strong>aunestado qj<strong>de</strong>lmo<strong>de</strong>lonitoenlaetapak<strong>de</strong>analisis.Laetapakseasociaconunsmbolo,xk,<strong>de</strong>lafrase<strong>de</strong> Basicamenteestealgoritmorecorreuntrellis8asociadoaFyalaca<strong>de</strong>naaanalizarx.Estetrellis
estadoqipertenecientealaetapakyelestadoqjpertenecientealaetapak+1.Graciasalanaturaleza acclica<strong>de</strong>estegrafo,latecnicaparael<strong>de</strong>sarrollo<strong>de</strong>algoritmosconocidacomoprogramaciondinamica <strong>de</strong>nuestroagrado.
8Permtasenoslautilizacion<strong>de</strong>estapalabraextranjera,yaquelacorrespondientetraduccion(enrejado)noesenteramente

22 CAPITULO2.MISCELANEA
sepue<strong>de</strong>usarpararesolverelproblema<strong>de</strong>lanalisissintactico,dandocomoresultadonalelconocido
algoritmo<strong>de</strong>Viterbi.Lagura2.3muestraunejemplo<strong>de</strong>trellis.
A
B
C
Figura2.3:Trellisasociadoalautomata<strong>de</strong>lagura2.1.Enelsemuestraelcamino<strong>de</strong>aceptacionparala ca<strong>de</strong>na<strong>de</strong>entradaabb.
D
2.4.1AnalisisSintacticoEstocastico
a b b
probabilidad,permiteaceptarx.Perosiestamosinteresadosenlaprobabilidad(quenoelcamino)<strong>de</strong> <strong>de</strong>lodichoanteriormente.Enestecasobuscamoslasecuencia<strong>de</strong>transicionesenFque,conmayor aceptarx,entoncesesteplanteamientoyanoresultavalido,puestendremosquecalcularlaprobabilidad <strong>de</strong>todaslassecuencias<strong>de</strong>transicionesenFquepermitenaceptarxysumarlasparaobtenerelresultado Enelcasoenquenuestromo<strong>de</strong>loFseaestocastico,convienehaceralgunasmatizacionesrespecto
<strong>de</strong>seado,PF(x).Nosotrosaproximaremos,enestesupuesto,laprobabilidadreal,PF(x),medianteel calculo<strong>de</strong>laprobabilidad<strong>de</strong>lmejorcamino(elmasprobable)queaceptax.Nosreferiremosaesta aproximacionalaprobabilidadrealcomo^PF(x).
mismoesquema<strong>de</strong>\punteros"haciaatrasqueapareceenelalgoritmo2.Pararecuperarelcaminoens estaversion.Caso<strong>de</strong>que<strong>de</strong>seemosrecuperarelcamino<strong>de</strong>maximaprobabilida<strong>de</strong>nF,emplearamosel utilizaramosunbuclesimilaralquesemuestraenlaslneas2031<strong>de</strong>dichoalgoritmo.Enestecaso <strong>de</strong>lcaminomasprobablequepermiteaceptarxenF.Elalgoritmo3dauna<strong>de</strong>scripcion<strong>de</strong>tallada<strong>de</strong> Nuevamenteutilizamoselalgoritmo<strong>de</strong>Viterbi,estavezparaobtenerlaprobabilidadopuntuacion
Conelloes<strong>de</strong>esperarunareduccionsignicativaenelcasopromedio,yaquesoloseinspeccionanlos
introducidolavariante,comentadaconanterioridad,consistenteenutilizarunalista<strong>de</strong>estadosvisitados. noharafaltarecorrersetodoslosestadosnales,sinosimplementeseleccionarelestadonal<strong>de</strong>mayor probabilidadyrecuperarelcaminocorrespondientesiguiendolospunteros.Caso<strong>de</strong>quelaprobabilidad fueseceroentodoslosestadosnales,laca<strong>de</strong>naxnoseraaceptadaporF.Enestealgoritmohemos

estadosquepue<strong>de</strong>nseguirnuevosarcosenlaetapaactual<strong>de</strong>analisis9.Noobstante,lacomplejidad 2.4.ANALISISSINTACTICO 23
temporalenelpeor<strong>de</strong>loscasossiguesiendoO(jxjjQjB).Enestecaso,puestoquenoqueremos recuperarelcamino,lacomplejida<strong>de</strong>spacialesO(jQj). Algoritmo3Algoritmo<strong>de</strong>Viterbiparacalcularlaprobabilidad<strong>de</strong>queFaceptex. 1:Entrada
6:Z=;; 5:Metodo 4:i:entero;q;q0:Q;P1;P2:vectorjQj<strong>de</strong>

24 mejoresparalareduccionconcreta<strong>de</strong>lproblemageneralqueresuelven.Existenvarioscriterios<strong>de</strong>poda CAPITULO2.MISCELANEA
basadosenla<strong>de</strong>nicion<strong>de</strong>umbralesheursticos[56]: 1.Consi<strong>de</strong>rarsolamentelosNcaminos<strong>de</strong>mayorpuntuacion.Noesutil,yaquelacargacomputacional
2.Consi<strong>de</strong>raraquelloscaminosparcialescuyapuntuacionesmejorqueuna<strong>de</strong>terminadacota.Nor- resultantealtenerqueor<strong>de</strong>nartodosloscaminosparciales<strong>de</strong>ltrellis(segunsupuntuacion)es
malmenteestacotaresulta<strong>de</strong>sumarlealapuntuacion<strong>de</strong>lmejorcaminoenunaetapa<strong>de</strong>ltrellis,una excesiva.
todosloscaminosposiblesencadaetapa<strong>de</strong>ltrellispara,as,po<strong>de</strong>rhallarelmejor. previamente,siendolosucientementegran<strong>de</strong>comoparaquelaprobabilidad<strong>de</strong>excluirelmejor caminoglobalseamuybaja.Suinconvenienteresi<strong>de</strong>enqueesnecesariocalcularlapuntuacion<strong>de</strong> constanteque,ena<strong>de</strong>lante,<strong>de</strong>nominaremoslaanchura<strong>de</strong>lhazo.Estaconstante<strong>de</strong>beestimarse
3.Utilizarelcriterioanteriorimplementandolomedianteunmecanismo<strong>de</strong>podasimultanea[73,68]. Haremosexactamentelomismoquesehaespecicadoparaelcriterioanteriorsoloque,eneste caso,utilizaremosenlapodalapuntuacion<strong>de</strong>lmejorcaminoanalizadohastaelmomento(encada
<strong>de</strong>laimplementacionestricta<strong>de</strong>laBHsugeridaporelsegundo.Sobretodoporque,cuandocalculamos Aprimeravista,pue<strong>de</strong>pensarsequeeltercercriteriovaafuncionarmuchopeor<strong>de</strong>loqueresultara etapa<strong>de</strong>ltrellis).Estehasidoelcriterioquehemosutilizadoenestatesis.
lapuntuacion<strong>de</strong>lprimercaminoenunaetapa<strong>de</strong>terminada<strong>de</strong>ltrellis,po<strong>de</strong>mosobtenerunvalor<strong>de</strong> poda<strong>de</strong>masiadoalto,alestarloscaminos<strong>de</strong>sor<strong>de</strong>nados.Estoseevitacalculandosiempreenprimer lugar,lapuntuacion<strong>de</strong>losnuevoscaminosquegeneraelmejorcaminoobtenidoenlaetapaanterior.
losestados<strong>de</strong>Fdirectamentealcanzablesporelestadoquesea~nadioenultimolugaralmismo[73,68]. eciencia<strong>de</strong>lalgoritmoresultantequedangarantizadas[73].Pienseseque,enlagranmayora<strong>de</strong>loscasos, elcaminomejorpuntuadoencadaetapa,seraelqueresulte<strong>de</strong>a~nadirleal<strong>de</strong>laetapaanterior,uno<strong>de</strong> mejorpuntuacion.Ellonogeneraningunacargacomputacionaladicionaly,enlapractica,larapi<strong>de</strong>zyla Paraellosesugierereservarelprimerlugar<strong>de</strong>lalista<strong>de</strong>sor<strong>de</strong>nada<strong>de</strong>caminospuntuadosparael<strong>de</strong>
elproximocaptulo.Acontinuacion,presentamosallectorelalgoritmo4,resultante<strong>de</strong>modicarel suimplementacion.Lacomplejida<strong>de</strong>spacialsiguesiendoO(jQj)(seguimosasumiendoquenoqueremos algoritmo3parautilizarBHseguneltercercriterioysiguiendoloscomentariosefectuadosacerca<strong>de</strong> mente[73],y[68].Nosotroslahemosutilizadoconmasomenossutilezas,talcomosecomentaraenNoeselobjetivo<strong>de</strong>estatesisevaluarlasprestaciones<strong>de</strong>laBH.Paraelloconsultese,fundamental- recuperarelcamino),aunqueenestecasolacomplejidadtemporalesO(jxjVB),siendoVelnumero maximo<strong>de</strong>estadosvisitadosconsi<strong>de</strong>randotodaslasetapas<strong>de</strong>ltrellis.SiV=jQj(yellopue<strong>de</strong>ocurrir frecuentementeenlasprimerasetapas<strong>de</strong>ltrellis)tenemoslamismacomplejida<strong>de</strong>nelpeor<strong>de</strong>loscasos.
losproblemas<strong>de</strong>bidosalaprecision<strong>de</strong>lcomputadorparaaritmeticaotante. Noobstanteesmuyprobableque,utilizandoBH,elcostepromedio<strong>de</strong>sciendaenormemente(inclusoenun 90%omas,veanse[73,10]yelcaptulo6<strong>de</strong>estatesis).Tambienqueremoshacernotaralpacientelector, estaformaconvertimosproductosensumasycambiamosmaximizacionesporminimizaciones,evitando queestealgoritmoutilizaellogaritmocambiado<strong>de</strong>signo<strong>de</strong>laprobabilidadparaefectuarloscalculos.De
elcaso<strong>de</strong>losalgoritmos<strong>de</strong>exploracion<strong>de</strong>trellisestipoA[45].Noobstante,lasprestacionesquecabe esperar<strong>de</strong>ambasaproximacionessonsimilaresenlapracticay,enmuchoscasos,lacomplejida<strong>de</strong>nla implementacion<strong>de</strong>unabusqueda<strong>de</strong>estetipofrenteala<strong>de</strong>laBH,hacequeseopteporestaultima.
Finalmente,quisieramoscomentarqueexistenotrasalternativasalautilizacion<strong>de</strong>laBH,comoes

2.5.ANALISISSINTACTICOCORRECTORDEERRORES Algoritmo4Algoritmo<strong>de</strong>Viterbiparacalcularlaprobabilidad<strong>de</strong>queFaceptexutilizandoBH. 25
1:Entrada
6:Metodo 5:i:entero;q;q0:Q;P1;P2:vectorjQj<strong>de</strong>

26 CAPITULO2.MISCELANEA
Alnal<strong>de</strong>laseccion2.3,comentabamoslaconveniencia<strong>de</strong>realizarunplanteamientoestocasticopara y=argmin y2L(F)D(x;y) (2.1)
<strong>de</strong>scribirelfuncionamiento<strong>de</strong>C.Des<strong>de</strong>estepunto<strong>de</strong>vista,pasamosaestarinteresadosenaquellafrase <strong>de</strong>L(F)que,conmayorprobabilidad,pudohabersidotransformadaporCenlafrasequerealmente corrector<strong>de</strong>errores<strong>de</strong>maximaverosimilitud[38],talquedadalafrasexrecibidaporR,suestimacion <strong>de</strong>lmensajeoriginalmenteenviadoporEsera: recibioR.Porconsiguiente,el<strong>de</strong>scodicadorDconsistiraenimplementarunanalizadorsintactico
es<strong>de</strong>cir,buscamosmaximizarlaprobabilidad<strong>de</strong>lafrasey,pertenecienteallenguaje<strong>de</strong>F,dadala y=argmax y2L(F)PFC(yjx) (2.2)
fraserecibidax,lacual,posiblemente,contieneerrores<strong>de</strong>bidosalatransmisionvaC.Alternativamente po<strong>de</strong>mosutilizarestaotraformulacomoresultado<strong>de</strong>aplicarlaregla<strong>de</strong>Bayes:
Enestecaso,PF(y)representalaprobabilidadquetieneF<strong>de</strong>generarlaca<strong>de</strong>nayo,dichoconotras y=argmax y2L(F)PF(y)PC(xjy) (2.3)
la<strong>de</strong>scripcion<strong>de</strong>llenguajefuenteF.PC(xjy)representalaprobabilidadconlaqueCprodujolaca<strong>de</strong>na xapartir<strong>de</strong>laca<strong>de</strong>nay.Quisieramoshacernotarque,talcomoseexplicoenlaseccion2.4.1,nosotros palabras,laprobabilidad<strong>de</strong>quelaca<strong>de</strong>naycontengaelmensajeoriginalmenteenviadoporE,utilizando emplearemoslaaproximaciontipo\Viterbi"(calculandolasprobabilida<strong>de</strong>smaximas)comoestimacion <strong>de</strong>lasprobabilida<strong>de</strong>sreales.Es<strong>de</strong>cir,vamosacalcularunasolucionaproximada(enelsentido\Viterbi")
basadaenelsimpleconteo<strong>de</strong>lnumero<strong>de</strong>erroresproducidosporelcanal[38,73,76,11,14,4,5]. <strong>de</strong>lasimplicidad<strong>de</strong>nuestraasuncionacerca<strong>de</strong>lfuncionamiento<strong>de</strong>lcanal,elmo<strong>de</strong>loestocasticoresulta a<strong>de</strong>cuarsemasalarealidadobservadaparamuchasinstancias<strong>de</strong>lproblemaplanteado,quelasolucion mayorprobabilidad,permitenaFaceptary,^PF(y)yencalcular^PC(xjy)=max8I2S(TI(y)).Apesar paralaecuacion2.3,lacualconsistiraencalcularlaprobabilidad<strong>de</strong>lasecuencia<strong>de</strong>transicionesque,con
habraquenormalizarelmo<strong>de</strong>loestocasticointegradoresultante,<strong>de</strong>talformaquesesigamanteniendo Bastacona~nadirlassiguientestransicionesaF[70].Siambosmo<strong>de</strong>loseranestocasticos,entonces lapropiedad<strong>de</strong>consistencia.Trataremosesteasuntounpocomasa<strong>de</strong>lante. Losmo<strong>de</strong>los<strong>de</strong>FyCsepue<strong>de</strong>nintegrarenununicomo<strong>de</strong>lo<strong>de</strong>estadosnitos<strong>de</strong>formasencilla[38].
8q2Q;8a2;a6=\:(q;a)=S;S22Q, a)(q;b)=S;8b2;b6=a;b6=\ b)(q;\)=S c)(q;c)=fqg;8c2;c6=\

2.5.ANALISISSINTACTICOCORRECTORDEERRORES Lastransiciones<strong>de</strong>ltipoa)mo<strong>de</strong>lanlosposibleserrores<strong>de</strong>sustitucionparaelsmboloquerealmente 27
smboloylastransiciones<strong>de</strong>ltipoc)mo<strong>de</strong>lanelerror<strong>de</strong>insercion<strong>de</strong>cualquiersmbolo<strong>de</strong>lalfabetoen cualquierestado<strong>de</strong>lautomata.Cadauna<strong>de</strong>estastransicionesllevaasociado,engeneral,un\peso"o costeproporcionadoporlafuncion.Notesequelatransmisioncorrecta<strong>de</strong>lainformacionatraves<strong>de</strong> Cvendrarepresentadaporlastransicionespropias<strong>de</strong>Fyconuncostea<strong>de</strong>cuadamentepon<strong>de</strong>radopor producelatransicionenelautomata;lastransiciones<strong>de</strong>ltipob)mo<strong>de</strong>lanelerror<strong>de</strong>borrado<strong>de</strong>dicho
tenerseencuentaqueestastransicionesnosea~na<strong>de</strong>nrealmenteaFalahora<strong>de</strong>realizarlabusqueda11, sinoqueseiranexpandiendosegunsenecesiten.Estaexpansionlaguaelsmbolo<strong>de</strong>lafrasexquese hayaledoenesemomento(yquesecorrespon<strong>de</strong>raconunaetapaconcreta<strong>de</strong>ltrellis). (a;a);8a2.Enelcaso<strong>de</strong>usarmo<strong>de</strong>losestocasticos,estospesosseranprobabilida<strong>de</strong>s.Tambien<strong>de</strong>be
piedad<strong>de</strong>consistencia,es<strong>de</strong>cirquePx2PFC(x)=1(veaselaseccion2.2.6).Enelmo<strong>de</strong>loque hemosplanteado,don<strong>de</strong>lospesos<strong>de</strong>pen<strong>de</strong>nexclusivamente<strong>de</strong>lossmbolosimplicadosenlaoperacion <strong>de</strong>transformacion,tendremosqueconsi<strong>de</strong>rarlassiguientesprobabilida<strong>de</strong>s: Silosmo<strong>de</strong>los<strong>de</strong>FyCsonestocasticos,sera<strong>de</strong>seablequeelmo<strong>de</strong>lointegradocumplieselapro-
probabilidad<strong>de</strong>latransicionreal<strong>de</strong>Fporlaprobabilidad<strong>de</strong>acertarconelsmboloa(sustituirlo seguidounatransicion<strong>de</strong>Fetiquetadaconelsmboloa.Sia=b,entoncesestamospon<strong>de</strong>randola (a;b)8a;b2;a6=\;b6=\representalaprobabilidad<strong>de</strong>sustituiraporb,suponiendoqueseha (\;a)8a2;a6=\representalaprobabilidad<strong>de</strong>insertarelsmboloaencualquierestado<strong>de</strong>F.
porsmismo).
Paralograrquelaintegracionproduzcaunmo<strong>de</strong>loconsistentehemosempleadoelmetodoque,a seguimosunatransicionetiquetadaconaenF. (a;\)8a2;a6=\representalaprobabilidad<strong>de</strong>borrarelsmboloa,<strong>de</strong>nuevosuponiendoque
continuacion,<strong>de</strong>tallamos[68].Parapo<strong>de</strong>rutilizarlo,esnecesariodisponer<strong>de</strong>lasfrecuencias<strong>de</strong>utilizacion <strong>de</strong>cadauna<strong>de</strong>lasposiblesoperaciones<strong>de</strong>error12:
enquea=b). Fr(a;b)representaelnumero<strong>de</strong>vecesquequesehasustituidoaporb,incluyendoelacierto(caso Fr(\;a)representaelnumero<strong>de</strong>vecesquesehainsertadoa.
Elcriterioheursticoutilizadoconsiste,pues,enrealizarlossiguientescalculos[68]: Fr(a;\)representaelnumero<strong>de</strong>vecesquesehaborradoa.
1.Calculamos
habraqueresolverparapo<strong>de</strong>raplicarecientementeelmecanismo<strong>de</strong>busquedaenaplicaciones<strong>de</strong>reconocimiento<strong>de</strong>l Frins=X
habla. 11Estaextensionresultaracostossima,computacionalmentehablando.Precisamenteesteeselproblemacentralque 8a2
12Ellonosuponeningunproblema,puestodoslosmetodos<strong>de</strong>estimacion<strong>de</strong>lasprobabilida<strong>de</strong>s<strong>de</strong>losparametros<strong>de</strong>C a6=nFr(\;a)
<strong>de</strong>sarrolladosenestatesis,<strong>de</strong>vuelvenprecisamentedichasfrecuencias.Launicaexcepcionlaconstituyeelmo<strong>de</strong>lo<strong>de</strong>error presentadoenelcaptulo5,elcualnointervieneenelplanteamientoqueacabamos<strong>de</strong>realizar.

28ysucuentacomplementaria CAPITULO2.MISCELANEA
2.Calculamoslaprobabilidad<strong>de</strong>insertarcualquiersmbolo Frins=X 8a2 a6=nX8b2Fr(a;b)
3.Laprobabilidad<strong>de</strong>insertarcualquiersmboloaencualquierestado<strong>de</strong>Fsera Pins= Frins+Frins Frins
4.Laprobabilidad<strong>de</strong>sustituiraporb(incluyendoelcasoenquea=b)sera PinsFr(n;a) Frins
5.Laprobabilidad<strong>de</strong>borrarasera (1Pins) P8c2Fr(a;c) Fr(a;b) (q;a;q0)8q02(q;a)
6.Laprobabilidad<strong>de</strong>quecualquierestadoq2Fseanalsera (1Pins) P8c2Fr(a;c) Fr(a;n) (q;a;q0)8q02(q;a)
que\salen"<strong>de</strong>cualquierestado<strong>de</strong>lmo<strong>de</strong>loextendidoesiguala1,asegurandoseportantolaconsistencia Esfacilverque,siguiendoelheursticoexpuesto,lasuma<strong>de</strong>lasprobabilida<strong>de</strong>s<strong>de</strong>todaslastransiciones (1Pins) (q)
<strong>de</strong>lmismo[68].Estemetodoeselquesehautilizadoentodalaexperimentacionrealizadaenestatesis. <strong>de</strong>lamejorsolucion,talcualseplanteaenlasecuaciones2.1y2.2o2.3(enestosdosultimoscasos, importantehacernotarqueelmecanismo<strong>de</strong>busquedanovarasegunlaecuacionqueempleemos,puesel nosestamosreriendoalasolucionparalaaproximaciontipo\Viterbi"<strong>de</strong>scritaconanterioridad).Es problemaalgortmicoqueseplanteaesesencialmenteelmismo,alutilizarlaaproximaciontipo\Viterbi" Trasestaexplicacion,yaestamosencondiciones<strong>de</strong>abordarelproblema<strong>de</strong>labusquedaeciente
paracalcular2.2o2.3.Enelproximocaptuloestudiaremossolucionesa<strong>de</strong>cuadasparaello.

CAPITULO TRES
AnalisisSintacticoCorrector<strong>de</strong> Errores
everything. Timeissweet <strong>de</strong>rangeanddisengage
Contenidos<strong>de</strong>lCaptulo -\AShortTermEect",Pornography,1982,FictionRec.- RobertSmith(TheCure)
3.4SucesivasRepeticiones<strong>de</strong>lCalculo 3.3Or<strong>de</strong>nacion<strong>de</strong>losEstadossegunsuPuntuacion 3.1Introduccion
3.5Or<strong>de</strong>nacion\PrimeroenProfundidad"<strong>de</strong>losEstados 3.2ElProblemaComputacional
3.7Calculo<strong>de</strong>lasNMejoresSoluciones 3.6Implementacion<strong>de</strong>laBusquedaenHaz
corrector<strong>de</strong>erroresqueutilizalasoperaciones<strong>de</strong>edicion,<strong>de</strong>scritasenelcaptuloanterior,ylarepre- 3.1Enestecaptulo,vamosaabordarelproblema<strong>de</strong>laimplementacion<strong>de</strong>unanalizadorsintactico Introduccion
suboptimasparaaceleracion<strong>de</strong>lcomputoconocidascomobusquedaenhaz(veasecaptuloanterior). corrector<strong>de</strong>errores(ASCE)\tipoViterbi",todasellascompatiblesconlautilizacion<strong>de</strong>last<strong>ecnicas</strong> sentacionenforma<strong>de</strong>automata<strong>de</strong>cualquiermo<strong>de</strong>lo<strong>de</strong>estadosnitos,estocasticoono.Proponemos tresaproximacionesdistintasparalograrunaimplementacioneciente<strong>de</strong>lproceso<strong>de</strong>analisissintactico
29

30 CAPITULO3.ANALISISSINTACTICOCORRECTORDEERRORES
ElproblemaqueplantearealizarASCEconmo<strong>de</strong>los<strong>de</strong>estadosnitosesfundamentalenreconoci-
mientosintactico<strong>de</strong>formas,don<strong>de</strong>generalmentelosdatosestandistorsionados[38,42].Esteproblema
tambienapareceenmuchosotroscampos<strong>de</strong>investigaciontalescomomo<strong>de</strong>lado<strong>de</strong>llenguaje[75,14],
reconocimientoautomatico<strong>de</strong>lhabla[16,73],reconocimientooptico<strong>de</strong>caracteres[57],inferenciagra-
matical[29,71,68],teora<strong>de</strong>lacodicacion[22,46]ycomparacion<strong>de</strong>secuencias[69].Aligualque
suce<strong>de</strong>conmuchosotrosproblemaspresentesendistintasareas<strong>de</strong>investigacion,elASCEconsisteen
encontrarelmejorcamino(secuencia<strong>de</strong>estados<strong>de</strong>lautomata)atraves<strong>de</strong>ltrellisconstruidoapartir<strong>de</strong>
lafrase<strong>de</strong>entradaaanalizaryelautomatanitoconelqueseefectuaelanalisis[59](veasegura2.3).
Comoesbiensabido,esteproblemaseresuelvemedianteelconocidoalgoritmo<strong>de</strong>Viterbi[37].Notese
queeltrabajoqueseexponeenestecaptulo,esigualmenteaplicablealproblema<strong>de</strong>lacomparacion
aproximada<strong>de</strong>expresionesregulares,yaquedichasexpresionessonequivalentesalosmo<strong>de</strong>los<strong>de</strong>estados
nitos[1].
Alolargo<strong>de</strong>lpresentecaptuloasumiremosquetantoelmo<strong>de</strong>lo<strong>de</strong>estadosnitos(posiblemente
estocastico)conelqueseefectuaelanalisis,comolosvalores<strong>de</strong>losdistintosparametros<strong>de</strong>lmo<strong>de</strong>lo
<strong>de</strong>error(inserciones,sustitucionesyborrados)sonconocidos<strong>de</strong>antemano.Ellonosuponeningun
problema,yaquesabemosqueelmo<strong>de</strong>lo<strong>de</strong>estadosnitospue<strong>de</strong>construirseautomaticamenteapartir
<strong>de</strong>unconjunto<strong>de</strong>datos<strong>de</strong>aprendizajeutilizandot<strong>ecnicas</strong><strong>de</strong>inferenciagramatical.Po<strong>de</strong>mosencontrar
buenasmonografasintroductoriasaestetemaen[15,60].Respectoalmo<strong>de</strong>lo<strong>de</strong>errorpo<strong>de</strong>mosasumir
valoresconstantes,utilizandoporejemplolaconocidadistancia<strong>de</strong>Levenshtein[53]introducidaenel
captuloanterior.Enelcaso<strong>de</strong>utilizarASCEestocastico,seplanteaelproblema<strong>de</strong>lacorrectaestimacion
<strong>de</strong>losparametrosparatodaslasposiblesoperaciones<strong>de</strong>edicion.Demomentoignoraremosesteproblema,
elcualseraestudiadoenprofundida<strong>de</strong>nelproximocaptulo.
SiasumimosqueelcanalC<strong>de</strong>nuestrosistemaS(veasecaptuloanterior)esi<strong>de</strong>al,entoncesel
<strong>de</strong>scodicadorDconsisteenunsimpleanalizadorsintacticoparaautomatasnitos.Es<strong>de</strong>cir,dada
unaca<strong>de</strong>nax2 ydadounautomatanitoF,tenemosque<strong>de</strong>cidirsilaca<strong>de</strong>naperteneceonoaL(F).
Caso<strong>de</strong>quepertenezca,estamosinteresadosenlasecuencia<strong>de</strong>reglasotransiciones<strong>de</strong>Fqueproducen
xapartir<strong>de</strong>lestadoinicial.Enestecaso,siFes<strong>de</strong>terminista,elanalizadorestrivialy,sinoloes,
entonceselanalizadorconsisteenimplementarelconocidoalgoritmo<strong>de</strong>Viterbipresentadoenelcaptulo
anterior[37,59].Estemarco<strong>de</strong>trabajoesigualmentevalidoenelcasoenelqueFseaestocastico.En
estecasoestamosinteresadosenla<strong>de</strong>rivacion<strong>de</strong>maximaverosimilitud,es<strong>de</strong>cir,aproximaremoselcalculo
<strong>de</strong>laprobabilidad<strong>de</strong>quexpertenezcaaL(F)calculandolasecuencia<strong>de</strong>transicionesmasprobableque
tienequeseguirFparaproducirxapartir<strong>de</strong>q0.Estoesloquecomunmenteseconocecomoanalizador
sintacticoestocastico\tipoViterbi"(tambienpresentadoenelcaptuloanterior).
Sinembargo,unplanteamientomasrealistaconsisteenasumirqueelfuncionamiento<strong>de</strong>Cintroduce
erroresdurantelatransmision.Enestecaso,hemosasumidoqueelfuncionamiento<strong>de</strong>Csepue<strong>de</strong>
<strong>de</strong>scribirmediantelasoperaciones<strong>de</strong>insercion,borradoysustitucion<strong>de</strong>scritasenelcaptuloanterior.
Elalgoritmo<strong>de</strong>Viterbisepue<strong>de</strong>adaptarparatrabajarnosoloconlastransicionespropias<strong>de</strong>F,sino
tambienconlastransicionesintroducidasporC(vease<strong>de</strong>nuevoelcaptuloanterior).Desgraciadamente
elesfuerzocomputacionalarealizarenestecasoseramuchomayor,<strong>de</strong>bidonosoloalmayornumero<strong>de</strong>
arcosquehayqueanalizar[59],sinosobretodoalproblemaalgortmicoqueplanteaelanalisis<strong>de</strong>las
transiciones<strong>de</strong>borrado[22,46,8,9,12,10,13].Estoplanteaseriosproblemasalahora<strong>de</strong>realizaruna
implementacioneciente<strong>de</strong>D.
T<strong>ecnicas</strong>suboptimasbasadasenestrategias<strong>de</strong>busquedaenhaz(BH),hanconseguidopaliaren
granmedidalosefectos<strong>de</strong>bidosalincremento<strong>de</strong>lnumero<strong>de</strong>arcos[56].Afortunadamente,tambiense
hanpropuestovariassolucionesparaelproblema<strong>de</strong>losborradosenlabibliografa.Algunas<strong>de</strong>ellas
proponensolucionesbasadasenciertasrestriccionesacumplirporlosautomatasnitosqueutilizamos
pararepresentarF[8,44].Otrasutilizanestructuras<strong>de</strong>datosincompatiblesconlaimplementacion

3.2.ELPROBLEMACOMPUTACIONAL 31
Figura3.1:Trelliscon:a)transicionespropias<strong>de</strong>lautomataytransiciones<strong>de</strong>bidasaerrores<strong>de</strong>sustitucion;b) transiciones<strong>de</strong>bidasaerrores<strong>de</strong>insercion;c)transiciones<strong>de</strong>bidasaerrores<strong>de</strong>borradoenunautomataacclico yd)transiciones<strong>de</strong>bidasaerrores<strong>de</strong>borradoenunautomataconciclos.
(a)
(b)
(c)
(d)
eciente<strong>de</strong>laBH[9,12].Finalmentenosencontramosconunaserie<strong>de</strong>soluciones\completas"(enel sentido<strong>de</strong>quenoutilizanrestriccionessobreFysoncompatiblesconlaBH)cuyascotas<strong>de</strong>complejidad
K K+1 K K+1 K K+1 K K+1
Po<strong>de</strong>mosconsi<strong>de</strong>rar,portanto,queenlaactualida<strong>de</strong>xistena<strong>de</strong>cuadassolucionesparaelproblema<strong>de</strong>la implementacioneciente<strong>de</strong>D. sonsimilares,peroconuncomportamientomasomenosecienteenlapractica[22,68,46,10,13].
3.2 mo<strong>de</strong>los<strong>de</strong>estadosnitos,pue<strong>de</strong>formularsecomolabusqueda<strong>de</strong>lcamino<strong>de</strong>mnimocoste1atraves Comovimosenelcaptuloanterior,elproblema<strong>de</strong>lanalisissintacticosincorreccion<strong>de</strong>errorescon ElProblemaComputacional
<strong>de</strong>ltrellisasociadoalmo<strong>de</strong>lonitoyalaca<strong>de</strong>na<strong>de</strong>entradax.Esteproblemaloresuelveecazmente elalgoritmo<strong>de</strong>Viterbi(AV).ElAVsepue<strong>de</strong>exten<strong>de</strong>rtrivialmenteparaanalizartantoloserrores producidosalcambiarunsmboloporotro,comolosproducidosalinsertarunsmbolo,anteso<strong>de</strong>spues, <strong>de</strong>cadasmbolo<strong>de</strong>lafraseoriginal.Deestaformapo<strong>de</strong>mosimplementarunalgoritmoeciente<strong>de</strong>ASCE, teniendoencuentasololoserrores<strong>de</strong>sustituciony<strong>de</strong>insercion,yaqueeltrellisextendidoresultanteaun
eltrellisseconviertaenungrafoconarcosentrelosnodospertenecientesalamismaetapa<strong>de</strong>analisis dosporelborrado<strong>de</strong>unoovariossmbolosconsecutivos<strong>de</strong>lafraseoriginal,traecomoconsecuenciaque conservalaestructura<strong>de</strong>grafomultietapadirigidoyacclico(gura3.1(a)(b)).
(gura3.1(c)),yaquelastransiciones<strong>de</strong>bidasaerrores<strong>de</strong>borradono\consumen"ningunsmbolo Desafortunadamente,laextension<strong>de</strong>lAVparaqueseacapaztambien<strong>de</strong>analizarloserroresproduci-
<strong>de</strong>lcomputador.
productosparalasprobabilida<strong>de</strong>s.Conelloevitamoslosproblemas<strong>de</strong>bidosallmiteestablecidoporlaprecisionaritmetica 1Enelcaso<strong>de</strong>queelanalisisseaestocastico,utilizaremosloslogaritmoscambiados<strong>de</strong>signoysumasenlugar<strong>de</strong>

32 <strong>de</strong>entrada.Sielmo<strong>de</strong>lonitonotieneciclos,elgraforesultanteesacclicoy,enconsecuencia,po- CAPITULO3.ANALISISSINTACTICOCORRECTORDEERRORES
implementarcomounasencillaextension<strong>de</strong>lAV[8].Sinembargo,sielmo<strong>de</strong>lonitotieneciclosyano po<strong>de</strong>mosutilizardirectamenteestast<strong>ecnicas</strong>.Entonces,elproblemaqueplanteaelASCEsereduceal <strong>de</strong>mosutilizart<strong>ecnicas</strong><strong>de</strong>programaciondinamicapara<strong>de</strong>sarrollarunalgoritmoecientequesepue<strong>de</strong>
unaetapa<strong>de</strong>analisisin<strong>de</strong>pendiente,talcualsehaceenelAV. laestructura<strong>de</strong>izquierdaa<strong>de</strong>rechatpica<strong>de</strong>ltrellisclasicoasociadoalAV,talcomoacertadamentese exponeen[46].Deestaformapo<strong>de</strong>mosseguirconsi<strong>de</strong>randocada\columna"<strong>de</strong>lgraforesultantecomo <strong>de</strong>ello,po<strong>de</strong>mosaprovecharnos<strong>de</strong>lhecho<strong>de</strong>quelamayora<strong>de</strong>losarcos<strong>de</strong>estetipo<strong>de</strong>grafosconservan <strong>de</strong>encontrarelcamino<strong>de</strong>mnimocosteenungrafogenerico,dirigidoycclico(gura3.1(d)).Apesar
nes<strong>de</strong>borrado.Supongamosquetenemosunestadoq2que,engeneral,esunantecesor<strong>de</strong>lestadoq3enel grafoquerepresentaelmo<strong>de</strong>lo<strong>de</strong>estadosnitosF.Estehecholorepresentaremosmediantelasiguiente notacion:q2,!q3.Estonosoloquiere<strong>de</strong>cirquepue<strong>de</strong>existirunaaristaenelgrafoq2!q3,sinoque, engeneral,existeunasecuencia<strong>de</strong>aristasqueconectanaq2conq3.Utilizaremoslanotacionjq2,!q3j Veamosconunpocomas<strong>de</strong><strong>de</strong>talleeltipo<strong>de</strong>problemascomputacionalesqueplanteanestastransicio-
parareferirnosalnumero<strong>de</strong>aristasqueconformanlasecuenciaqueconectaq2conq3.Supongamos,<strong>de</strong> igualmodo,queq1,!q2.
Viterbigarantizaquecuandocalculamoslapuntuacion<strong>de</strong>unnuevocamino,usandolaspuntuaciones<strong>de</strong> <strong>de</strong>terminanlageneracion<strong>de</strong>nuevoscaminos,consi<strong>de</strong>randovariasetapasconsecutivas.Elalgoritmo<strong>de</strong> puesdichassecuenciaslounicoque<strong>de</strong>terminansonlastransicionesentreetapas<strong>de</strong>ltrellis,es<strong>de</strong>cir, ningunproblemaporelhecho<strong>de</strong>queexistanestassecuencias<strong>de</strong>aristasenelgrafoquerepresentaF, Cuandorecorremosungrafomultietapa,comoeselcaso<strong>de</strong>ltrellisasociadoaFyax,notenemos
loscaminosquepue<strong>de</strong>ngenerarlo,estashansidocorrectamentecalculadas.A<strong>de</strong>mas,entreunaetapay lasiguiente,soloseconsi<strong>de</strong>ranaristasindividuales<strong>de</strong>lgrafoquerepresentaF.Portanto,unasecuencia q2,!q3compren<strong>de</strong>ratantasetapaseneltrelliscomojq2,!q3j.
todaslaspuntuaciones<strong>de</strong>todosloscaminosquelleganatodoslosestados<strong>de</strong>F,enlaetapak<strong>de</strong>analisis yquehemosguardadoenunalistaLtodosesoscaminos.Enrealidad,siguiendolalosofa<strong>de</strong>lcalculo tenerencuentaquejq2,!q3j<strong>de</strong>terminaelnumero<strong>de</strong>operaciones<strong>de</strong>borradoconsecutivasquepue<strong>de</strong>n hacersepara\llegar"aq3<strong>de</strong>s<strong>de</strong>q2enunaunicaetapa<strong>de</strong>ltrellis.Imaginemosquehemoscalculadoya Ahorabien,siconsi<strong>de</strong>ramoslastransiciones<strong>de</strong>borrado,>quepue<strong>de</strong>ocurrir?Enprimerlugar,hayque
tipoViterbi,solohayqueguardarelcamino<strong>de</strong>mejorpuntuacionquellegaacadaestado<strong>de</strong>F,por tantopo<strong>de</strong>mosi<strong>de</strong>nticarloscaminosconelultimoestadoalquehanllegado.Supongamosquesacamos
calcularalapuntuacion<strong>de</strong>unnuevocaminoquellegaaq2.Imaginemosqueesenuevocaminomejorala <strong>de</strong>lalistaelestadoq2yproce<strong>de</strong>mosacalcularlaspuntuaciones<strong>de</strong>loscaminosquegenera,utilizando
puntuacion<strong>de</strong>lque,hastaelmomento,eraconsi<strong>de</strong>radoelmejorcaminoparadichoestado.Elloimplica q2,!q32.Cuandohemosterminadoconq2,supongamosquesacamosq3<strong>de</strong>Lyproce<strong>de</strong>mosahacer transiciones<strong>de</strong>borrado.Enunmomento<strong>de</strong>terminadohabraunnuevocaminoquellegueaq3,yaque
quehabraquevolverameteraq2enL.Ynosoloeso,habraquevolverametertambienatodos aquellosestadoscuyapuntuacionmejorasecomoresultadodirectooindirecto<strong>de</strong>la\actualizacion"<strong>de</strong>q2
lomismoqueconq2.Trasuntiempo,sacamosq1<strong>de</strong>lalistay,comoq1,!q2,enalgunmomentose
se\viesen"enlamismasituacion<strong>de</strong>q2.Esto,a<strong>de</strong>mas,podrapasarnosvariasveces,puesnotenemos ningunagaranta<strong>de</strong>que,volviendoaa~nadirestosestadosaL,novuelvaaocurrir<strong>de</strong>nuevo. (porejemploaq3sieselcaso).Yashabraqueproce<strong>de</strong>r,engeneral,paratodosaquellosestadosque
ningunotrocaminoquepuedaalcanzarleconposterioridad.Dossolucionespodranser: Lquegaranticeque,cuandosacamosunestado<strong>de</strong>lalista,supuntuacionnopuedasermejoradapor 2Esecaminopue<strong>de</strong>seronoelmejor,daigual.
Lasolucionobviaaesteproblemapasaporencontrarunaor<strong>de</strong>nacion<strong>de</strong>losestados(caminos)en

3.3.ORDENACIONDELOSESTADOSSEGUNSUPUNTUACION RecorrerLsegunelor<strong>de</strong>ntopologico<strong>de</strong>losestadosenF.Estosolucionaelproblema,pues,segun 33
yenque,siutilizamosbusquedaenhaz,habraquecalcularloencadaetapa<strong>de</strong>ltrellis,anulandose la<strong>de</strong>nicion<strong>de</strong>or<strong>de</strong>ntopologicoy,dadoqueq1,!q2yq2,!q3,esseguroqueq1apareceraantes
<strong>de</strong>estemodosuprincipalventaja. queq2yesteantesqueq3enL.Laventajaqueofreceestasolucionradicaenquepo<strong>de</strong>moscalcular esteor<strong>de</strong>nparalosestados<strong>de</strong>F,antes<strong>de</strong>comenzarelrecorrido<strong>de</strong>ltrellisyusarlosiemprecomoun
RecorrerLsegunelor<strong>de</strong>nenlapuntuacion<strong>de</strong>losestadosquehayendichalista.As,ennuestro or<strong>de</strong>njo<strong>de</strong>recorrido<strong>de</strong>L.Suprincipal<strong>de</strong>sventajaresi<strong>de</strong>enquenoesta<strong>de</strong>nidosiFtieneciclos
menteporseguirlaestrategiaqueaplicoDijkstraparacalcularelcamino<strong>de</strong>mnimocosteenun grafodirigidoypon<strong>de</strong>radoconciclos[3],comoveremosenlasiguienteseccion)ylautilizacion<strong>de</strong>la <strong>de</strong>sventajas<strong>de</strong>lor<strong>de</strong>ntopologico:esigualmentevalidoenelcasoqueexistanciclosenF(esencial- busquedaenhaznocomportaningunacargacomputacionaladicionalenelproceso<strong>de</strong>or<strong>de</strong>nacion. ejemplo,q1esseguroqueiraantesqueq2enL.Susprincipalesventajasson,precisamente,las
tambienquehayquerecalcularlocadavezquelapuntuacion<strong>de</strong>unestadohayasidomejorada. Su<strong>de</strong>sventajaresi<strong>de</strong>enquenosolohayquecalcularloencadaetapa<strong>de</strong>ltrellis(obviamente),sino
lastransiciones<strong>de</strong>borrado,fueformuladaeneltrabajorealizadoporBouloutasetal[22].Segunnuestra 3.3Unainteresanterelacion<strong>de</strong>recurrencia,capaz<strong>de</strong>resolverelproblemacomputacionalplanteadopor Or<strong>de</strong>nacion<strong>de</strong>losEstadossegunsuPuntuacion
notacionquedacomosigue: C(qjk+1)= 8qi20(ql)enlaetapak 8qlenlaetapak+1nC(qik)+W(qik;qlk+1)+(qlk+1;qjk+1)o min (3.1)
don<strong>de</strong> estadoqienlaetapak<strong>de</strong>analisis. C(qik)eselcoste<strong>de</strong>lcamino<strong>de</strong>mnimocoste<strong>de</strong>s<strong>de</strong>cualquierestadoinicial<strong>de</strong>lautomatahastael
alestadoqlenlaetapak+1<strong>de</strong>analisis.Paraelcalculo<strong>de</strong>Wsetendranencuenta,a<strong>de</strong>mas<strong>de</strong> W(qik;qlk+1)eselcoste<strong>de</strong>latransicion<strong>de</strong>mnimocoste<strong>de</strong>s<strong>de</strong>elestadoqienlaetapak<strong>de</strong>analisis 0eslainversa<strong>de</strong>lafuncion<strong>de</strong>transicion<strong>de</strong>lautomata,. lastransicionespropias<strong>de</strong>lautomata,todaslas<strong>de</strong>bidasaposibleserrores<strong>de</strong>insercionysustitucion(veaselaseccion2.5).Sinuestromo<strong>de</strong>lo<strong>de</strong>canalesestocastico,entoncessecalcularanlas probabilida<strong>de</strong>s<strong>de</strong>lmo<strong>de</strong>lointegradotalcomosecomentoenesamismaseccion. ambosalaetapak+1<strong>de</strong>analisis.Paraelcalculo<strong>de</strong> (qlk+1;qjk+1)eselcoste<strong>de</strong>lcamino<strong>de</strong>mnimocoste<strong>de</strong>s<strong>de</strong>elestadoqlalestadoqj,perteneciendo
borrado<strong>de</strong>mnimocosteentredosestadosqiyqr,talqueqr2(qi;a)8a2. Estafuncionutilizaraaotra,que<strong>de</strong>nominaremosW0,paracalcularelcoste<strong>de</strong>latransicion<strong>de</strong> transiciones<strong>de</strong>bidasaunoovarioserrores<strong>de</strong>borradoconsecutivos3(veaselaseccionanterior). setendranencuentasolamentelas
3Poreso,engeneral,hablamos<strong>de</strong>camino.

34Lacorreccion<strong>de</strong>estarelacionresi<strong>de</strong>enlafuncion,yaquesuevaluacion,paracadapar<strong>de</strong>estados CAPITULO3.ANALISISSINTACTICOCORRECTORDEERRORES
comprendidoentrelaslneas1y7comoinicializaciony,albloquequeva<strong>de</strong>s<strong>de</strong>lalnea17ala21,como <strong>de</strong>laecuacion3.1.Asumimoslalectura<strong>de</strong>losalgoritmospresentadosenlaseccion2.4,porloquenos centraremosexclusivamenteenlaresolucion<strong>de</strong>dichaecuacion.Ena<strong>de</strong>lante<strong>de</strong>nominaremosalbloque portransiciones<strong>de</strong>borrado.Elalgoritmo5<strong>de</strong>scribeelmetodo<strong>de</strong>calculoquehemos<strong>de</strong>sarrolladoapartir <strong>de</strong>lautomata,dacomoresultadoelcoste<strong>de</strong>lcamino<strong>de</strong>mnimocosteentreelloscompuestounicamente
inserciones-sustituciones. Algoritmo5EsquemaalgortmicoparaEV1yEV1PQ. 3: 2:siqjesunestadoinicialentonces 1:paratodoqj2Qhacer
5: 7:npara 4:sino 6: nsi C(qj0)=1; C(qj0)=CosteInicial;
11: 10:mientrasQ06=;hacer 8:parak=0hastajxjhacer 9:Q0=Q;
14: 13: 12: ql=argmin paratodoqj2(ql)hacer Q0=Q0fqlg; C(qjk)=minnC(qjk);C(qlk)+W0(qlk;qjk)o; 8qr2Q0C(qrk);
15: 16: 18: 17:paratodoqi2Qhacer 19: nmientras paratodoql2(qi)hacer npara
20: 21: 22:npara 23:<strong>de</strong>vuelve npara
C(qlk+1)=minC(qlk+1);C(qik)+W(qik;qlk+1);
Dadoquenoexistentransicionesquetenganuncostenegativoeneltrellis,seguimoslaestrategia paracadaestadonalqiC(qijxj+1); argmin
ycclico[3]paracomputar(lneas10a16enelalgoritmo5).Estaestrategiasepue<strong>de</strong>resumirenlos siguientespasos: planteadaporDijkstraalahora<strong>de</strong>calcularelcamino<strong>de</strong>mnimocosteenungrafopon<strong>de</strong>rado,dirigido
2.Encadaetapa<strong>de</strong>analisiselegimoselestadoqlenlalistaQ0cuyapuntuacionesmnimayactuali- 1.Descartamostodaslastransicionesquevan<strong>de</strong>s<strong>de</strong>unestadoasmismo,es<strong>de</strong>cir,los\bucles".
3.Denuevoelegimoselestado<strong>de</strong>mnimapuntuacionenQ0yactualizamoselcoste<strong>de</strong>sussucesores directos,yasproce<strong>de</strong>mossucesivamentehastaqueyanoque<strong>de</strong>nmasestadosenQ0. zamoslapuntuacion<strong>de</strong>sussucesoresdirectos,es<strong>de</strong>cirla<strong>de</strong>cadaqj2(ql).
Para<strong>de</strong>mostrarlacorreccion<strong>de</strong>estealgoritmobastacon<strong>de</strong>mostrarlacorreccion<strong>de</strong>lcalculo<strong>de</strong>,

yaquelastransiciones<strong>de</strong>insercionysustitucionson,enesencia,i<strong>de</strong>nticasalasqueutilizaelalgoritmo 3.4.SUCESIVASREPETICIONESDELCALCULO 35
<strong>de</strong>Viterbiensurecorrido<strong>de</strong>ltrellis.Paraello,notesequeelproblema<strong>de</strong>lcalculo<strong>de</strong>encadaetapa porunpesoequivalentealvalor<strong>de</strong>sucorrespondientetransicion<strong>de</strong>borrado.Comoestospesossonno negativossecumplelarestriccion<strong>de</strong>lalgoritmo<strong>de</strong>Dijkstra.Launicadiferencialaconstituyeelhecho <strong>de</strong>que,cadanodo<strong>de</strong>lgrafo,tieneyaunpesoinicialproporcionadoporelcoste<strong>de</strong>lcamino<strong>de</strong>mnimo <strong>de</strong>analisis,esi<strong>de</strong>nticoalproblemaqueresuelveelalgoritmo<strong>de</strong>Dijkstra.Enestecasoelgrafoesel
costequeloalcanza<strong>de</strong>s<strong>de</strong>laetapaanterior.Peroestonosuponeningunproblemaalahora<strong>de</strong>aplicar querepresentaaF,elcualesdirigidoypue<strong>de</strong>sercclico.Cadaarista<strong>de</strong>estegrafoestarapon<strong>de</strong>rada
estaestrategia,yaqueconsi<strong>de</strong>raremoscomonodoinicialaquelquetengaelmenorcoste.Esseguroque dichocostenovaapo<strong>de</strong>rsermodicadoporningunotrocaminoqueparta<strong>de</strong>algunotronodo,yaquees elmnimoynoexistenpesosnegativosenelgrafo.Po<strong>de</strong>mosencontrarla<strong>de</strong>mostracion<strong>de</strong>lacorreccion <strong>de</strong>lalgoritmo<strong>de</strong>Dijkstraen[3].
O(B)operaciones,siendoBelfactormaximo<strong>de</strong>ramicacionenF(elmaximonumero<strong>de</strong>transiciones elcoste<strong>de</strong>lalnea11es,engeneral,(jQ0j),yaquenecesitamosrealizarjQ0joperaciones<strong>de</strong>comparacion. Noobstante,lalnea12<strong>de</strong>crementaeltama~no<strong>de</strong>dichalistaauxiliar.Elbucle<strong>de</strong>laslneas13a15conlleva a<strong>de</strong>lanteEV1,tardauntiempoproporcionala(jxjjQj2)enanalizarlafrase<strong>de</strong>entradax.Observeseque SiimplementamosQ0comounalista<strong>de</strong>sor<strong>de</strong>nada<strong>de</strong>estados,elalgoritmoqueseacaba<strong>de</strong>presentar,en
que\salen"<strong>de</strong>unestado,teniendoencuentatodoslosestados<strong>de</strong>F).Portantotenemosqueelproceso completocomprendidoentrelaslneas10y16conllevajQj+B+jQj1+B+jQj2+B++1+B= jQjB+PjQj exteriorquerecorrelafrase<strong>de</strong>entradaxy,tambien,queelbuclecomprendidoentrelaslneas17y21 conllevaO(jQjB)operaciones,obtenemosquelacomplejidad<strong>de</strong>EV1es,efectivamente,(jxjjQj2). Estealgoritmotodavapue<strong>de</strong>sermejorado.Paraello,utilizaremoslas<strong>de</strong>nominadascolas<strong>de</strong>prioridad i=1ioperaciones,locualrepresentaunacomplejidad(jQj2).Sitenemosencuentaelbucle
sepuedancambiardinamicamentelaspuntuaciones<strong>de</strong>losestados<strong>de</strong>lascolas(yenconsecuenciasus posiciones).Ellonosuponeningunproblema,yaqueestosepue<strong>de</strong>conseguirsimplementealmacenando reposicionado4<strong>de</strong>losestadosenlascolasapartir<strong>de</strong>laposicion<strong>de</strong>lestadocuyapuntuacionhacambiado. paraimplementarlalista<strong>de</strong>estadosQ0[2].Parapo<strong>de</strong>refectuarestaimplementacion,esnecesarioque
implementarelmecanismo<strong>de</strong>colas<strong>de</strong>prioridad[2,3].Lacomplejidadtemporalenelpeor<strong>de</strong>loscasos elpunterooposicion<strong>de</strong>cadaestadoenlascolaspara,posteriormente,po<strong>de</strong>rrealizarunaoperacion<strong>de</strong> Ennuestrocaso,hemosutilizadolaestructura<strong>de</strong>datoscomunmenteconocidacomoarbolbinariopara paraelbuclecomprendidoentrelaslneas10y16<strong>de</strong>lalgoritmo5es,enestecaso,O(jQjBlog(jQjB)).
quesielautomataesungrafocompletamenteconectado,entoncesB=jQjy,portanto,lasprestaciones Estacomplejidadse<strong>de</strong>ducefacilmenteapartir<strong>de</strong>lhecho<strong>de</strong>que,comomucho,tendremosquehacerjQjB
<strong>de</strong>EV1PQpue<strong>de</strong>nserpeoresquelas<strong>de</strong>EV1. operacionesenlascolas(lnea14)[2].PuestoqueenmuchoscasosB

36 sintacticoconmo<strong>de</strong>losnitos.Noobstante,quisieramosresaltarque,alparecer,estemetodo<strong>de</strong>resolucion CAPITULO3.ANALISISSINTACTICOCORRECTORDEERRORES
pue<strong>de</strong>versecomounageneralizacion<strong>de</strong>lalgoritmo<strong>de</strong>Bellman-Fordparaelproblema<strong>de</strong>lcaminomas cortoenungrafoconciclosnonegativos,segun[58].Sirealizamosesteprocedimientoiterativohastaque lacorreccion<strong>de</strong>loscalculosefectuados[46].Mostramoselprocedimientoqueresuelveelproblema<strong>de</strong>las transiciones<strong>de</strong>borradosegunestaestrategia,alcuallehemos<strong>de</strong>nominadoEV2,enelalgoritmo6. noseproduzcaningunaalteracionenlapuntuacion<strong>de</strong>losdiferentesestados,entoncesquedagarantizada
Algoritmo6EsquemaalgortmicoparaEV2.
5: 3:repetir 1:inicializacion; 4: 2:parak=0hastajxjhacer
6: 7: paratodoql2Qhacer
8: paratodoqj2(ql)hacer
9:hastaC(qjk)nohacambiadoparaningunqj2Q npara
C(qjk)=minnC(qjk);C(qlk)+W0(qlk;qjk)o;
10:inserciones-sustituciones; 11:npara 12:<strong>de</strong>vuelve SeaTelnumero<strong>de</strong>iteracionesquesevanaefectuarenelbuclecomprendidoentrelaslneas3y9<strong>de</strong>l paracadaestadonalqiC(qijxj+1); argmin
algoritmo6.Lacomplejidadtemporalparaestaslneas<strong>de</strong>lalgoritmoesproporcionalaO(TjQjB).T
or<strong>de</strong>nadossegunsuspuntuaciones[8,10].Porconsiguiente,EV2analizaunafrase<strong>de</strong>entradaxenun valdra1siningunatransicion<strong>de</strong>borradocambiaselapuntuacion<strong>de</strong>ningunestado<strong>de</strong>lautomata[8,10].
tiempoproporcionalaO(jxjjQjB)yO(jxjjQj2B),enelmejoryenelpeor<strong>de</strong>loscasosrespectivamente. otroestadoenlassucesivasiteraciones<strong>de</strong>computo,entoncesTvaldrajQj+1.Estopue<strong>de</strong>producirse silosestadosseatraviesanenor<strong>de</strong>ninversoaltopologico<strong>de</strong>lautomataoalqueconformanlosestados Sialmenosunatransicion<strong>de</strong>borradoporestado<strong>de</strong>lautomata,cambiaselapuntuacion<strong>de</strong>cualquier
Suprestacionenelcasopromedio<strong>de</strong>pen<strong>de</strong>engranmedida<strong>de</strong>seguir,lomasestrechamenteposible,un ciertoor<strong>de</strong>n<strong>de</strong>losestados<strong>de</strong>lautomatacuandoserealizaelanalisis<strong>de</strong>lastransiciones<strong>de</strong>borradoy, tambien,<strong>de</strong>lnumero<strong>de</strong>transiciones\efectivas"<strong>de</strong>borrado,es<strong>de</strong>cir,aquellasqueprovocanunaalteracion
3.5 enlapuntuacion<strong>de</strong>losestadosquealcanzan[8,10].
eni<strong>de</strong>aspreviamenteexpuestasen[68],paraefectuarASCEconmo<strong>de</strong>losnitossinciclos: Enesteapartadoproponemosunalgoritmobasadoenunarelacion<strong>de</strong>recurrencia,lacualprofundiza Or<strong>de</strong>nacion\PrimeroenProfundidad"<strong>de</strong>losEstados
C(qjk+1)= 8ql20T(qj)enlaetapak+1 8qi20(ql)enlaetapak min nC(qik)+W(qik;qlk+1)+WT(qlk+1;qjk+1)o (3.2)
siendoC(qik),W(qik;qlk+1)y0lomismoqueenlaecuacion3.1.0Tesunageneralizacion<strong>de</strong>lafuncion

3.5.ORDENACION\PRIMEROENPROFUNDIDAD"DELOSESTADOS 0(veaseesamismaecuacion)que<strong>de</strong>vuelve,paraunestado<strong>de</strong>terminadoqi,elconjunto<strong>de</strong>estadosque 37
son\pre<strong>de</strong>cesorestopologicos"<strong>de</strong>qienelautomata,estoes 0T(qi)=(; n0(qi)o[0T(qj)8qj20(qi) siqiesunestadoinicial
enlaetapa<strong>de</strong>analisisk+1,elcualsoloincluyeestadosquesonpre<strong>de</strong>cesorestopologicos<strong>de</strong>lestado Finalmente,WT(qlk+1;qjk+1)eselcamino<strong>de</strong>mnimocoste<strong>de</strong>s<strong>de</strong>elestadoqlhastaelestadoqj,ambos encualquierotrocaso)
qj.Elcalculo<strong>de</strong>WTsepue<strong>de</strong>realizarsiguiendoun\or<strong>de</strong>ntopologico"<strong>de</strong>losestados<strong>de</strong>lautomata cuandoanalizamoslastransiciones<strong>de</strong>borrado.Estafuncionutilizara,igualmente(veaseseccion3.3),a qr2(qi;a)8a2. W0paracalcularelcoste<strong>de</strong>latransicion<strong>de</strong>borrado<strong>de</strong>mnimocosteentredosestadosqiyqr,talque
existetalnuevocaminoquepuedaalcanzarlo,yaquesuspre<strong>de</strong>cesorestopologicos(losunicosquepue<strong>de</strong>n calculo<strong>de</strong>WT,locualtrivialmentese<strong>de</strong>duce<strong>de</strong>la<strong>de</strong>nicion<strong>de</strong>or<strong>de</strong>ntopologicoenF.Siguiendoeste caminosque\genera",esimposiblequesupuntuacionseamodicadaporalgunnuevocamino,puesno or<strong>de</strong>n,cuandosaquemosunestado<strong>de</strong>lalistaencadaetapa<strong>de</strong>analisisparacalcularlapuntuacion<strong>de</strong>los Para<strong>de</strong>mostrarlacorreccion<strong>de</strong>estarelacion<strong>de</strong>recurrenciabastacon<strong>de</strong>mostrarlacorreccion<strong>de</strong>l
generarnuevoscaminoshastael)sehabransacado<strong>de</strong>lalistaconanterioridadysehabranpuntuadoen consecuencialoscaminosquehangenerado. or<strong>de</strong>ntopologicoparalosestados<strong>de</strong>lautomata.Esoescierto,peroexisteunasolucion.Dichasolucion pasaporcalcularel<strong>de</strong>nominadoor<strong>de</strong>ntopologicoprimeroenprofundidad<strong>de</strong>losestados<strong>de</strong>lautomata. Paraellopreviamentesehan<strong>de</strong><strong>de</strong>tectarlasaristashaciaatras,quesonlastransicionesqueproducen ciclosenelautomata[3,9].Paraello,realizamoselsiguienteproceso: Noobstante,>quesuce<strong>de</strong>cuandoelautomatatieneciclos?Enesecaso,noesposiblecalcularun
1.Construirelbosqueexpandidoprimeroenprofundidad5<strong>de</strong>lgrafoquerepresentaaF[3](veanselas 2.Encontrarlasaristashaciaatras[3](veaselagura3.3).Elalgoritmo7muestracomohacerlo. 3.Calcularunor<strong>de</strong>ntopologico<strong>de</strong>losestados(elquevienedadoporunrecorridoprimeroenpro- guras3.2y3.3).
Estonosconduceaunor<strong>de</strong>njoparaelrecorrido<strong>de</strong>lalista<strong>de</strong>estados<strong>de</strong>lautomataduranteel resultante<strong>de</strong>or<strong>de</strong>narenanchuralosestados<strong>de</strong>lbosque. fundidad<strong>de</strong>lgrafo)<strong>de</strong>Fsintenerencuentalasaristashaciaatras.Enelalgoritmo7,serael
<strong>de</strong>sgraciadamente,noesunasolucioncompatibleconlautilizacion<strong>de</strong>labusquedaenhaz.Almenosno efectivamente,elproblemaexpuestoenlaseccion3.2,inclusoaunqueelautomatatengaciclos,pero, atras6actualiceelcoste<strong>de</strong>algunestado,coneln<strong>de</strong>garantizarlacorreccion<strong>de</strong>lproceso<strong>de</strong>computo. Elor<strong>de</strong>ntopologicoprimeroenprofundidadpararecorrerlalista<strong>de</strong>estados<strong>de</strong>lautomatasoluciona, proceso<strong>de</strong>analisis.Noobstanteseranecesariovolveratrasenlalistasiemprequealgunaaristahacia
listacompleta<strong>de</strong>estados<strong>de</strong>lautomata. esunasolucionsi,comoresultado<strong>de</strong>esteor<strong>de</strong>ntopologico7obtenemosunor<strong>de</strong>njo<strong>de</strong>recorrido<strong>de</strong>la cualsecorrespon<strong>de</strong>raconelcasoenqueelautomatatuviesemas<strong>de</strong>unestadoinicial. es,peropermtasenosesteabuso<strong>de</strong>lconceptoor<strong>de</strong>ntopologico.
6Valgalaredundancia. 7Enrealidadnoesunor<strong>de</strong>ntopologicotalcualse<strong>de</strong>neeste,yaqueelautomatapue<strong>de</strong>tenerciclos.Enestecasonolo 5Asumimosqueesunbosqueynounarbol,porsifueseelcaso<strong>de</strong>quehubiesemas<strong>de</strong>unnodoinicialenelgrafo,lo

38 CAPITULO3.ANALISISSINTACTICOCORRECTORDEERRORES
q1 q2
q11
Figura3.2:Ejemplo<strong>de</strong>automataconciclos.
q7 q8 q9
q6
q3 q5
q4
q3
arista hacia a<strong>de</strong>lante
arista propia <strong>de</strong>l árbol
q5
q1 q2
q4
arista hacia atrás
q10
q12
q6
arista entre ramas
q7
q8
q9 q13
q14
encadaetapa<strong>de</strong>analisispue<strong>de</strong>serdiferente<strong>de</strong>unaetapaaotra(y<strong>de</strong>hecholoesenlamayora<strong>de</strong>las Recor<strong>de</strong>mosque,alusart<strong>ecnicas</strong><strong>de</strong>busquedaenhaz,lalista<strong>de</strong>estadosquetienequeserrecorrida Figura3.3:Bosqueexpandidoprimeroenprofundidadparaelautomata<strong>de</strong>lagura3.2.
ocasiones).Loquetenemosrealmenteencadaetapaesunalista<strong>de</strong>estados,omejor,caminoseneltrellis
q11
elproceso<strong>de</strong>analisis,resultandoenunasolucionexcesivamentecostosacomoparaquetansiquieranos <strong>de</strong>estados\supervivientes"encadaetapa<strong>de</strong>analisis,introduciramosunagrancargacomputacionalen lapudiesemosplantear. quehan\sobrevivido"almecanismoestablecido<strong>de</strong>podaporpuntuacion(veaselaseccion2.4.2).Por tantoresultaobvioque,situviesemosquecalcularelor<strong>de</strong>ntopologicoprimeroenprofundidad<strong>de</strong>lalista
comobinsortobucketsort[2].Estatecnicatienelavirtud<strong>de</strong>po<strong>de</strong>ror<strong>de</strong>narunalista<strong>de</strong>nelementos enuntiempoproporcionalaO(n+m),siendomelnumero<strong>de</strong>\cubos"(binsobuckets)utilizadospara estadosamedidaquese\visitan"y,efectivamente,sobrevivenencadaetapa<strong>de</strong>analisis.Nuestrapropuestaconsisteenutilizarunatecnica<strong>de</strong>or<strong>de</strong>nacionbasadaenmecanismos<strong>de</strong>hashing,masconocida Sinembargo,estacargacomputacionalpodraevitarsesipudiesemosor<strong>de</strong>nartopologicamentelos
realizarlaor<strong>de</strong>nacion,siemprequelafuncion<strong>de</strong>hashaemplearcumplaunaserie<strong>de</strong>condiciones[2,3].Si mnentoncespo<strong>de</strong>mosor<strong>de</strong>narlalista<strong>de</strong>nelementosconuntiempoproporcionalalqueempleamos enrecorrerla.Puestoquerecorrerlalista<strong>de</strong>estados\visitados"esalgoinherentealproceso<strong>de</strong>analisis sintactico,siempleamosbinsortnointroducimosningunacargacomputacionalextraenelproceso.Para ello,lounicoquenecesitamosesutilizarla\clave"(funcion<strong>de</strong>hash)a<strong>de</strong>cuada.Nuestrapropuestaconsisteencalcularyalmacenarlaclave<strong>de</strong>or<strong>de</strong>nacion,i8qi2Q,comoresultado<strong>de</strong>lproceso<strong>de</strong>calculo<strong>de</strong>l muestracomocalcularestaclave(observesequeelconjunto<strong>de</strong>nodosVequivalealconjunto<strong>de</strong>estados or<strong>de</strong>ntopologicoprimeroenprofundidadanteriormenteexpuesto(veaseelalgoritmo7).Elalgoritmo8 Q<strong>de</strong>F).Dichaclaveconsisteencontarelnumero<strong>de</strong>transiciones<strong>de</strong>lcaminoque,partiendo<strong>de</strong>q0,utiliza elmayornumero<strong>de</strong>transicionesparaalcanzaraqienF(estoes,lalongitud<strong>de</strong>lcaminomaslargohasta qienF,sinconsi<strong>de</strong>rarciclos). Pue<strong>de</strong>suce<strong>de</strong>rqueexistanvariosestadosenF,cuyovalorobtenidoalahora<strong>de</strong>calcularlaclave
q10
q13
q12
q14

3.5.ORDENACION\PRIMEROENPROFUNDIDAD"DELOSESTADOS Algoritmo7Algoritmoque<strong>de</strong>tectalasaristashaciaatrasenelgrafoquerepresentaaF. 39
1:Entrada
6:c:entero;v:nodo;Ndf:vectorjVj<strong>de</strong>entero; 5:Variables 3:Salida 4:F=(V;A;A0;I);fA0eslalista<strong>de</strong>aristashaciaatrasg 2:F=(V;A;I);fVeselconjunto<strong>de</strong>nodos,Ael<strong>de</strong>aristaseIel<strong>de</strong>nodosinicialesg
11:paratodov!v02Ahacer 10:Rv=cierto;Ndfv=c;c=c+1; 9:procedimientodfs(v:nodo); 8:Metodo 7:T;R:vectorjVj<strong>de</strong>fcierto;falsog;
15: 16: 14: 13: 12: siRv0entonces
17: siNdfvNdfv0^noTv0entonces
18: sino nsi dfs(v0); nsi A0=A0[fv!v0g;
23: 21:fprocedimiento 22:paratodov2Vhacer 19: 20:Tv=cierto; npara
24: 25:c=1; 26:A0=;; 27:paratodov2Ihacer npara Rv=Tv=falso;
28: 29: npara dfs(v);
parcial[2].Estonosuponeningunproblema,puesse<strong>de</strong>ducefacilmente<strong>de</strong>lfuncionamiento<strong>de</strong>lalgoritmo quecalcula,quenoexisteningunpar<strong>de</strong>estadosenF,qiyqj,talesquei=jyexistauncamino enFquelos\conecte",es<strong>de</strong>cir69qi,!qj^69qj,!qi.Ahorabien,porladiscusionquehemos realizadoenlaseccion3.2,quedaclaroque,lounicoquehemos<strong>de</strong>tenerencuentaalahora<strong>de</strong>calcular seaelmismo,yaque,engeneral,larelacion aplicadasobreelconjuntoi8qi2Qesunor<strong>de</strong>n
sehan<strong>de</strong>realizarloscalculos.Enconsecuencia,nosdaigualelor<strong>de</strong>nenelquesecalculenloscaminos quealcancenaaquellosestadosquetenganelmismovalorparalaclave,puesnoexisteninguncamino posibles\<strong>de</strong>pen<strong>de</strong>ncias",creadasporlaexistencia<strong>de</strong>caminosenF<strong>de</strong>ltipoqi,!qj,enelor<strong>de</strong>nenque enFquelosconecte.Portanto,proce<strong>de</strong>remosacalcularlosnuevoscaminosquealcancenalosestados correctamentelaspuntuaciones<strong>de</strong>losnuevoscaminosgeneradoscontransiciones<strong>de</strong>borrado,sonlas
mejor),coneln<strong>de</strong>garantizarlacorreccion<strong>de</strong>lcomputo. arista<strong>de</strong>estetipomodicaelvalor<strong>de</strong>alguno<strong>de</strong>loscaminosyapuntuados(luegogenerauncamino <strong>de</strong>Fcontransiciones<strong>de</strong>borrado,enelor<strong>de</strong>nestablecidoporlosvalores<strong>de</strong>,comenzando<strong>de</strong>s<strong>de</strong>0.La unicaexcepcionlaconstituyenlasaristashaciaatras.Enesecaso,seranecesariovolveratrassialguna
construidamedianteelalgoritmobinsort,queconvierteaQenunasecuenciano<strong>de</strong>creciente,(Q),
Dadoquesobreelconjuntoi8qi2Qesunor<strong>de</strong>nparcial,po<strong>de</strong>mosencontrarunapermutacion,

40 Algoritmo8Calculo<strong>de</strong>i8qi2Q. CAPITULO3.ANALISISSINTACTICOCORRECTORDEERRORES
3:Salida 4: 1:Entrada 2:F=(V;A;A0;I);
8:paratodov2Vhacer 7:Metodo 5:Variables 6:na:vectorjVj<strong>de</strong>entero,v;v0:nodo; :vectorjVj<strong>de</strong>entero;
13: 11: 12:paratodovtalquenav=0hacer 10: 9: npara paratodov0talquev!v02A^v!v062A0hacer nav=jv0!v2Ajjv0!v2A0j; v=0;
14: 15: 16: 17: npara
nav0=nav01; v0=maxfv0;v+1g;
usando.Elnumero<strong>de</strong>\cubos"autilizaresmax preproceso8,elcualconsistiraenlaaplicacionconsecutiva<strong>de</strong>losalgoritmos7y8.Comopue<strong>de</strong>apreciarse O(jQjB)(o,anandomas,alnumero<strong>de</strong>aristasquetieneelgrafoasociadoaF)[8,12,10]. enprofundidadpararecorrerelautomata,juntoconelcalculo<strong>de</strong>i8qi2Q,sepue<strong>de</strong>realizarenun <strong>de</strong>laobservacion<strong>de</strong>dichosalgoritmos,eltiempo<strong>de</strong>ejecucionparaestepreprocesoesproporcionala 8qi2Qi.Laconstruccion<strong>de</strong>lbosqueexpandidoprimero
puntuacion<strong>de</strong>qjcomoresultado<strong>de</strong>unatransicion<strong>de</strong>estetipo. <strong>de</strong>analisis,esaveriguarcuandoseanalizaunatransicion<strong>de</strong>borradohaciaatras.Facil,yaquesiqj2(ql) yj

3.6.IMPLEMENTACIONDELABUSQUEDAENHAZ Algoritmo9EsquemaalgortmicoparaEV3. 41
5: 4:paratodoql2(Q)hacer 1:inicializacion; 2:(Q)=festadosinicialesg; 3:parak=0hastajxjhacer
8: 7: 6: paratodoqj2(ql)hacer siqj62(Q)entonces C(qjk)=minnC(qjk);C(qlk)+W0(qlk;qjk)o;
10: 11: 12: 9: siC(qjk)hacambiadoyj

42 etapa<strong>de</strong>ltrellis,lapuntuacion<strong>de</strong>lmejorcaminoanalizadohastaelmomentomasunaconstanteque CAPITULO3.ANALISISSINTACTICOCORRECTORDEERRORES
<strong>de</strong>nominabamosanchura<strong>de</strong>lhazo.Vistoelmecanismoadoptado,<strong>de</strong>cidimostambienquenohaca faltaor<strong>de</strong>narlalista<strong>de</strong>caminossupervivientes,exceptoparamantenersiemprelaprimeraposicion<strong>de</strong> lalistaparaelcamino<strong>de</strong>mejorpuntuacion(veaselaseccion2.4.2yelalgoritmo4). quetenemosquehacerescompararconlacotaestablecida,cadavezquecalculamoslapuntuacion<strong>de</strong>un nuevocamino.Solamentea~nadimosestadosalaslistasQ,Q0y(Q),cuandolapuntuacion<strong>de</strong>lcamino quelesalcanzaesmejorqueelvalor<strong>de</strong>lacota,actualizandoexclusivamentesupuntuacion,enestecaso, silosestadosyaestabanenlacorrespondientelista.Deestemodolamodicacion<strong>de</strong>todoslosalgoritmos Laextension<strong>de</strong>todoslosalgoritmospresentadosparaqueimplementenlaBHesdirecta.Lounico
elcaso,<strong>de</strong>losalgoritmosEV3yEV3.V2,estaextensionesposiblegraciasalautilizacion<strong>de</strong>laclave<strong>de</strong> or<strong>de</strong>nacion,talcualsecomentoenelapartadoanterior.Dichaclavepermiteconstruirlalista(Q)a medidaquevisitamoslosestados<strong>de</strong>lautomata(veaselaseccionanterior). serai<strong>de</strong>nticaalamostradaenlaslneas19a25<strong>de</strong>lalgoritmo4.Noobstante,convienerecordarque,en
<strong>de</strong>loscaminosgeneradosportransiciones<strong>de</strong>borradoenor<strong>de</strong>n<strong>de</strong>puntuacion.Solamenteenestecaso actualmentemejorpuntuado,convendrahaceralgunasmatizaciones.TantoEV2comoEV1yEV1PQ implementanelmenteestaestrategia,sinembargopue<strong>de</strong>nexistirligerasdiferenciasencuantoalnumero <strong>de</strong>estadosquesevisitan.Ellose<strong>de</strong>bealhecho<strong>de</strong>queEV1yEV1PQsiemprecalculanlaspuntuaciones Encuantoalaestrategia<strong>de</strong>podasimultanea,reservandoelprimerlugar<strong>de</strong>lalistaparaelestado
nosiguenexactamenteelmismo\or<strong>de</strong>n"(es<strong>de</strong>cir,elor<strong>de</strong>n<strong>de</strong>\visita",queescomo<strong>de</strong>cirninguno)que
basicamente,essimilaralor<strong>de</strong>ntopologicoprimeroenprofundida<strong>de</strong>xplicadoenlaseccionanterior.Para sigueEV2.
elanalisis<strong>de</strong>lastransiciones<strong>de</strong>insercionysustitucion,empleaexactamenteelmismomecanismoque EV1,EV1PQyEV2.Veaseque,enelalgoritmo9,seutilizalalistaQparacalcularlaspuntuaciones<strong>de</strong> esque,alahoraanalizarlastransiciones<strong>de</strong>borrado,EV3sigueelor<strong>de</strong>nestablecidopor,elcual, EnloquesereereaEV3,pasaexactamentelomismoqueconEV1yEV1PQ.Launicadiferencia
buclelostrestipos<strong>de</strong>transicionesy,portanto,calculandolapuntuacion<strong>de</strong>todoslosnuevoscaminos loscaminosgeneradosmedianteestetipo<strong>de</strong>transiciones.
valor<strong>de</strong>podaautilizarenlaetapasiguiente,yaqueesmuyprobablequeelprimerestado<strong>de</strong>(Q) siguiendosiempreelor<strong>de</strong>nestablecidopor.Estosuponeunproblemaalahora<strong>de</strong>obtenerelprimer noconstituyaelcaminomejorpuntuadoenlaetapaactual<strong>de</strong>analisis,obteniendose,portanto,un Sinembargo,habamoscomentadoqueEV3.V2usaunicamentelalista(Q),analizandoenununico
primervalor<strong>de</strong>podaexcesivamenteelevado(veaselaseccion2.4.2).Hemossolucionadoesteproblema aproximandoelprimervalor<strong>de</strong>podaencadaetapa<strong>de</strong>analisis,porelvalorresultante<strong>de</strong>a~nadirle,ala puntuacion<strong>de</strong>lmejorcaminoobtenido(nosguardamoselpunteroadichocaminoen(Q)paraello) maslaanchura<strong>de</strong>lhaz,elvalor<strong>de</strong>latransicion<strong>de</strong>mnimocosteentretodaslasqueesposiblerealizar <strong>de</strong>s<strong>de</strong>el.Finalmente,quisieramosresaltarque,enlapractica,lasdiferenciasobservadasencuantoal numero<strong>de</strong>estadosvisitadosporlosdistintosalgoritmosquehemospresentadoenestecaptulo,son
3.7 insignicantes[10].
sololamejorsolucion,sinolasN10mejoressoluciones.Unejemplo<strong>de</strong>aplicacionpractica,enlaque Enmuchasocasionespue<strong>de</strong>resultarutil,einclusonecesario,queel<strong>de</strong>scodicadorD<strong>de</strong>vuelva,no Calculo<strong>de</strong>lasNMejoresSoluciones
10Estando,porsupuesto,acotadosuvalormaximo.

esultanecesarioqueD<strong>de</strong>vuelvalasNmejoressoluciones,semostraraenelcaptulo8.Noesnuestro 3.7.CALCULODELASNMEJORESSOLUCIONES 43
tesis<strong>de</strong>AndresMarzal[58].Nosotrosnoshemoslimitadoaimplementaruna<strong>de</strong>lasmejoressoluciones Losdosalgoritmosmasecientesqueresuelvenesteproblemason[58]: algortmicasque,paraelproblema<strong>de</strong>obtenerlasNmejoressoluciones,seexponenenestetrabajo11. metodosecientes<strong>de</strong>computo.Unacompletadisquisicionsobreestostemassepue<strong>de</strong>encontrarenla propositoenestatesis,niexponerlasdiculta<strong>de</strong>squeencierraesteproblema,nielproponernuevos
Elalgoritmobajo<strong>de</strong>mandarecursiva.
Nosotroshemoselegidoelsegundo<strong>de</strong>ellos,fundamentalmente,porestastresrazones: ElalgoritmobasadoenlabusquedaA.
1.Paraeltama~no<strong>de</strong>lostrellisesquesenosvanapresentar,ambosalgoritmossonigualmenteecientes.
2.Elalgoritmobajo<strong>de</strong>mandarecursivaesbastantemascomplicado<strong>de</strong>implementarquelabusqueda Elalgoritmobajo<strong>de</strong>mandarecursivaempiezaaserclaramentepreferible,cuandoeltama~no<strong>de</strong>l
A,lacual,enestecaso,resultabastantesencilla. busqueda<strong>de</strong>lamejor<strong>de</strong>scodicacionenreconocimientoautomatico<strong>de</strong>lhabla). grafo<strong>de</strong>busquedacomienzaaserextremadamentegran<strong>de</strong>(comoeselcaso,porejemplo<strong>de</strong>la
Nmejoressoluciones<strong>de</strong>D[58]: 3.EnestecasolabusquedaAesoptima,garantizandoselaobtencion<strong>de</strong>lasmejoressoluciones.
1.Enprimerlugar,proce<strong>de</strong>mosacalcularlapuntuacion<strong>de</strong>lmejorcaminoentreelnodoinicial<strong>de</strong> Sinmas,pasamosaexponerelproceso<strong>de</strong>computo<strong>de</strong>labusquedaAparaelcalculoeciente<strong>de</strong>las
nuestrotrellisparticular(veaselaseccion3.2)ycualquierotronodo<strong>de</strong>lmismo.Paraello,hemos <strong>de</strong>cididoutilizarEV3oEV3.V2.Enelcasoenelqueutilicemosbusquedaenhaz,solocalcularemos laspuntuaciones<strong>de</strong>loscaminossupervivientes,es<strong>de</strong>cir,calcularemoslaspuntuaciones<strong>de</strong>s<strong>de</strong>elnodo
2.Utilizamosunalista<strong>de</strong>hipotesisformadaporsujos<strong>de</strong>posiblescaminos<strong>de</strong>ltrellis.Inicialmente inicialhastatodoslosnodosquese\visiten"siguiendoestaestrategia.Noteseque,encadanodo <strong>de</strong>ltrellis,solamentetenemospuntuado(yguardado,paraposteriormentepo<strong>de</strong>rrecuperarlo)un introducimoselnodonalenel,conunapuntuacionglobaligualala<strong>de</strong>lmejorcaminoentreelnodo unicocamino;elmejorquellegahastael.
porlapuntuacionglobal<strong>de</strong>lashipotesis(ysehaimplementado,<strong>de</strong>hecho,comounheap).Hasta quesevacelalistaobienseobtenganlasNsolucionespedidas,iteramostresetapas:seleccion, ramicacionypoda. inicialyelmismoyconunapuntuacionparcial,la<strong>de</strong>lsujo,iguala0.Estalistaestaor<strong>de</strong>nada
3.Enlaetapa<strong>de</strong>seleccion,extraemos<strong>de</strong>lalistalahipotesisconlamejorpuntuacionglobal. 4.Comprobamossilahipotesisextradaconstituyeunasolucion,es<strong>de</strong>cir,esuncaminocompleto
11Y<strong>de</strong>hechohemoscontadoconelconsejo<strong>de</strong>lpropioAndresMarzal,alahora<strong>de</strong><strong>de</strong>cantarnosporunouotroalgoritmo.
5.Siloes,recuperamoselcaminoeneltrellis(usandolospunteroshaciaatraspreviamenteguardados, talcualseexplicoenelalgoritmo2<strong>de</strong>laseccion2.4)ymostramoslasolucion. (<strong>de</strong>s<strong>de</strong>elnodoinicialhastaelnal)eneltrellis.

446.Sino,proce<strong>de</strong>mosaramicarlahipotesis.Paraello,generamosnuevashipotesishijas,prolongando CAPITULO3.ANALISISSINTACTICOCORRECTORDEERRORES
tipos<strong>de</strong>transicionesquetenemosennuestroparticulartrellis(insercion,borradoysustitucion). Paracadahipotesishija,calculamossupuntuacionparcial,a~nadiendoleelcoste<strong>de</strong>latransicion elsujo<strong>de</strong>lahipotesispadreen\direccion"alnodoinicial<strong>de</strong>ltrellis.Es<strong>de</strong>cir,ennuestrocaso, consi<strong>de</strong>ramosunicamentetresposiblestipos<strong>de</strong>nodospre<strong>de</strong>cesores,quesecorrespon<strong>de</strong>nconlostres
7.Elmecanismo<strong>de</strong>podaviene<strong>de</strong>terminadoporeltama~noquejemosparalalista<strong>de</strong>hipotesis.En minadaporlapuntuacioncalculadaporEV3(oEV3.V2)paraelcorrespondientenodopre<strong>de</strong>cesor, massupuntuacionparcial. correspondientealapuntuacionparcial<strong>de</strong>lahipotesispadre.Supuntuacionglobalvendra<strong>de</strong>ter-
todomomentolalistacontienelasmejoressoluciones,porloquelasqueno\quepan"enlalista
nosimportemostrarsolucionesrepetidas12,bastaconquelimitemoseltama~no<strong>de</strong>lalista<strong>de</strong>hipotesis Sobreestoultimo,convienenoobstantehaceralgunapeque~namatizacion.Enelcasoenelqueno nosetienenencuenta.
exactamenteaNelementosynadamashayquea~nadiraloexpuestoanteriormente.Perosi,porel contrario,loquequeremosesobtenerlasNmejoressolucionesdistintas,comoesnuestrocaso,entonces hayquehacerlosiguiente:
yextraemoslasiguientemejorhipotesis<strong>de</strong>lalista.Para<strong>de</strong>terminarsilasolucionestarepetida, previamenteobtenida.Siesas,proseguimosconelproceso,perosino,simplementela<strong>de</strong>scartamos Fijaremoseltama~no<strong>de</strong>lalista<strong>de</strong>hipotesisaunvalorN0>N,losucientementegran<strong>de</strong>.
bastaconguardarse,encadanodo,lospunterosalashipotesisqueyahanpasadoporelpreviamente, comprobandosilasolucionparcialcorrespondientealsujoqueaportalanuevahipotesisestaya Enelpaso3,cuandohemosextradolamejorhipotesis,comprobamosquenoconduceaunasolucion
codicacionesutilizando,paraello,elalgoritmo<strong>de</strong>busquedaAtalcomosesintetizaen[58].EnelHemospresentado,pues,unmetodoeciente,basadoenEV3,capaz<strong>de</strong>calcularlasNmejores<strong>de</strong>s- contempladaparaesenodoono.
captulo8,apreciaremossuutilidadpracticaenlaimplementacion<strong>de</strong>l<strong>de</strong>scodicadorcomoguaparala <strong>de</strong>lcanalruidosoC.Precisamente,enelsiguientecaptulo,estudiaremossolucionesparalacorrecta estimacion<strong>de</strong>estosparametros,asumiendoquenuestromo<strong>de</strong>lo<strong>de</strong>Cesestocastico. estimacion<strong>de</strong>losparametros(inserciones,sustitucionesyborrados)quegobiernanelcomportamiento
12Po<strong>de</strong>mosutilizarmo<strong>de</strong>los<strong>de</strong>estadosnitosambiguos.

CUATRO CAPITULO
Estimacion<strong>de</strong>losParametros<strong>de</strong>l Canal
crimsontheribbon tightensroundmythroat. Ahundredyearsofblood, Iopenmymouth andmyheadburstsopen. Asoundlikeatiger thrashinginthewater, thrashinginthewater. Overandover, wedieoneaftertheother.
Contenidos<strong>de</strong>lCaptulo -\Onehundredyears",Pornography,1982,FictionRec.- RobertSmith(TheCure)
4.1Introduccion
4.5Suavizado<strong>de</strong>losParametros 4.2Adaptacion<strong>de</strong>lMo<strong>de</strong>lo<strong>de</strong>LenguajealCanal 4.3EstimacionmedianteBaum-Welch 4.4EstimacionmedianteViterbi
ruidoso,comoelproblemacentralquepreten<strong>de</strong>abordarestatesis.Ennuestroplanteamiento,habamos 4.1Enelcaptulo2habamosplanteadoelproblema<strong>de</strong>la\transmision"<strong>de</strong>frasesatraves<strong>de</strong>uncanal Introduccion
asumidolossiguientessupuestosbasicos: 45

461.El\lenguaje"queutilizaelemisorEparaenviarmensajesalreceptorR,sepue<strong>de</strong>representar CAPITULO4.ESTIMACIONDELOSPARAMETROSDELCANAL
2.ElruidoqueintroduceensufuncionamientoelcanalC,afectaunicamenteasmbolosconsi<strong>de</strong>rados fehacientementeporunmo<strong>de</strong>lo<strong>de</strong>estadosnitos(posiblementeestocastico)F. <strong>de</strong>formaindividual,pudiendoserepresentarmediantelastresoperaciones<strong>de</strong>edicion:insercion,
elproblema<strong>de</strong>,dadalaca<strong>de</strong>naxrecibidaporR,elmo<strong>de</strong>lo<strong>de</strong>estadosnitosF,aceptor<strong>de</strong>lasfrases Porotraparte,enelcaptuloanterior,<strong>de</strong>sarrollamosecientessolucionesalgortmicaspararesolver sustitucion1yborrado.
fuetransmitidaoriginalmenteporE.Esta\seguridad"noslaproporcionaencontrarbienlaca<strong>de</strong>nay <strong>de</strong>L(F)queseencuentraadistanciamnima<strong>de</strong>x(veaseecuacion2.1),bienlaca<strong>de</strong>nay<strong>de</strong>L(F)que conmayorprobabilidadpudohabersidotransformadaporCenlaca<strong>de</strong>nax(resolviendolaecuacion2.2 posiblesoperaciones<strong>de</strong>edicionquepue<strong>de</strong>realizarC,obtenerlaca<strong>de</strong>nayqueconmayor\seguridad" <strong>de</strong>llenguaje,L(F),queutilizaEparaenviarsusmensajesaR,ylos\pesos"(probabilida<strong>de</strong>s)<strong>de</strong>las
ca<strong>de</strong>nayquefueoriginalmentetransmitida. posibleserroresquehanocurridodurantelatransmision<strong>de</strong>lainformacionyobtener,nalmente,la o,alternativamente,laecuacion2.3).Amboscriteriosparecenrazonablesparaintentar\recuperar"los
estatesis,>comopo<strong>de</strong>mosestimarlaprobabilidad2<strong>de</strong>cadauna<strong>de</strong>lasoperacionesqueasumimosque <strong>de</strong>laprendizajeinductivo.Es<strong>de</strong>cir,puestoqueenlamayora<strong>de</strong>lasocasionesesimposibleplantearse <strong>de</strong>scribenelcomportamiento<strong>de</strong>C?Lasrespuestasaestaspreguntashayqueplantearselas<strong>de</strong>s<strong>de</strong>laoptica ciones.Sinembargo,>comopo<strong>de</strong>mosconstruirF?Yunacuestionmasimportante<strong>de</strong>s<strong>de</strong>laoptica<strong>de</strong>Losalgoritmos<strong>de</strong>busquedapresentadosenelcaptuloanterior,resuelvenecazmenteambasecua- partir<strong>de</strong>unconjunto<strong>de</strong>datos<strong>de</strong>aprendizaje. utilizart<strong>ecnicas</strong>quepermitan<strong>de</strong>sarrollaralgoritmosquelosaprendanoconstruyanautomaticamentea lasolucionaestosproblemasutilizandoaunexpertohumanoqueconstruyaestosmo<strong>de</strong>los,<strong>de</strong>bemos
conocidacomoinferenciagramatical[15,60].Tambienexistensolidast<strong>ecnicas</strong>inductivasparalaestimaciones)<strong>de</strong>F[39,68,43,75].Todosellosseenmarcan<strong>de</strong>ntro<strong>de</strong>unarama<strong>de</strong>laprendizajecomputacionalcion<strong>de</strong>lasprobabilida<strong>de</strong>s<strong>de</strong>unmo<strong>de</strong>loestocastico<strong>de</strong>F[27].Einclusoexistenmetodosqueapren<strong>de</strong>n directamentemo<strong>de</strong>losestocasticos<strong>de</strong>F,apartir<strong>de</strong>unconjunto<strong>de</strong>datos[39,25].Noobstante,esteno Existenmuchosmetodosconocidosparaelaprendizajeinductivo<strong>de</strong>la\estructura"(estadosytransitamiento<strong>de</strong>C.Dehecho,losunicostrabajosconocidospornosotros(aparte<strong>de</strong>lqueacontinuacionseeselcasoparalaestimacion<strong>de</strong>lasprobabilida<strong>de</strong>s<strong>de</strong>losparametrosestocasticosquerigenelcompor-
<strong>de</strong>talla)son[68,67].Elproblemaqueseplantea,pues,esel<strong>de</strong>calcularlaprobabilidadconlaqueC pue<strong>de</strong>cometercadauna<strong>de</strong>lasoperacionespermitidasporelmo<strong>de</strong>lo(insercion,borrado,sustituciony acierto),asumiendoqueserealizan<strong>de</strong>formaaleatoria.
nuestromo<strong>de</strong>lo\i<strong>de</strong>al"<strong>de</strong>lenguaje,es<strong>de</strong>cirF,alcomportamiento<strong>de</strong>lcanalmediantelautilizacion<strong>de</strong> queson\incorrectas",es<strong>de</strong>cir,quehansido\distorsionadas"poruncanalruidoso.Preten<strong>de</strong>mosadaptar enlasoperaciones<strong>de</strong>edicion,apartir<strong>de</strong>unconjunto<strong>de</strong>datos<strong>de</strong>aprendizaje,noshemosplanteadodos posiblesesquemas.Enelprimero<strong>de</strong>ellossolamentedisponemos<strong>de</strong>unconjunto<strong>de</strong>frasesqueasumimos Pararesolverelproblema<strong>de</strong>laestimacion<strong>de</strong>losparametros<strong>de</strong>unmo<strong>de</strong>lo<strong>de</strong>errorestocasticobasado
salida<strong>de</strong>lcanalruidoso.Enestecaso,utilizaremost<strong>ecnicas</strong><strong>de</strong>estimacionpormaximaverosimilitud[30] \transiciones<strong>de</strong>error"3,cuyaprobabilidadseraestimadamedianteanalisissintacticocorrector<strong>de</strong>errores (ASCE)<strong>de</strong>lasfrasesdistorsionadas.Parapo<strong>de</strong>raplicarelsegundoesquema,necesitamosunconjunto <strong>de</strong>aprendizajecompuestoporpares<strong>de</strong>frases<strong>de</strong>laforma:frase\limpia"<strong>de</strong>entrada,frase\corrupta"<strong>de</strong>
Sepue<strong>de</strong>nencontrarnumerosasalternativasparaelloen[69]. 1Incluyendoelaciertootransmisioncorrecta<strong>de</strong>lainformacion. 2Enelcaso<strong>de</strong>usarelcriterio<strong>de</strong>distanciamnimalospesossejanaprioriyconstituyenla\heurstica"<strong>de</strong>lmetodo. 3Alestilo<strong>de</strong>comoseinterpretanestasreglasenelalgoritmoECGI[68].

asadasenelalgoritmo<strong>de</strong>estimacionconocidocomoExpectation-Maximization(E-M)[31,61,52],aunque 4.2.ADAPTACIONDELMODELODELENGUAJEALCANAL 47
<strong>de</strong>obtenerla. esencialentreambast<strong>ecnicas</strong>radicaenelhecho<strong>de</strong>que,mientraselalgoritmoE-Mutilizaparasus estimacioneslaprobabilidad<strong>de</strong>cadamuestra<strong>de</strong>aprendizaje,Viterbirealizaunaaproximacion<strong>de</strong>la probabilidadreal<strong>de</strong>lamuestracalculandolaprobabilidad<strong>de</strong>lamejorforma,entretodaslasposibles, tambienplantearemost<strong>ecnicas</strong>basadasenloqueseconocecomoestimacionporViterbi.Ladiferencia
vecessuce<strong>de</strong>queexistenalgunos(normalmentepocos)sucesosnovistosenelconjunto<strong>de</strong>aprendizaje, paraloscualesnotenemosunaestimacion<strong>de</strong>suprobabilida<strong>de</strong>nnuestromo<strong>de</strong>lo,es<strong>de</strong>cir,suprobabilidad esnula.Sinembargoesonosignicaquetengamosgarantas<strong>de</strong>quenovayanaocurrirenlarealidad. Lasolucionaesteproblemapasaporrealizarunsuavizado<strong>de</strong>losparametros<strong>de</strong>lmo<strong>de</strong>lo,<strong>de</strong>scontando Finalmenteabordaremoselproblema<strong>de</strong>rivado<strong>de</strong>lautilizacionpractica<strong>de</strong>lmo<strong>de</strong>lo<strong>de</strong>error.Muchas
Enestecaptulo,ofreceremosunpar<strong>de</strong>solucionesparapaliaresteproblema. unamnimacantidad<strong>de</strong>losparametrosestimadospararepartirlaentrelosquetienenprobabilidad0.
4.2 vaaguiarlareestimacion<strong>de</strong>losparametros<strong>de</strong>C.Enestesentido,escomosiconsi<strong>de</strong>raramosunaunica Lai<strong>de</strong>afundamental<strong>de</strong>laquepartimos,consisteenconsi<strong>de</strong>rarqueeselmo<strong>de</strong>lo<strong>de</strong>lenguaje,F,elque Adaptacion<strong>de</strong>lMo<strong>de</strong>lo<strong>de</strong>LenguajealCanal
paraunconjunto<strong>de</strong>frasesT,posiblementecompuestotantoporfrasespertenecientes,comoporfrases nopertenecientesaL(F)(distorsionadasporelcanalC),suprobabilidad<strong>de</strong>aceptacion,es<strong>de</strong>cir: distribucionconjunta<strong>de</strong>probabilidadparaFyC.Dehecholoquepreten<strong>de</strong>moshaceresmaximizar,
8x2TPFC(x) Y
Basicamenteestai<strong>de</strong>aconsisteenconsi<strong>de</strong>rarunmo<strong>de</strong>lo<strong>de</strong>estadosnitoscomunparaFyC.Dicho (4.1)
nuestrocaso,loquetenemoseslafrecuenciaconlaqueCharealizadocualquiera<strong>de</strong>estasoperaciones, obtenerlaprobabilidadconlaqueCrealizacualquieroperacion<strong>de</strong>insercion,sustitucionyborrado.En transicionespropias<strong>de</strong>error,talcualsecomentoenlaseccion2.5.Asumimosquetenemosunmo<strong>de</strong>lo estocastico<strong>de</strong>F.Igualmente,asumimosquetenemosunmo<strong>de</strong>loestocastico<strong>de</strong>C,es<strong>de</strong>cirquepo<strong>de</strong>mos mo<strong>de</strong>loconstara,inicialmente,<strong>de</strong>laestructurapropia<strong>de</strong>F,paraposteriormenteexten<strong>de</strong>rloconlas
probabilida<strong>de</strong>sapartir<strong>de</strong>lasfrecuencias4.Asociadaconcadaposibleoperacion<strong>de</strong>error,llevamosuna cuentaindicandoelnumero<strong>de</strong>vecesquesehaefectuadodichaoperacionenT. talcualsecomentoenlaseccion2.5.Estonosuponeningunproblema,puesesmuyfacilcalcularlas
Cu(\;a)representaelnumero<strong>de</strong>vecesquesehainsertadoaenT.
Cu(a;\)representaelnumero<strong>de</strong>vecesquesehaborradoaenT. quea=b),enT. Cu(a;b)representaelnumero<strong>de</strong>vecesquesehasustituidoaporb,incluyendoelacierto(casoen
bilida<strong>de</strong>s.Conceptualmentesonlomismo,aunqueesindudablequelasfrecuenciascontienenmuchamasinformacionquelasproba-
4Peronoalainversa.Enrealidad,nosotrossiemprepreferimostrabajarconfrecuenciasenlugar<strong>de</strong>probabilida<strong>de</strong>s.

48Enrealidad,CueslomismoqueFr(veaselaseccion2.5)salvoporlacoletilla\enT"quehemos CAPITULO4.ESTIMACIONDELOSPARAMETROSDELCANAL
nuevasfrecuenciasque,paralasoperaciones<strong>de</strong>C,obtendremossiguiendoelmetodo<strong>de</strong>estimacionque, estimadoapartir<strong>de</strong>otroconjunto<strong>de</strong>datos<strong>de</strong>aprendizaje,laspue<strong>de</strong>haberjadounexperto<strong>de</strong>manera heurstica,etc.Comolashayamosobtenido,ensuma,daigual.Sinembargo,Cuvaaproporcionarlas nosotrosFrrepresentalasfrecuenciasiniciales<strong>de</strong>lasoperaciones<strong>de</strong>C,lascualessepue<strong>de</strong>nhaber a~nadido.Sinembargo,queremosdistinguirlasennuestranotacion,precisamenteporesematiz.Para
acontinuacion,proponemos. 1.Construimoselmo<strong>de</strong>lointegradocompuestoporFyC.Normalizamoslasprobabilida<strong>de</strong>s<strong>de</strong>l 2.Paralainicializacion<strong>de</strong>lascuentas<strong>de</strong>lasoperaciones<strong>de</strong>error,Cu,tenemosdosalternativas, seccion2.5,utilizandolasfrecuenciasiniciales<strong>de</strong>lasoperaciones<strong>de</strong>CdadasporFr. mo<strong>de</strong>lointegrado,coneln<strong>de</strong>garantizarlaconsistencia<strong>de</strong>lmismo,talcualseexplicoenla
Normalmente,utilizaremosestaalternativa. inicializamosCuconelvalor<strong>de</strong>lafrecuenciainicial,Fr,paralaoperacioncorrespondiente. ponemoselvalor<strong>de</strong>todaslascuentasa0obien,
3.Paracadafrasex2Tcalculamosy=argmaxy2L(F)PFC(yjx).Asociadoayobtenemosel 4.Paracadatransicion<strong>de</strong>errorutilizadaenC,aumentamosen1elvalor<strong>de</strong>sucuentaasociadaen compuestotantoportransicionespropias<strong>de</strong>F,comoportransiciones<strong>de</strong>error. camino<strong>de</strong>aceptacion<strong>de</strong>maximaverosimilitu<strong>de</strong>nelmo<strong>de</strong>lointegrado,C.Estecaminopue<strong>de</strong>estar
5.Repetimoslospasos3y4hastaqueyanoque<strong>de</strong>nmasfrasesporanalizarenT. Elprocesoqueacabamos<strong>de</strong>proponersepue<strong>de</strong>repetirvariasveces.Po<strong>de</strong>mosjarunnumeromaximo Cu.
losobtenidosnalmenteparaCuenlaiteracionr-esima,8r1r

teora,in<strong>de</strong>pendiente<strong>de</strong>lcaminoquerealmentehayamoselegidonalmenteparaaceptarx.Ennuestro 4.3.ESTIMACIONMEDIANTEBAUM-WELCH 49
caso,siemprequehablemos<strong>de</strong>perplejidad,nosreferiremosalaperplejidad<strong>de</strong>lmo<strong>de</strong>localculadatras obtenerelcamino<strong>de</strong>aceptacionmaximoverosmilparacadafrase<strong>de</strong>T,talcualhemosexplicado.Esto suponequelaperplejidadquecalculamossera,normalmente,unaaproximacionalareal5.Precisamente, otrocriterio<strong>de</strong>parada<strong>de</strong>lproceso<strong>de</strong>reestimacionqueacabamos<strong>de</strong><strong>de</strong>scribir,consistiraen<strong>de</strong>tenerel procesocuandoladiferenciaenlaperplejidadobtenidaparaT,entredositeracionesconsecutivas,fuese menorqueun<strong>de</strong>terminadovalor.
enelanalisis<strong>de</strong>dichasfrases.Dichascuentassepue<strong>de</strong>nusarenlospasos2y4,<strong>de</strong>lamismaforma F,paraaceptarlasfrases<strong>de</strong>T.Lasultimasindicaranelnumero<strong>de</strong>vecesqueelestadohasidonal mismo.Lasprimerasindicaranelnumero<strong>de</strong>vecesquesehautilizadolacorrespondientetransicionen asociadasconcadatransicionpropia<strong>de</strong>lautomataFe,incluso,cuentasasociadasconcadaestado<strong>de</strong>l Delamismaformaquetenemoscuentasasociadasconcadatransicion<strong>de</strong>error,po<strong>de</strong>mostenercuentas
queseusanlascuentasasociadasalastransiciones<strong>de</strong>error.SiFesestocastico,noparececonveniente
forma<strong>de</strong>frecuencias.Sinoesas,nada<strong>de</strong>loquehemoscomentadoservira,yaque,irremediablemente, \per<strong>de</strong>r"suinformacionprobabilstica.Enestecaso,lasfrases<strong>de</strong>T<strong>de</strong>benservirparareforzarlas inicializarseconlasfrecuencias<strong>de</strong>utilizacion<strong>de</strong>dichastransicionesyestados,estimadasenlaiteracion anterior.Enlaprimeraiteracion,asumiremosquelasprobabilida<strong>de</strong>soriginales<strong>de</strong>Fsehandadoen seper<strong>de</strong>ralainformacionprobabilsticaoriginal. estimaciones<strong>de</strong>F.Portanto,enelpaso2,lascuentasparalastransicionesyestados<strong>de</strong>F,<strong>de</strong>ben
entrenar,omejor,adaptarenexcesoelmo<strong>de</strong>lointegradoaestosdatos.Comoconsecuencia,aunque obtengamosunamenorperplejidadparaT,enlapracticapue<strong>de</strong>suce<strong>de</strong>rqueelmo<strong>de</strong>loofrezcapeores prestaciones,yaquecualquiersucesonopresenteenT,tendraasociadaunaprobabilidadbastantebaja. adaptacion6<strong>de</strong>lmo<strong>de</strong>lointegradoalosdatos<strong>de</strong>T.Sinembargo,cabe<strong>de</strong>cirquecorremoselriesgo<strong>de</strong> Si,duranteelproceso<strong>de</strong>scrito,reestimamoslasprobabilida<strong>de</strong>s<strong>de</strong>F,po<strong>de</strong>mosconseguirunamejor
parainicializarestosparametros,consisteenrealizarelmismoproceso<strong>de</strong>scritoconanterioridad,pero Podremosobservarestecomportamientoenalgunos<strong>de</strong>losexperimentos<strong>de</strong>scritosenelcaptulo7. unaestimacioninicial<strong>de</strong>losparametrosquerigenelfuncionamiento<strong>de</strong>C?Lasolucionqueproponemos utilizandoelcriterio<strong>de</strong>mnimadistancia(veaseecuacion2.1).Paraelloignoramoslasprobabilida<strong>de</strong>s <strong>de</strong>F,quedandonossolamenteconsuestructura,utilizandoladistancia<strong>de</strong>Levenshtein[53]enelanalisis Quedatodavaporresolverelproblema<strong>de</strong>losvalores<strong>de</strong>Frenlaiteracion1,estoes>comoobtener
consi<strong>de</strong>radascomolasfrecuenciasiniciales<strong>de</strong>losparametros<strong>de</strong>C.Estosseranlosvaloresqueutilizaremos paraFrenlaprimeraiteracion. <strong>de</strong>lasfrases<strong>de</strong>T.Lascuentasqueobtengamosparalautilizacion<strong>de</strong>lastransiciones<strong>de</strong>error,seran
quelasfrases<strong>de</strong>Tpertenecena enlaseccion4.5. analizada.Estosolopue<strong>de</strong>ocurrirsiexistealgunparametro<strong>de</strong>Cconprobabilidadnula,yaqueasumimos Ellectoravispadosehabrapreguntadoqueocurresiexistealgunafrase<strong>de</strong>Tquenopuedaser .Parasolucionaresteproblema,seproponenunpar<strong>de</strong>alternativas
4.3 sondistintasy,portanto,vanaestimarse<strong>de</strong>formain<strong>de</strong>pendiente.A<strong>de</strong>mas,supondremosquetenemos Enlasdossiguientesseccionesvamosaconsi<strong>de</strong>rarquelasdistribuciones<strong>de</strong>probabilidad<strong>de</strong>CyF EstimacionmedianteBaum-Welch
dadalaestructura<strong>de</strong>dichomo<strong>de</strong>lo. 6Laperplejidadobtenida,enlamayora<strong>de</strong>loscasos,seramenor.
5Serai<strong>de</strong>nticasielcamino<strong>de</strong>aceptacionsiemprefueseunicoenelmo<strong>de</strong>lointegrado.Peroestoesmuydifcilquesuceda

50 unconjunto<strong>de</strong>datos<strong>de</strong>aprendizajeparaestimarlosparametros<strong>de</strong>C,T,compuestoporpares<strong>de</strong>frases CAPITULO4.ESTIMACIONDELOSPARAMETROSDELCANAL
distribucion<strong>de</strong>probabilidadparaFsehaestimadoapartir<strong>de</strong>otroconjunto<strong>de</strong>datos<strong>de</strong>aprendizaje, bienaprendiendoprimerosuestructuray<strong>de</strong>spuesempleandot<strong>ecnicas</strong>comolaspropuestasen[27],bien <strong>de</strong>laforma(fraseincorrecta<strong>de</strong>salida<strong>de</strong>lcanal,frasecorrecta<strong>de</strong>entradaalcanal).Asumiremosquela
plantea,esel<strong>de</strong>disponer<strong>de</strong>unconjunto<strong>de</strong>datos<strong>de</strong>aprendizajecompuestoporpares<strong>de</strong>ca<strong>de</strong>nas<strong>de</strong>la forma(salida<strong>de</strong>lcanal,entradaalcanal).Sinosedispone<strong>de</strong>estosdatos,siempresepue<strong>de</strong>utilizarla aproximacionpropuestaenlaseccionanterior. estaalternativapue<strong>de</strong>funcionarmejorparaungrannumero<strong>de</strong>aplicaciones.Elunicoproblemaquese aprendiendodirectamenteunmo<strong>de</strong>loestocastico<strong>de</strong>Fapartir<strong>de</strong>lamuestra[39,25].Enprincipio,
Σ Σ Σ Σ
Σ
Figura4.1:Automataquerepresentalafraseaabc,extendidoconlastransiciones<strong>de</strong>C.Lasinsercionessonlas
Σ-{a} Σ-{a} Σ-{b} Σ-{c}
a a b c
A1
A2 B C
talcualsemuestraenlagura4.1.Paraestimarlosvalores<strong>de</strong>losparametros<strong>de</strong>C,utilizaremos transicionesetiquetadascon,lassustitucioneslasetiquetadasconfsmbolocorrectogyelrestosonborrados.
t<strong>ecnicas</strong><strong>de</strong>estimacionpormaximaverosimilitud[30],basadasenelalgoritmoExpectation-Maximization Cadauna<strong>de</strong>lasfrasescorrectaslavamosarepresentarcomosifueseunmo<strong>de</strong>lo<strong>de</strong>Markov(MM),
\ \ \ \
obtenidasparalosparametros<strong>de</strong>C.PuestoquecadafrasecorrectaserepresentamedianteunMM, (E-M)[31,61,52].Estealgoritmorealizaunprocesoiterativo,coneln<strong>de</strong>encontrarlosvalores<strong>de</strong> losparametrosquemaximizanlaverosimilitud<strong>de</strong>lamuestra<strong>de</strong>aprendizaje.Estaaproximacionha sidorecientementepropuestaen[67],conexperimentosque<strong>de</strong>muestranlabondad<strong>de</strong>lasestimaciones mo<strong>de</strong>los[18,19,17,27].Ellonoshaconducidoa<strong>de</strong>sarrollarunavariante<strong>de</strong>lconocidoalgoritmoforward- hemosutilizadoconocidastransformacionescrecientesparalaestimacion<strong>de</strong>losparametrosendichos backward[27],paralaestimacion<strong>de</strong>losparametros<strong>de</strong>C.Losalgoritmosforwardybackwardutilizadosen estecaso,sehanimplementadocomounaextension<strong>de</strong>lalgoritmopropuestoen[85],elcualfuepresentado enlaseccion2.3.Losesquemas10y11muestran,respectivamente,losalgoritmosresultantes.
asociadaunaposibleoperacion<strong>de</strong>error(que,enrealidad,noestal):lasustitucionporsmismo.De que<strong>de</strong>nominaremosprobabilidad<strong>de</strong>n<strong>de</strong>frase,conelobjetivo<strong>de</strong>estimarlaprobabilidad<strong>de</strong>noinsertar elalfabeto,elsmbolo<strong>de</strong>n<strong>de</strong>frase,querepresentaremoscomo$.Dichosmbolosolamentetendra unsmboloalnal<strong>de</strong>lafrase(veaselagura4.1).Paraelloconsi<strong>de</strong>raremosunsmboloadicionalen Adiferencia<strong>de</strong>ltrabajo<strong>de</strong>RistadyYianilos7,nosotroshemos<strong>de</strong>nidounparametroadicional,al
estaforma,sirepresentamosporFr($;$)elnumero<strong>de</strong>vecesqueseproduceestasustitucion(estoes equivalenteacontarelnumero<strong>de</strong>nes<strong>de</strong>frase)tendremosque,dadala<strong>de</strong>nicion<strong>de</strong>lmo<strong>de</strong>lointegrado porFyCquevimosenlaseccion2.5:
suyo.
7Dehecho,estetrabajolohemosrealizado<strong>de</strong>formain<strong>de</strong>pendienteycomenzoantes<strong>de</strong>quetuvieramosconstancia<strong>de</strong>l Frins=X 8a2 a6=nX8b2Fr(a;b)+Fr($;$)

4.3.ESTIMACIONMEDIANTEBAUM-WELCH Algoritmo10Algoritmoforward. 51
1:Entrada 2:x;y2;
7:i;j:entero; 4:Salida 5: 6:Variables 3: :vector0::jyj+1;0::jxj+1<strong>de</strong>

52 Algoritmo11Algoritmobackward. CAPITULO4.ESTIMACIONDELOSPARAMETROSDELCANAL
1:Entrada 2:x;y2;
7:i;j:entero; 3: 4:Salida 5: 6:Variables :vector0::jyj+1;0::jxj+1<strong>de</strong>

4.3.ESTIMACIONMEDIANTEBAUM-WELCH SiendopC(xjy)loqueenlaseccion2.3habamos<strong>de</strong>nominadoPC(xjy)(enestecaso,hemosutilizado 53
secuencias<strong>de</strong>transformacionesdistintasqueproducenxapartir<strong>de</strong>y.Comosabemos(veaselamisma seccionenelcaptulo2),(TI(y))=Qni=1(Ti(yi1))y(T(y))=(a;b),siendoayblossmbolos implicadosenlatransformacion. lapminusculaparadistinguirlaprobabilidad<strong>de</strong>unamuestraconcreta,<strong>de</strong>laprobabilidadPmayuscula <strong>de</strong>lconjunto<strong>de</strong>aprendizaje).Porconsiguiente,pC(xjy)=P8I2S(TI(y)),siendoSelconjunto<strong>de</strong>
esto<strong>de</strong>cirque,sinperdida<strong>de</strong>generalidad,sitenemos,pongamosporcaso,dosca<strong>de</strong>naszyw,talesque jzj=jwj=1,z=a,w=b,lasunicassecuencias<strong>de</strong>operaciones<strong>de</strong>errorquevamosatenerencuenta resadosenaquellassecuencias<strong>de</strong>transformacionesquepodamosobservar.Es<strong>de</strong>cir,estamosinteresados enelconjuntoposible<strong>de</strong>trazas,talcualse<strong>de</strong>neen[85],quepermitenobtenerxapartir<strong>de</strong>y.Quiere Enestosmomentosconvienehacerunamatizacionalrespecto.Nosotrossiemprehemosestadointe-
son:
Lasecuenciacompuestaporlainsercion<strong>de</strong>byelborrado<strong>de</strong>a,(\;b);(a;\). Lasecuenciacompuestaporlasustitucion<strong>de</strong>aporb,(a;b). Lasecuenciacompuestaporelborrado<strong>de</strong>aylainsercion<strong>de</strong>b,(a;\);(\;b).
dichainformacionnosepue<strong>de</strong>extraer<strong>de</strong>lamuestra<strong>de</strong>aprendizaje(notenemosformaalguna<strong>de</strong>poplo,secuencias<strong>de</strong>laforma(a;c);(c;d):::(z;b)quetambienproducenelefecto<strong>de</strong>seado.Puestoque<strong>de</strong>robservarla),laconsi<strong>de</strong>raremosirrelevanteparaelproblemaqueestamostratando.Enconsecuencia, vamosaignoraraquellastransformacionesquenopo<strong>de</strong>mosobservar.Portanto,po<strong>de</strong>mosrepresentar Noteseque,enrealidad,estamossimplicandoelproblema,yaqueestamos<strong>de</strong>spreciando,porejem-
laforma(a;b),siendoayblossmbolosimplicadosencadauna<strong>de</strong>lasoperaciones<strong>de</strong>transformacion unasecuencia<strong>de</strong>transformacionescomounasecuencia<strong>de</strong>operaciones<strong>de</strong>error,compuestaporpares<strong>de</strong> observadas.Portanto:
Precisamenteestaprobabilidadlacalculatantoelalgoritmo10,almacenandolaenjyj+1;jxj+1,como pC(xjy)=X 8I2SY 8(a;b)2I(a;b) (4.3)
elalgoritmo11,almacenandolaen0;0,teniendoencuentalosparametrosqueutilizamosparamo<strong>de</strong>lar
errorentrexyy,hastalossmbolosxjyyi,elalgoritmoforwardhacomputadocorrectamentela suponiendoqueenambosalgoritmoshemoscalculadotodaslassecuenciasposibles<strong>de</strong>operaciones<strong>de</strong> frasesaalinear,mientraselsegundolohacecomenzandoporelnal(ultimosmbolo).Enconsecuencia, acalculartodaslasposiblessecuencias<strong>de</strong>operaciones<strong>de</strong>error<strong>de</strong>s<strong>de</strong>elcomienzo(primersmbolo)<strong>de</strong>las elcomportamiento<strong>de</strong>C.Launicadiferenciaentreambos,resi<strong>de</strong>enelhecho<strong>de</strong>queelprimerocomienza
probabilidadpC(x1j1jy1i1)almacenandolaeni1;j1,mientrasqueelalgoritmobackwardha computadocorrectamentepC(xjjyi)almacenandolaeni;j.
garantizaquelosnuevosvaloresestimados,incrementanelvalor<strong>de</strong>lafuncionobjetivoconrespectoa remosunprocedimientoiterativo.Primeramentejaremosunosvaloresarbitrariospara(tpicamentevaloresequiprobables),<strong>de</strong>spuesobtendremosnuevosvalores<strong>de</strong>estosparametros,encadaiteracion,utilizandotransformacionescrecientes(enestecaso,aplicandola<strong>de</strong>sigualdad<strong>de</strong>Baum-Eagon[18]).SeParaestimarlosvalores<strong>de</strong>losparametros<strong>de</strong>quemaximizanlafuncion<strong>de</strong>verosimilitudV,segui- laanterioriteracion.Esteprocesosuelerepetirsebienunnumerojo<strong>de</strong>iteraciones,bienhastaque

54 ladiferencia<strong>de</strong>lvalorcalculadoparaVentredositeracionesconsecutivas,seamenorqueuncierto. CAPITULO4.ESTIMACIONDELOSPARAMETROSDELCANAL
conrespectoa,alaplicarla<strong>de</strong>sigualdad<strong>de</strong>Baum-Eagontenemosque[18]: laiteracioni+1como^(a;b).ComosabemosqueP8c2(a;c)=18a2yqueVesunpolinomio Suponiendoque(a;b)representalaestimacionpara,engeneral,elerror<strong>de</strong>sustitucion(insercionsi a=\yborradosib=\)<strong>de</strong>aporbenlaiteracioni,representaremoslanuevaestimacionobtenidaen
^(a;b)= X8c2(a;c)@V (a;b)@V @(a;b)
= X8c2(a;c)X (a;b)X 8(x;y)2T(pC(xjy))1@pC(xjy) @(a;c)
8(x;y)2T(pC(xjy))1@pC(xjy) @(a;b)
= 8(x;y)2T(pC(xjy))1(a;b)@pC(xjy) X @(a;b) @(a;c) (4.4)
X8c28(x;y)2T(pC(xjy))1(a;c)@pC(xjy) X
Paracalcular,engeneral8a;b28 @(a;c)
@pC(xjy)
unaposiblesecuencia<strong>de</strong>operaciones<strong>de</strong>error(parametros<strong>de</strong>C).Enconsecuencia,<strong>de</strong>niremosun <strong>de</strong>beremos<strong>de</strong>nir,previamente,elconceptoformal<strong>de</strong>alineamientoentredosca<strong>de</strong>nas,utilizando @(a;b)
<strong>de</strong>operaciones<strong>de</strong>errorentreambasca<strong>de</strong>nas,comocomentamosanteriormente)entrexyy,segunC, transformacionesqueproducenxapartir<strong>de</strong>y,locualesequivalenteaconsi<strong>de</strong>rarunaposiblesecuencia como: posiblealineamiento,I(recuer<strong>de</strong>seque,ennuestranotacion,Irepresentabaunaposiblesecuencia<strong>de</strong>
alineamientoI,pC(xjy;I),como: Porconsiguiente,po<strong>de</strong>moscalcularlaprobabilidad<strong>de</strong>obtenerlaca<strong>de</strong>nax,dadalaca<strong>de</strong>nayyel I=f(a;b):a=yi;1ijyj_a=n^b=xj;1jjxj_b=ng
captulo2).
8Recuer<strong>de</strong>sequehemosconsi<strong>de</strong>radoqueelsmbolonulo,n,perteneceacualquieralfabetoqueutilicemos(vease pC(xjy;I)=Y 8(a;b)2I(a;b)

4.3.ESTIMACIONMEDIANTEBAUM-WELCH Y.nalmente,siendoSelconjunto<strong>de</strong>todoslosposiblesalineamientosentrexyy,calculamospC(xjy) 55
como:
Elcalculo<strong>de</strong>la<strong>de</strong>rivadaparcial<strong>de</strong>estepolinomio,conrespectoa(a;b),se<strong>de</strong>tallaacontinuacion. pC(xjy)=X 8I2SpC(xjy;I)
@pC(xjy) @(a;b)=@X
=X 8I2SpC(xjy;I) @(a;b) (a;b) N(a=yi;1ijyj_a=n^b=xj;1jjxj_b=n;I) =X 8I2S@pC(xjy;I) @(a;b) (4.5)
a=yi;1ijyj_a=nyenqueb=xj;1jjxj_b=nenelalineamientoI.Particularizandola ecuacion4.5alostrestipos<strong>de</strong>operaciones<strong>de</strong>error(parametros<strong>de</strong>C)quehemosconsi<strong>de</strong>rado,obtenemos lasformulas<strong>de</strong>reestimacionpara,poresteor<strong>de</strong>n,inserciones(ecuacion4.6),sustituciones(ecuacion4.7) yborrados(ecuacion4.8): siendoN(a=yi;1 i jyj_a=n^b=xj;1 j jxj_b=n;I)elnumero<strong>de</strong>vecesenque
8I2SX X8(a;b)2I
1jjxj b=xj a=npC(xjy;I)
(a;b)=1 (a;b)X8i;j 1jx 1iyX
=1 8I2SpC(xjy;I;a=n;b=xj)
(a;b)X8i;j 1jx 1iyX
=1 (a;b)X8i;j8I2SpC(x1j1jy1i;I)(n;xj)pC(xjjyi;I)
1jx 1iyX
=1 (a;b)X8i;j8I2SpC(x1j1jy1i;I)(n;xj)X
8I2SpC(xjjyi;I)
=1 (a;b)X8i;j 1jxpC(x1j1jy1i)(n;xj)pC(xjjyi) 1iy
1jxi;j1(n;xj)i;j 1iy (4.6)

56 CAPITULO4.ESTIMACIONDELOSPARAMETROSDELCANAL
8I2SX X8(a;b)2I
1jjxj 1ijyj b=xj a=yipC(xjy;I)
(a;b)=1 (a;b)X8i;j 1jx 1iyX
8I2SpC(xjy;I;a=yi;b=xj)
=1 (a;b)X8i;j 1jx 1iyX
=1 (a;b)X8i;j8I2SpC(x1j1jy1i1;I)(yi;xj)pC(xjjyi;I)
1jx 1iyX
=1 (a;b)X8i;j8I2SpC(x1j1jy1i1;I)(yi;xj)X
8I2SpC(xjjyi;I)
=1 (a;b)X8i;j 1jxpC(x1j1jy1i1)(yi;xj)pC(xjjyi) 1iy
1jxi1;j1(yi;xj)i;j 1iy
X (4.7)
8I2SX 8(a;b)2I 1ijyj a=yi b=npC(xjy;I) (a;b)=1 (a;b)X8i;j 1jx 1iyX
=1 8I2SpC(xjy;I;a=yi;b=n)
(a;b)X8i;j 1jx 1iyX
=1 (a;b)X8i;j8I2SpC(x1jjy1i1;I)(yi;n)pC(xjjyi;I)
1jx 1iyX
=1 (a;b)X8i;j8I2SpC(x1jjy1i1;I)(yi;n)X
8I2SpC(xjjyi;I) (4.8)
=1 (a;b)X8i;j 1jxpC(x1jjy1i1)(yi;n)pC(xjjyi) 1iy
Sialnumerador<strong>de</strong>laecuacion4.4le<strong>de</strong>nominamoscuentas<strong>de</strong>lparametro(a;b)ylorepresentamos 1jxi1;j(yi;n)i;j 1iy
porCu(a;b)(veaselaseccionanterior)entonces,alsustituirlosterminos<strong>de</strong>sarrollados,obtenemoslas formulasparacalcularlosvaloresesperadosparalasoperaciones<strong>de</strong>insercion(ecuacion4.9),sustitucion

(ecuacion4.10)yborrado(ecuacion4.11)enT.Tengaseencuentaquesehaconsi<strong>de</strong>radoelhecho<strong>de</strong> 4.3.ESTIMACIONMEDIANTEBAUM-WELCH 57
quepC(xjy)=jyj+1;jxj+1=0;0y<strong>de</strong>quea=yi^b=xj.Elalgoritmo12muestracomoserealizael calculo<strong>de</strong>lsumatoriointernoparaestastresecuaciones. Cu(n;b)=X 8(x;y)2TX8i;j 1jxi;j1(n;b)i;j 1iy jyj+1;jxj+1 (4.9)
Cu(a;b)=X 8(x;y)2TX8i;j 1jxi1;j1(a;b)i;j 1iy jyj+1;jxj+1 (4.10)
Cu(a;n)=X 8(x;y)2TX8i;j 1jxi1;j(a;n)i;j 1iy jyj+1;jxj+1 (4.11)
calcularaengeneral(sustituyendoterminosenlaecuacion4.4)como: Enconsecuencia,lanuevaestimacion<strong>de</strong>cualquierparametro(a;b)enunaiteracion<strong>de</strong>terminada,se
^(a;b)=Cu(a;b) 8c2Cu(a;c) X (4.12)
hastaquesecumplaunciertocriterio<strong>de</strong>parada,normalmente: verosimilitud,mediantela<strong>de</strong>sigualdad<strong>de</strong>Baum-Eagon9,<strong>de</strong>losparametrosquecontrolanelfuncionamiento<strong>de</strong>C.Estealgoritmose<strong>de</strong>scribeenelesquema13.Enlapractica,elproceso<strong>de</strong>scritoserepetira Finalmente,estamosencondiciones<strong>de</strong>presentarelalgoritmoquerealizalaestimacionpormaxima
Queserealiceunnumerojo<strong>de</strong>iteraciones,previamenteestablecido. QueladiferenciaentrelosvalorescalculadosparaV(funcion<strong>de</strong>verosimilitudamaximizar)endos iteracionesconsecutivas,seamenorqueuncierto.
nosrestaporaclararunpar<strong>de</strong>conceptos: Despues<strong>de</strong>todaestaexposicion(esperamosquenohayaresultadoexcesivamentefarragosa),tansolo
mo<strong>de</strong>los(ocultos)<strong>de</strong>Markov.
9Tradicionalmentese<strong>de</strong>nominaBaum-Welchalaaplicacion<strong>de</strong>estemetodoparalaestimacion<strong>de</strong>losparametrosen Enlaseccion2.5,cuandoexplicabamoscomoconstruirelmo<strong>de</strong>locombinadoF-C<strong>de</strong>maneraquese cumplieselapropiedad<strong>de</strong>consistencia,habamoscomentadoquenecesitabamoslasfrecuencias<strong>de</strong>

58 Algoritmo12Algoritmoquecalculalosvalores<strong>de</strong>Cu(a;b)paraun<strong>de</strong>terminadopar(x;y)2T,segun CAPITULO4.ESTIMACIONDELOSPARAMETROSDELCANAL
lasecuaciones4.9,4.10y4.11. 1:Entrada
6:Salida 2:x;y2;
7:Cu(a;b)8a;b2; 4: 3: 5:Cu(a;b)8a;b2; :vector0::jyj+1;0::jxj+1<strong>de</strong>

4.3.ESTIMACIONMEDIANTEBAUM-WELCH Algoritmo13AlgoritmotipoBaum-Welchparaestimarlosparametros<strong>de</strong>C. 59
1:Entrada
6: 5:Variables 2:T; 3:Salida 4: (a;b)8a;b2;
10:Metodo 9:p:

60 funcion(y,engeneral,tambienestoesciertoparamuchosprocesos<strong>de</strong>reestimacionbasadosenelalgoritmo CAPITULO4.ESTIMACIONDELOSPARAMETROSDELCANAL
Expectation-Maximization)[86,67]. bastanteimportanciaalahora<strong>de</strong><strong>de</strong>terminarelmaximolocalqueobtengamosparaV,traslaconvergencia <strong>de</strong>lmetodo<strong>de</strong>reestimacionquehemos<strong>de</strong>scrito.Precisamente,una<strong>de</strong>lassugerenciaspresentadasen[86], consisteenrealizarvariasiteraciones<strong>de</strong>prueba,utilizandodiferentesvaloresiniciales<strong>de</strong>losparametros ocultosquese<strong>de</strong>seanestimar,coneln<strong>de</strong><strong>de</strong>terminarcualeslamejorconguracion<strong>de</strong>losmismos. Alparecer,losvaloresinicialesqueestablezcamosparalosparametrosque<strong>de</strong>seamosestimar,tienen
quesimuleel\comportamiento"<strong>de</strong>ladistancia<strong>de</strong>Levenshtein(veaseelcaptulo2).Concretamente,este yvaloresbajos<strong>de</strong>probabilidad(aproximadamenteiguales)paralasoperaciones<strong>de</strong>error(sustituciones <strong>de</strong>unsmboloporotrodistintoeinsercionesyborrados<strong>de</strong>smbolos).Paraello,realizamoselsiguiente metodoasignavaloresaltos<strong>de</strong>probabilidadparalosaciertos(sustituciones<strong>de</strong>unsmboloporsmismo) Enestatesis,hemosconsi<strong>de</strong>radolautilizacion<strong>de</strong>unmetodo<strong>de</strong>inicializacion<strong>de</strong>losparametros<strong>de</strong>C,
proceso: Utilizamosdosconstantes,ACI=100yERR=1. Damosvaloresalasfrecuencias<strong>de</strong>utilizacion<strong>de</strong>lasdistintasoperaciones<strong>de</strong>error,Fr(veasela seccion2.5),<strong>de</strong>lasiguientemanera: {Fr(\;a)=ERR(jj1);8a2;a6=\
Finalmente,calculamoslasprobabilida<strong>de</strong>siniciales<strong>de</strong>lmo<strong>de</strong>lo,utilizandoelheursticopresentado {Fr(a;b)=ERR;8a;b2;a6=\ {Si(jj1)

4.4.ESTIMACIONMEDIANTEVITERBI 61
^pC(xjy)=max8I2SY 8(a;b)2I(a;b) (4.13)
cuentalosparametrosqueutilizamosparamo<strong>de</strong>larelcomportamiento<strong>de</strong>C. Algoritmo14AlgoritmoViterbi Precisamenteestaprobabilidadlacalculaelalgoritmo14,almacenandolaenjyj+1;jxj+1,teniendoen
1:Entrada 2:x;y2;
7:i;j:entero; 3: 4:Salida 5: 6:Variables :vector0::jyj+1;0::jxj+1<strong>de</strong>

62 CAPITULO4.ESTIMACIONDELOSPARAMETROSDELCANAL
Cu(a;b)=X 8(x;y)2TX8i;j 1jxN(a=yi;b=xj) 1iy (4.15)
Cu(a;n)=X 8(x;y)2TX8i;j 1jxN(a=yi;b=n) 1iy (4.16)
yaquealconsi<strong>de</strong>rarunicamenteelalineamiento<strong>de</strong>maximaverosimilitud[27]: @^pC(xjy)
consisteenunamodicacion<strong>de</strong>lalgoritmo14,recuperandolasecuencia<strong>de</strong>operaciones<strong>de</strong>error<strong>de</strong> Enconsecuencia,elmetodopararealizarelcalculo<strong>de</strong>lsumatoriointerno<strong>de</strong>estastresecuaciones, @(a;b)=^pC(xjy) (a;b)N(a=yi;1ijyj_a=n^b=xj;1jjxj_b=n)
maximaverosimilitud(talcomose<strong>de</strong>scribeen[85])ysumandole1alacuentacorrespondienteparacada operacion.Elalgoritmo15muestraelmetodonalresultantepararealizarlareestimacionporViterbi <strong>de</strong>losparametros<strong>de</strong>C.Noteseque,puestoquelasformulas<strong>de</strong>reestimacionsehanobtenidotrasla aplicacion<strong>de</strong>la<strong>de</strong>sigualdad<strong>de</strong>Baum-Eagon,encadaiteracionsegarantizaquelasnuevasestimaciones incrementanelvalor<strong>de</strong>lafuncionobjetivo(enestecaso,utilizandoelalineamiento<strong>de</strong>mayorprobabilidad) conrespectoalaiteracionanterior. probabilidad<strong>de</strong>lasmejoresestimacionescalculadaspordichoproceso,<strong>de</strong>masiado\planas"enlapractica. Porello,enlaslneas10y11<strong>de</strong>lalgoritmo15utilizaremoscomovaloresinicialesparayCu,losvalores obtenidostraslaconvergencia(o<strong>de</strong>tencion)<strong>de</strong>lalgoritmo13. <strong>de</strong>lmetodo<strong>de</strong>reestimacionporBaum-Welch<strong>de</strong>sarrolladoenlaseccionanterior.Deestaformaaumentala Resultaconveniente,enlapractica,utilizarestealgoritmotraslaconvergencia(<strong>de</strong>tencionenrealidad)
4.5 tambienloseralaprobabilidad<strong>de</strong>queCefectuedichasoperaciones.Estosuce<strong>de</strong>cuandoestasoperaciones Pue<strong>de</strong>ocurrir10quealgunas<strong>de</strong>lasfrecuenciasasociadasaoperaciones<strong>de</strong>errorseanceroy,portanto, Suavizado<strong>de</strong>losParametros
elconjunto<strong>de</strong>aprendizajeT.Parasolucionaresteproblema,proponemosdosalternativas. nosehanutilizadonunca11encualquiera<strong>de</strong>losprocesos<strong>de</strong>estimacion,<strong>de</strong>scritosenestecaptulo,sobre
a<strong>de</strong>cuadamentesintonizadosutilizando,porejemplo,algunaparticion<strong>de</strong>T,<strong>de</strong>stinadaatalefecto.Estos losparametros<strong>de</strong>C,Fr.Nosreferiremosalosnuevosvaloresobtenidosparalasfrecuencias<strong>de</strong>estos parametros,como^ Laprimeraconsisteena~nadirvaloresrealespositivosalasfrecuenciasnalmenteestimadaspara
10Yenlapracticaesunhechofrecuente. 11Bueno,tambienpue<strong>de</strong>ocurrirsielnumero<strong>de</strong>vecesquesehanusado,resulta<strong>de</strong>spreciableconrelacionalnumero<strong>de</strong> Fr.Concretamenteutilizaremoscuatroparametrosadicionales,loscualespue<strong>de</strong>nser
vecesquesehanutilizadoelresto<strong>de</strong>operaciones.

4.5.SUAVIZADODELOSPARAMETROS Algoritmo15AlgoritmotipoViterbiparaestimarlosparametros<strong>de</strong>C. 63
1:Entrada
6: 5:Variables 2:T; 3:Salida 4: (a;b)8a;b2;
10: 9:Metodo 8:p:

64Noteseque,enelcasoenquedispongamos<strong>de</strong>lunigramapara,noestagarantizadoque,nalmente, CAPITULO4.ESTIMACIONDELOSPARAMETROSDELCANAL
todoslosparametros<strong>de</strong>Ctenganunafrecuenciaestimadadistinta<strong>de</strong>cero.Estopue<strong>de</strong>ocurrircuando elunigramatambientienevaloresnulos.Ennuestrocasoconcreto,estosiempreocurriraconelsmbolo nulo,elcualnoesrealmenteunsmbolo<strong>de</strong>(aunquenosotroshayamosconsi<strong>de</strong>radoqueestarapresente
quevamosaanalizarpertenecen,engeneral,a entodoalfabetoqueutilicemosenestatesis).Lasolucionconsisteensuavizar,asuvez,elunigrama, <strong>de</strong>scontandounacantidaglobalyrepartiendolaentreloscasosnovistos.
conlautilizacion<strong>de</strong>palabrasfuera<strong>de</strong>vocabulario(out-of-vocabularywords)en,porejemplo,aplicaciones pertenecenanuestroalfabeto(es<strong>de</strong>cir,allexico<strong>de</strong>latareaqueestamosmo<strong>de</strong>lando).Estosecorrespon<strong>de</strong> ninguncontrolacerca<strong>de</strong>lasfrasesquetenganqueserprocesadas,ocurrequeaparecensmbolosqueno Porotraparte,alolargo<strong>de</strong>latesishemosasumido,asumimosyasumiremosquetodaslasfrases
<strong>de</strong>procesamiento<strong>de</strong>llenguaje.Todasestaspalabras,smbolosengeneral,lasmo<strong>de</strong>laremosconununico .Sinembargo,enlapractica,don<strong>de</strong>notenemos
smboloquea~nadiremosanuestroalfabeto.Aestesmbolole<strong>de</strong>nominaremossmbolo<strong>de</strong>sconocido. Losvalores<strong>de</strong>losparametros<strong>de</strong>insercionysustitucionparaestesmbolo,losobtendremosaplicando cualquiera<strong>de</strong>lasdosalternativas<strong>de</strong>suavizado<strong>de</strong>scritasenestaseccion,teniendoencuentaque:
<strong>de</strong>sconocidoalahora<strong>de</strong>repartirel<strong>de</strong>scuento.Obien,sisedispone<strong>de</strong>lunigramapara,sepodra Paralaprimeraalternativa,usaremosunnuevoparametro<strong>de</strong>s,efectuandolasmismasoperaciones <strong>de</strong>scritasparalosotrosparametros. suavizarloparaqueincluyeseestesmbolo12. Encaso<strong>de</strong>usarlasegundaalternativa,bastaconconsi<strong>de</strong>rarlosparametrosasociadosalsmbolo
12Enelcaso<strong>de</strong>queelunigramaparayacontuvieseunafrecuenciaparael,noharafaltahacernada.

CINCO CAPITULO
ElMAMOE:unMo<strong>de</strong>lo<strong>de</strong> AlineamientoconMemoriay Operaciones<strong>de</strong>Edicion
Everythingascoldaslife. Cannoonesaveyou? Everythingascoldassilence. Andyouwillneversayaword.
Contenidos<strong>de</strong>lCaptulo -\Cold",Pornography,1982,FictionRec.- RobertSmith(TheCure)
5.3Estimacion<strong>de</strong>losParametros<strong>de</strong>lMo<strong>de</strong>lo 5.1Introduccion 5.2Descripcion<strong>de</strong>lMAMOE 5.4LneasFuturas<strong>de</strong>Trabajo
t<strong>ecnicas</strong><strong>de</strong>correccion<strong>de</strong>errores.Elmo<strong>de</strong>loquevamosapresentarse<strong>de</strong>nominaMAMOE,quesonlas 5.1Acontinuacionpresentaremosunmo<strong>de</strong>loprobabilstico<strong>de</strong>alineamiento,basadoenlautilizacion<strong>de</strong> Introduccion
cienteallenguaje(posiblementediferente)que<strong>de</strong>nominaremos<strong>de</strong>stino.Paraobtenerestosalineamientos siglas<strong>de</strong>Mo<strong>de</strong>lo<strong>de</strong>AlineamientoconMemoriayOperaciones<strong>de</strong>Edicion.Estemetodopermiteobtener alineamientosentreunafrasepertenecienteallenguajeque<strong>de</strong>nominaremosorigenyotrafrasepertene- elMAMOEutiliza,basicamente,lasoperaciones<strong>de</strong>edicion<strong>de</strong>scritasenelcaptulo1. 65

66Engeneral,estemo<strong>de</strong>loescapaz<strong>de</strong><strong>de</strong>shacercrucesenloqueseraelalineamiento\i<strong>de</strong>al"entre CAPITULO5.ELMAMOE
<strong>de</strong>lcanal,C,<strong>de</strong>una\memoria"<strong>de</strong>tama~nolimitado.Estamemoria,comoveremos,permitecalcular a<strong>de</strong>cuadamentelaprobabilidad<strong>de</strong>alinearunpar<strong>de</strong>frasessegunlosparametros<strong>de</strong>lmo<strong>de</strong>lo.Compromisos posteriormenteestudiaremos,lacomplejidad<strong>de</strong>lalgoritmoquecalculalaprobabilidad<strong>de</strong>alinearunpar ambasfrases,usandooperaciones<strong>de</strong>insercion,sustitucionyborrado,mediantelautilizacionporparte
<strong>de</strong>frasesutilizandolosparametros<strong>de</strong>lMAMOE,esexponencialconeltama~no<strong>de</strong>lasfrasesaalinearsi computacionalesobliganalimitareltama~nomaximo<strong>de</strong>memoriaquepue<strong>de</strong>utilizarelmo<strong>de</strong>lopues,como noseestableceunlmite.Esteyotrosaspectossonsusceptibles<strong>de</strong>mejoraconeltiempo.Algunasi<strong>de</strong>as secomentaranalrespecto.Noobstante,esperamosqueellectorveaestecaptulo,meramente,comoel trabajoinicialqueabreunaprometedoralnea<strong>de</strong>investigacion. 5.1.1Concepto<strong>de</strong>Alineamiento
mientrasquelafrasequeapareceenla\la"(parte)inferioreslafrase<strong>de</strong>salida(distorsionada)<strong>de</strong>lcanal ruidoso.Lossmbolosqueestanconectadosconunalneaindicansustituciones,es<strong>de</strong>cir,queelsmbolo se<strong>de</strong>neen[53]ysemuestraenlagura5.1(veaseelsiguienteapartado).Des<strong>de</strong>estepunto<strong>de</strong>vista, asumiremosquelafrasequeapareceenla\la"(parte)<strong>de</strong>arribaeslafrase<strong>de</strong>entradaalcanalruidoso, Utilizaremoselconcepto<strong>de</strong>alineamientoparareferirnos,generalmente,alconcepto<strong>de</strong>trazatalcual
correspondiente<strong>de</strong>lafrase<strong>de</strong>entradasesustituyeporelsmbolocorrespondiente<strong>de</strong>lafrase<strong>de</strong>salida.
<strong>de</strong>unalnea. seconsi<strong>de</strong>raninserciones.Finalmente,comentaremosqueenelmo<strong>de</strong>lo<strong>de</strong>trazaempleado,noseadmite queexistaunsmbolo(nienlafrase<strong>de</strong>entrada,nienla<strong>de</strong>salida)quepuedaestarconectadopormas Lossmbolos<strong>de</strong>lafrase<strong>de</strong>entradaquenoestanconectadosporningunalnea<strong>de</strong>latraza,seconsi<strong>de</strong>ran borrados,mientrasque,inversamente,lossmbolos<strong>de</strong>lafrase<strong>de</strong>salidanoconectadosporningunalnea,
sustituyenasmbolos<strong>de</strong>lafrase<strong>de</strong>entrada,son\causados"porestos.Elefecto<strong>de</strong>lossmbolosque seborranesnulo(\causan"elsmbolonulo),mientrasqueel\efecto"<strong>de</strong>lossmbolosqueseinsertan notienejusticacion(\causa")aparente.Noobstante,ellectorpodraapreciaralolargo<strong>de</strong>estatesis quequeremosalinear.Deestaforma,po<strong>de</strong>mosconsi<strong>de</strong>rarquelossmbolos<strong>de</strong>lafrase<strong>de</strong>salidaque Intuitivamente,lai<strong>de</strong>aquesubyaceesunarelacion\causa-efecto"entrelossmbolos<strong>de</strong>lasfrases
otrogrupo<strong>de</strong>smbolos.Apesar<strong>de</strong>ello,tengaseencuentaque,realmente,lasoperacionesanteriormente (veanseloscaptulos8y9ylosapendicesByC)que,siconsi<strong>de</strong>ramoselefectocombinadoproducido porunaserie<strong>de</strong>operaciones<strong>de</strong>insercion,borradoysustitucion,ungrupo<strong>de</strong>smbolosessustituidopor mencionadasactuanexclusivamentesobresmbolosconsi<strong>de</strong>rados<strong>de</strong>formaindividual. tinto1.Estosmo<strong>de</strong>losasumenquealgunos<strong>de</strong>lossmbolos<strong>de</strong>lafrase<strong>de</strong>entradason\causa"<strong>de</strong>algo (luegociertossmbolospue<strong>de</strong>n<strong>de</strong>saparecerespontaneamente,es<strong>de</strong>cir,borrarse).Tambiensepermite queexistansmbolos<strong>de</strong>lafrase<strong>de</strong>salidanojusticadosporsmbolos<strong>de</strong>lafrase<strong>de</strong>entrada(alineamiento conlapalabravaca).Esteconceptoesmuysimilaralconcepto<strong>de</strong>insercion.Sinembargo,losmo<strong>de</strong>los Elconcepto<strong>de</strong>alineamientointroducidoporlosmo<strong>de</strong>los<strong>de</strong>traduccion<strong>de</strong>IBM,esligeramentedis-
enelcaptulo9).Nosestamosreriendoalconcepto<strong>de</strong><strong>de</strong>pen<strong>de</strong>ncia<strong>de</strong>largoalcance.La<strong>de</strong>pen<strong>de</strong>ncia <strong>de</strong>unsmbolo<strong>de</strong>lafrase<strong>de</strong>salidaconrespectoaotro<strong>de</strong>lafrase<strong>de</strong>entrada,implicaqueelprimero <strong>de</strong>IBMpermitenqueexistansmbolosconectadospormas<strong>de</strong>unalnea<strong>de</strong>latraza.
sustituyealsegundo(porejemplo,enelcaso<strong>de</strong>latraduccionestosignicaque,enundiccionario,la palabra<strong>de</strong>salidaapareceracomounaacepcion<strong>de</strong>lapalabra<strong>de</strong>entrada).Cuandohablamos<strong>de</strong><strong>de</strong>pen- Porultimo,quisieramosintroducirunconceptoquemanejaremosalolargo<strong>de</strong>estecaptulo(ytambien
<strong>de</strong>ncia<strong>de</strong>largoalcance,nosestamosreriendoauna<strong>de</strong>pen<strong>de</strong>nciaentredossmboloscuyasposicionesen 1Hablaremosbrevemente<strong>de</strong>estosmo<strong>de</strong>losenelapartado5.1.3.

5.1.INTRODUCCION 67
susrespectivasfrases,estanmuyalejadasentres(y,portanto,provocaraunasustitucionqueposible-
mentecruceconlaslneascorrespondientesaotrassustitucionesenloqueseralatrazaoalineamiento
optimo).Sihablamos<strong>de</strong><strong>de</strong>pen<strong>de</strong>ncias<strong>de</strong>cortoymedioalcance,nosestamosreriendoasustituciones
entresmboloscuyasposicionesensusrespectivasfrasesestan,respectivamente,proximasorelativamen-
tealejadas.Porejemplo,sitenemoslafraseencastellanosea~na<strong>de</strong>untriangulooscuro<strong>de</strong>bajo
<strong>de</strong>ltrianguloy<strong>de</strong>lcrculooscuroysucorrespondientetraduccionalinglesadarktriangle
isad<strong>de</strong>dbelowthetriangleandthedarkcircle,diramosqueexisteuna<strong>de</strong>pen<strong>de</strong>ncia<strong>de</strong>me-
dioalcanceentread<strong>de</strong>dya~na<strong>de</strong>yuna<strong>de</strong>pen<strong>de</strong>ncia<strong>de</strong>cortoalcanceentrecircleycrculo.En
lasfrasesseeliminaelcuadradoqueesta<strong>de</strong>bajo<strong>de</strong>lcuadradogran<strong>de</strong>yoscuroythesquare
whichisbelowthelargedarksquareisremoved,observamosuna<strong>de</strong>pen<strong>de</strong>ncia<strong>de</strong>largoalcance
entreremovedyelimina.
5.1.2I<strong>de</strong>asBasicas
Aunquelasoperaciones<strong>de</strong>insercion,borradoysustitucionquehemosutilizadoparamo<strong>de</strong>larlas
caractersticas<strong>de</strong>ladistorsionqueintroduceelcanalruidososonbastantesimples,estassoncapaces
<strong>de</strong>representarecazmentecomplicadasvariaciones\sintacticas"(veaseelcaptulo8).Noobstante,en
muchasocasiones,nosonlosucientemente\potentes"comopara<strong>de</strong>scribirplenamentelasecuencia<strong>de</strong>
erroresque,posiblemente,puedahaberintroducidoelcanalruidoso.Masconcretamente,elmo<strong>de</strong>lo<strong>de</strong>
canalruidosoquehemosusadoasumeunaciertasincronaenlasecuencia<strong>de</strong>erroresintroducida,es
<strong>de</strong>cir,queexisteunalineamientosncronoentrelafrase\limpia"<strong>de</strong>entradaalcanalylafrase\ruidosa"
<strong>de</strong>salida<strong>de</strong>lmismo.
Sinembargo,estonoocurreenmuchasaplicacionespracticas<strong>de</strong>interessusceptibles<strong>de</strong>serabordadas
bajoelmarcoformal<strong>de</strong>l\canalruidoso"(porejemploaplicaciones<strong>de</strong>traduccionautomatica,como
veremosenelsiguienteapartado).Observeseatentamentelagura5.1.Enellasemuestrandosposibles
alineamientosentrelafrase<strong>de</strong>entradaalcanalabc<strong>de</strong>fylafrase<strong>de</strong>salida<strong>de</strong>lmismo<strong>de</strong>fabc.Si
tuviesemosqueelegircual<strong>de</strong>ellospareceelalineamientomas\natural",seguramentenos<strong>de</strong>cantaramos
porelalineamientonumero2.Dehecho,salvoporelcambio<strong>de</strong>or<strong>de</strong>nentrelossmbolos<strong>de</strong>entraday
los<strong>de</strong>salida,estesegundoalineamientoimplicaqueelcanalnointroduceningunerror,mientrasqueel
primeroimplicaqueelcanalhacometidoseiserrores(<strong>de</strong>sustitucion,enestecaso).Enelalineamiento
2simplementeobservamosunaasincronaenelor<strong>de</strong>nenqueserealizanlasoperaciones<strong>de</strong>acierto
(sustitucion<strong>de</strong>unsmboloporsmismo).Escomosielcanalhubiese<strong>de</strong>cididosustituira,bycpors
mismos,peronorealizalassustitucionescorrespondienteshastahaberrealizadolas<strong>de</strong>d,eyf.Enel
primeralineamientolacondicion<strong>de</strong>sincronaexigequeelcanaltengaquerealizarsusoperacionesenel
or<strong>de</strong>nimpuestoporlasposiciones<strong>de</strong>lossmbolosimplicados.Enestecaso,sustituiraporaimplicara
lainsercionenlafrase<strong>de</strong>salida<strong>de</strong>d,eyf.
d
a
e
b
f
c
a
d
b
e
c
f
Alineamiento 1 Alineamiento 2
d
a
e
b
f
c
a
d
b
e
c
f
Figura5.1:Dosposiblestrazasparaalinearlafrase<strong>de</strong>entradaabc<strong>de</strong>fconlafrase<strong>de</strong>salida<strong>de</strong>fabc.El
alineamientonumero2contienecrucesentrelaslneasquecomponenlatraza.

68 CAPITULO5.ELMAMOE
Elproblemaquetenemosparapo<strong>de</strong>rrealizarelalineamientonumero2utilizandoinserciones,borrados
ysustituciones,esqueexistencrucesentrelaslneasquecomponenlatraza<strong>de</strong>estealineamiento[84].No
obstante,existeunaoperacioncapaz<strong>de</strong>intercambiarelor<strong>de</strong>nentredossmbolosadyacentes,realizando
<strong>de</strong>pasolassustitucionespertinentes.Estaoperacionse<strong>de</strong>nominatrasposicion[84].Utilizandoesta
operacion,po<strong>de</strong>mossustituirlasecuenciaabporlasecuenciaba(ab!ba).Notesequelaoperacion<strong>de</strong>
trasposiciontraeconsigolasustitucion<strong>de</strong>losdossmbolosimplicados.Veamoscualesseranlassecuencias
<strong>de</strong>operacionesquenospermitiranobtenerlosdosalineamientos<strong>de</strong>lagura5.1:
abc<strong>de</strong>fa!d
!dbc<strong>de</strong>fb!e
!<strong>de</strong>c<strong>de</strong>fc!f
!<strong>de</strong>f<strong>de</strong>fd!a
!<strong>de</strong>faefe!b
!<strong>de</strong>fabff!c
!<strong>de</strong>fabc
abc<strong>de</strong>fcd!dc
!abdcefce!ec
!ab<strong>de</strong>cfcf!fc
!ab<strong>de</strong>fcbd!db
!adbefcbe!eb
!a<strong>de</strong>bfcbf!fb
!a<strong>de</strong>fbc
ad!da
!daefbcae!ea
!<strong>de</strong>afbcaf!fa
!<strong>de</strong>fabcd!d;e!e;f!f;a!a;b!b;c!c
!<strong>de</strong>fabc
Elcoste<strong>de</strong>lprimeralineamientoseraigualalasuma<strong>de</strong>lospesos<strong>de</strong>cadauna<strong>de</strong>lasoperaciones<strong>de</strong>
sustitucionrealizadas.Elcoste<strong>de</strong>lsegundoalineamientoseraigualalpeso<strong>de</strong>losintercambiosrealizados
(nueve,yaquehayuntotal<strong>de</strong>nuevecruces;veaselagura5.1),maselpeso<strong>de</strong>lasseisoperaciones<strong>de</strong>
sustitucion(acierto)nalmenterealizadas.
Nosotrosestamosfundamentalmenteinteresadosenresolverelproblema<strong>de</strong>laasincronaenlasope-
raciones<strong>de</strong>sustitucion.Des<strong>de</strong>estepunto<strong>de</strong>vista,estamosinteresadosen<strong>de</strong>sarrollarunmo<strong>de</strong>lo(es-
tocastico)<strong>de</strong>canalcapaz<strong>de</strong><strong>de</strong>shacercruces,masqueenmo<strong>de</strong>larexplcitamentelaoperacion<strong>de</strong>traspo-
sicion.En[84]seasumequeelpeso<strong>de</strong>estaoperacionesconstante,in<strong>de</strong>pendientemente<strong>de</strong>lossmbolos
implicados.Endichotrabajoseestudiaenprofundida<strong>de</strong>lproblemaalgortmicoplanteadoalahora<strong>de</strong>
calcularelpeso<strong>de</strong>unalineamiento,utilizandotrasposiciones.Esmas,sepresentaunalgoritmo,<strong>de</strong>-
nominadoCELLAR,elcualrealizaestecalculo(asumiendoquelospesos<strong>de</strong>lasoperacionesempleadas
cumplenciertasrestricciones).Hemosutilizadoalgunasi<strong>de</strong>as<strong>de</strong>estealgoritmopara<strong>de</strong>sarrollarelmo<strong>de</strong>lo
quesepresentaraenlaseccion5.2.
Elalgoritmotradicional<strong>de</strong>edicion<strong>de</strong>ca<strong>de</strong>naspropuesto,entreotros,porWagneryFischer[85]es
capaz<strong>de</strong>calcularelcoste<strong>de</strong>lalineamientonumero1<strong>de</strong>lagura5.1,peronoescapaz<strong>de</strong>calcularelcoste
<strong>de</strong>lalineamientonumero2(<strong>de</strong>hecho,esincapaz<strong>de</strong>realizaralineamientos<strong>de</strong>esteestilo).Losalgoritmos
utilizadosenelcaptuloanteriorparacalcularlaprobabilidad<strong>de</strong>lalineamientoentredosfrases,segun
elmo<strong>de</strong>loestocastico<strong>de</strong>canalruidosoquehabamos<strong>de</strong>nido(algoritmos10,11y14),sebasanenel.
Lai<strong>de</strong>abasica<strong>de</strong>dichoalgoritmoconsisteenircomputando,paulatinamente(medianteprogramacion
dinamica),el\coste"(probabilida<strong>de</strong>nnuestrocaso)<strong>de</strong>unasecuenciacreciente<strong>de</strong>trazas(<strong>de</strong>maxima
probabilidadsiutilizamoslaaproximaciontipoViterbi).Deestaforma,cadatrazavena<strong>de</strong>terminada
porlasposicionesiyj<strong>de</strong>lassubca<strong>de</strong>nasx1jyy1iquequeramosalinear(utilizandooperaciones
sncronas<strong>de</strong>insercion,sustitucionyborrado).Paracalcularlaprobabilidad<strong>de</strong>todaposiblesecuencia
<strong>de</strong>trazasenunpuntoconcreto(i;j),solamentetenamosqueconsi<strong>de</strong>rarlasprobabilida<strong>de</strong>s<strong>de</strong>:i)las
secuenciasque\alcanzaban"elpunto(i;j1),juntoconlaprobabilidad<strong>de</strong>insertarxj;ii)lassecuencias
que\alcanzaban"elpunto(i1;j1),juntoconlaprobabilidad<strong>de</strong>sustituiryiporxj;yiii)lassecuencias
que\alcanzaban"elpunto(i1;j),juntoconlaprobabilidad<strong>de</strong>borraryi.
Procediendorecursivamente<strong>de</strong>estaforma,encontramosunmetodoparaefectuarcorrectamenteel
calculo<strong>de</strong>seadoenelpunto(jyj;jxj).Puestoquepo<strong>de</strong>mosencontrarunor<strong>de</strong>ncreciente(o,tambien

<strong>de</strong>creciente)pararealizarelcalculo<strong>de</strong>l\coste"encadapunto(paracadatraza<strong>de</strong>terminadaporelpar) 5.1.INTRODUCCION 69
(i;j)8i;1 <strong>de</strong>sarrollarunalgoritmoeciente,quepermiterealizarestemismocalculo<strong>de</strong>formaiterativa[85]. forma.Enparticular,nopo<strong>de</strong>mosutilizartrazas<strong>de</strong>nidasporunpunto(i;j)8i;1 Sinembargo,siqueremoscalcularelcoste<strong>de</strong>lalineamientonumero2,nopo<strong>de</strong>mosproce<strong>de</strong>r<strong>de</strong>esta i jyj^8j;1 j jxj,po<strong>de</strong>mosaplicart<strong>ecnicas</strong><strong>de</strong>programaciondinamica[58]para
jjxj.Estoesasporque,enestecaso,notodoslossmbolospertenecientesay1iyx1jhansido necesitamosmasinformacionparapo<strong>de</strong>r\representar"estosalineamientos. alineados.Concretamente,existensmbolos<strong>de</strong>y1iquevanasersustituidosporsmbolos<strong>de</strong>xj+1 yexistensmbolos<strong>de</strong>x1jqueseransustituidosporsmbolos<strong>de</strong>yi+1.Quedaclaro,portanto,que i jyj;8j;1
corteviene<strong>de</strong>nidonosoloporlasposicionesnalesiyj<strong>de</strong>lassubca<strong>de</strong>nasconsi<strong>de</strong>radas,sinotambien porlassubca<strong>de</strong>nas<strong>de</strong>y1iyx1jformadas,respectivamente,porlossmbolosconectadosporlneas paraincluirlaslneasqueconectanasmbolosnopresentesenlassubca<strong>de</strong>nasunidasporlatraza.Un proce<strong>de</strong>ntes<strong>de</strong>xj+1y<strong>de</strong>yi+1.Aestassubca<strong>de</strong>nasseles<strong>de</strong>nominabo<strong>de</strong>ga-yybo<strong>de</strong>ga-xen[84]. Conesten,utilizaremoselconcepto<strong>de</strong>corte[84].Intuitivamente,uncorteesunatrazaextendida
subca<strong>de</strong>nasy1iyx1j. queformandichassubca<strong>de</strong>nas.Esteor<strong>de</strong>neselqueutilizaWagneren[84]para<strong>de</strong>terminarelnumero Uncorte(i;j;bo<strong>de</strong>ga-y;bo<strong>de</strong>ga-x)contienetodalainformacionnecesariaparaelalineamientoentrelas
cualquiera<strong>de</strong>estossmbolos. <strong>de</strong>crucesquehayque<strong>de</strong>shacer(y,portanto,<strong>de</strong>trasposiciones),alahora<strong>de</strong>efectuarunasustitucion<strong>de</strong> Elhecho<strong>de</strong>emplearlassubca<strong>de</strong>nasbo<strong>de</strong>ga-yybo<strong>de</strong>ga-ximplica<strong>de</strong>nirunor<strong>de</strong>nentrelossmbolos
<strong>de</strong>nominaremosmemoria2.Dehecho,nohacefaltaqueempleemosdosmemoriaspara<strong>de</strong>shacerlos posiblescruces,sinouna[84].Ennuestrocaso,porrazones<strong>de</strong>simplicidad,hemos<strong>de</strong>cididoutilizaruna <strong>de</strong>trasposicion),sinoenlaposibilidad<strong>de</strong>realizaroperaciones<strong>de</strong>sustitucionqueproducencrucesen elalineamiento.Esporelloque,masquesubca<strong>de</strong>nas,utilizaremosconjuntos<strong>de</strong>smbolosalosque Nosotrosnoestamosinteresadosenesteor<strong>de</strong>n(y<strong>de</strong>hecho,novamosausarrealmenteoperaciones
memoriaquecontendraunicamentesmbolos<strong>de</strong>laca<strong>de</strong>na<strong>de</strong>entraday.Elunicoinconveniente<strong>de</strong>utilizar ca<strong>de</strong>nax(es<strong>de</strong>cir,lassubca<strong>de</strong>nasy1iyx1j),tendremosqueintroducirenlamemoriatodoslos smbolos<strong>de</strong>lasubca<strong>de</strong>nayi+1hastallegaralsmboloyrquesecorrespon<strong>de</strong>conxj+1.Paranuestros y1iqueseransustituidosporsmbolos<strong>de</strong>xj+1.Lamemoriaserael\mecanismo"quenospermitira unamemoriaesque,suponiendoquehayamosprocesadoismbolos<strong>de</strong>laca<strong>de</strong>nayyjsmbolos<strong>de</strong>la propositosuncortequedara<strong>de</strong>nidocomo(i;j;M),siendoMlamemoriaoconjunto<strong>de</strong>smbolos<strong>de</strong> \retrasar"lassustituciones,eltiemposucientecomopara<strong>de</strong>shacerloscrucesquesepuedanproducir.
inteligenciaarticial.Setrata<strong>de</strong>conseguirunmecanismoqueobtenga,automaticamente,lastraduc- 5.1.3Mo<strong>de</strong>losEstadsticos<strong>de</strong>Traduccion
cionesenun<strong>de</strong>terminadolenguaje<strong>de</strong>salida,<strong>de</strong>frasesenun<strong>de</strong>terminadolenguaje<strong>de</strong>entrada.Apesar<strong>de</strong>ltiempotranscurrido<strong>de</strong>s<strong>de</strong>queserealizaronlosprimerostrabajosalrespecto,latraduccioncompletamenteautomaticay<strong>de</strong>calidadsigueestandolejos<strong>de</strong>serunarealidadhoyenda[51].Noobstante, Elproblema<strong>de</strong>latraduccionautomatica,hasidouno<strong>de</strong>losproblemasclasicosabordadosporla
muchos<strong>de</strong>losproblemastpicos<strong>de</strong>latraduccion(ambiguedad,elipsis,anafora,:::)<strong>de</strong>saparecentotal oparcialmente,convirtiendolaenunproblemamenoscomplejo.Elexito<strong>de</strong>estossistemashaprovocado <strong>de</strong>traduccionentareasconundominiosemanticorestringido.Altrabajarendominios<strong>de</strong>estetipo, sehanpropuestorecientementediversasaproximacionesqueaspiranaconstruirsistemasautomaticos
2Notesequeelhecho<strong>de</strong>agruparunaserie<strong>de</strong>elementosenunconjunto,noimplica<strong>de</strong>nirunor<strong>de</strong>nentrelosmismos.

70 unnuevoauge<strong>de</strong>estaarea<strong>de</strong>investigacion.Nosotrosestamosinteresadosensistemasqueconstruyen CAPITULO5.ELMAMOE
mo<strong>de</strong>los<strong>de</strong>traduccion,apartir<strong>de</strong>ejemplos<strong>de</strong>traduccionespreviamenterealizadas.Masconcretamente, nosinteresansistemasbasadosenla<strong>de</strong>nominadaaproximacionestadstica,inicialmenteimpulsadapor IBM[23,24],comolospropuestosen[20].
talque,apartir<strong>de</strong>x,obtengalafrasey<strong>de</strong>lidiomainglesqueconmayorprobabilidadpudohaber Elproblema<strong>de</strong>latraduccionsereduce,pues,aconstruirun<strong>de</strong>scodicadorD<strong>de</strong>maximaverosimilitud traves<strong>de</strong>un\canalruidoso".Alasalida<strong>de</strong>lcanal,lafraseobservadaesxypertenecealidiomafrances. sido:i)transmitidaporelcanal;yii)transformadaporelcanalenx.Teniendoencuentaque,en Enlaaproximacion<strong>de</strong>IBMseconsi<strong>de</strong>raqueunafrasey,expresadaeningles,hasidotransmitidaa
dichaaproximacion,elmo<strong>de</strong>loutilizadoparaelinglesesunmo<strong>de</strong>lo<strong>de</strong>estadosnitos(n-gramas),se observangran<strong>de</strong>ssimilitu<strong>de</strong>sconelmo<strong>de</strong>loestocastico<strong>de</strong>canalruidosoquehemosplanteadoenesta tesis(veanselassecciones2.3y2.5).Dehecho,elplanteamiento<strong>de</strong>IBMobe<strong>de</strong>cealesquemaplanteado enlaecuacion2.3.A<strong>de</strong>mas,losconceptos<strong>de</strong>diccionarioestocasticoy<strong>de</strong>palabraproducidaapartir<strong>de</strong>la palabravacasonrespectivamenteequivalentesalosconceptos<strong>de</strong>sustituciony<strong>de</strong>insercion.Obviamente, lassimilitu<strong>de</strong>squeseobservanentreambosmo<strong>de</strong>losnoalcanzanalconjunto<strong>de</strong>parametrosqueutiliza IBMpararesolverelproblema,yaqueentoncesestaramoshablando<strong>de</strong>lamismasolucion.Spo<strong>de</strong>mos hablar<strong>de</strong>lmismomarcoformalpararesolverelproblema,peroestotampocoquiere<strong>de</strong>cirmucho.
traduccion,utilizadosporIBM[24].Enestesentido,nuestrapropuestaconsisteenutilizarelmo<strong>de</strong>lo mismo,x(lafraseenfrances).Alineamientos<strong>de</strong>estetipolosconsiguenlosmo<strong>de</strong>losestadsticos<strong>de</strong> entradaalcanal,y(lafraseeninglessegunelejemploanterior),ylafrase(observada)<strong>de</strong>salida<strong>de</strong>l capaces<strong>de</strong><strong>de</strong>shacercrucesentrelaslneasquecomponenelalineamientooptimo,entreunafrase<strong>de</strong> Talcomohemoscomentadoenelapartadoanterior,estamosinteresadosenmo<strong>de</strong>los<strong>de</strong>alineamiento
trabajandoactualmenteenestalneayesperamosconseguirresultadosenbreve. eciente,utilizandolosparametros<strong>de</strong>estemo<strong>de</strong>lo.Aunquenolohemos<strong>de</strong>sarrolladotodava,estamos entresusposiblesaplicacionespodraestarlatraduccionautomatica(yenestesentidoseenmarcara <strong>de</strong>ntro<strong>de</strong>laaproximacionestadstica).Paraello,bastaraconque<strong>de</strong>sarrollasemosun<strong>de</strong>scodicador expuestoenlasiguienteseccion.Dadaslascaractersticas<strong>de</strong>lmo<strong>de</strong>loquepresentamosenestecaptulo,
5.2 sufuncionamientoenlapractica,<strong>de</strong>tectarcualessonsuscarenciasypotenciarsuspuntosfuertes.Es Inicialmentehemos<strong>de</strong>sarrolladounmo<strong>de</strong>lomuysimple(talvez<strong>de</strong>masiado),conelobjetivo<strong>de</strong>observar Descripcion<strong>de</strong>lMAMOE
smbolos<strong>de</strong>lafrase<strong>de</strong>entrada(exclusivamente),para<strong>de</strong>scribirelfuncionamiento<strong>de</strong>lcanalruidosoC. porello,quehemos<strong>de</strong>cididoemplearunaunicamemoria,capaz<strong>de</strong>almacenarunnumerolimitado<strong>de</strong> Enelalgoritmo16semuestraelfuncionamiento<strong>de</strong>dichocanalruidoso<strong>de</strong>maneraesquematica.Notese quelamemoria<strong>de</strong>lcanalesel\dispositivo"queutilizamosparapo<strong>de</strong>rrealizarcruces(sustituciones asncronasqueconllevanuncambio<strong>de</strong>or<strong>de</strong>nentrelossmbolosimplicados),yaquetodosmboloquese introduceenlamemoria<strong>de</strong>lcanalseraposteriormentesustituidoporotro(ynonecesariamenteporel siguientesmboloqueapareceenlaca<strong>de</strong>na<strong>de</strong>salida). terminanelfuncionamiento<strong>de</strong>lmo<strong>de</strong>lo:Alavista<strong>de</strong>lalgoritmo16,po<strong>de</strong>mosestablecerelconjunto<strong>de</strong>parametros(probabilida<strong>de</strong>s)que<strong>de</strong>- y4.3.Lasprobabilida<strong>de</strong>s<strong>de</strong>insercion,(\;b)8b2,seutilizanenlalnea12,las<strong>de</strong>sustitucion,
borrado,(a;b)8a2;8b2(incluyendoelsmbolonulo),talcualseexpusoenlassecciones2.5 Elmo<strong>de</strong>loutilizalasprobabilida<strong>de</strong>s<strong>de</strong>realizarcualquieroperacion<strong>de</strong>insercion,sustituciony

5.2.DESCRIPCIONDELMAMOE Algoritmo16Descripcion<strong>de</strong>lfuncionamiento<strong>de</strong>lcanalruidosoC. 71
1:Entrada 2:y2;fca<strong>de</strong>na\limpia"<strong>de</strong>entradaalcanalg
7:i;j;n:entero;b:;input:fentrada;memoriag; 6:Variables 4:Salida 5:x2;fca<strong>de</strong>na\distorsionada"<strong>de</strong>salidag 3:;falfabeto<strong>de</strong>\salida"g
10:mientrasMem6=;_ijyjhacer 11: 9:i=j=1; 8:Metodo
13: 12: 14: 15: siDecidir(pins)fserealizaunaoperacion<strong>de</strong>inserciongentonces
16: b=Escoger((\;));fseeligeunsimbolob,b2g
17: siMem=;entonces nsi xj=b; j+=1;
19: 20: 21: 18: sino sinosii>jyjentonces input=entrada; input=memoria;
25: 22: 23: 24: siinput=entradaentonces nsi sinoDecidir((yi;n))fsesustituyeyigentonces siDecidir(pl)entoncesinput=entrada;sinoinput=memoria;nsi
26: 27: 28: 29: sino i+=1; n=Escoger(pmem());fseeligeunaposicion<strong>de</strong>lamemoriaMemg nsi Mem=Mem[fyig;
33: 34: 30: 32: 31: xj=b;fSustituiraporbg j+=1; Mem=Memfag;felsmboloaeselqueocupalaposicionn<strong>de</strong>lamemoriag
35: nmientras nsi b=Escoger((a;));fseeligeunsimbolob,b2g
psus(a),lacualcoinci<strong>de</strong>conlaprobabilidad<strong>de</strong>quedichosmboloseintroduzcaenlamemoria<strong>de</strong>l canal(todosmboloquevaasersustituidoseintroduceenlamemoria).Portanto,<strong>de</strong>becumplirse queenlalnea24utilizamos,enrealidad,laprobabilidad<strong>de</strong>queelsmboloa2seasustituido, (a;b)8a2;8b2(incluyendoelacierto,a=b)seutilizanenlalnea31ylas<strong>de</strong>borrado,
quepsus(a)+(a;\)=18a2. (a;\)8a2,seutilizanenlalnea24.Debe<strong>de</strong>cumplirsequeP8b2(a;b)=18a2.Notese
se<strong>de</strong>ci<strong>de</strong>queoperacionconcretarealizar)ono.Laprimerapon<strong>de</strong>raralasprobabilida<strong>de</strong>s<strong>de</strong>las A<strong>de</strong>mas,nuestromo<strong>de</strong>lotendraunaprobabilidad<strong>de</strong>insercion,pins,ysucomplementaria,pins,tal quepins+pins=1,para<strong>de</strong>cidirsiserealizaunaoperacion<strong>de</strong>insercion(enestecaso,posteriormente operaciones<strong>de</strong>insercionyseutilizaenlalnea11. Enlalnea21,ellectorpodraapreciarquenecesitamos<strong>de</strong>nirunaprobabilidad<strong>de</strong>lectura,pl,la

72cual<strong>de</strong>termina<strong>de</strong>que\dispositivo"(suentradaolamemoria)vaaleerelsiguientesmboloel CAPITULO5.ELMAMOE
posicionn<strong>de</strong>lamemoria<strong>de</strong>lcanal,pmem(n). Finalmente,utilizaremosenlalnea29,laprobabilidad<strong>de</strong>extraerelsmboloa2queocupala canal.Ennuestranotacion,plrepresentalaprobabilidad<strong>de</strong>leer<strong>de</strong>laentrada,mientrasque1pl eslaprobabilidadquetieneelcanal<strong>de</strong>leer<strong>de</strong>sumemoria.
Enresumen,losparametros<strong>de</strong>lmo<strong>de</strong>lo,juntoconsuscondiciones<strong>de</strong>normalizacionson: Probabilida<strong>de</strong>s<strong>de</strong>sustitucion,(a;b)8a2;8b2,P8b2(a;b)=18a2. Probabilida<strong>de</strong>s<strong>de</strong>borrado,(a;\)8a2yprobabilida<strong>de</strong>s<strong>de</strong>sustituirunsmbolo(introducirloen Probabilida<strong>de</strong>s<strong>de</strong>insercion,(\;b)8b2,P8b2(\;b)=1.
Probabilidad<strong>de</strong>insercion,pins,ysucomplementaria,pins,talquepins+pins=1. lamemoria<strong>de</strong>lcanal),psus(a).Se<strong>de</strong>becumplirquepsus(a)+(a;\)=18a2.
<strong>de</strong>becumplirque Probabilidad<strong>de</strong>extraerelsmboloqueocupalaposicionn<strong>de</strong>lamemoria<strong>de</strong>lcanal,pmem(n).Se probabilidadquetieneelcanal<strong>de</strong>leer<strong>de</strong>sumemoria. Probabilidad<strong>de</strong>lectura,pl,lacualrepresentalaprobabilidad<strong>de</strong>leer<strong>de</strong>laentrada,siendo1plla
Vamosamostrarelfuncionamiento<strong>de</strong>estemo<strong>de</strong>lo<strong>de</strong>canalruidoso.Paraello,vamosautilizarun 8n<strong>de</strong>Mempmem(n)=1. X
castellanoyviceversa.Elformatoquehemosutilizadoparamostrarlosejemplosessimilaralconcepto <strong>de</strong>scribir,obtendra,comofrase<strong>de</strong>salidadistorsionada,latraduccionalingles<strong>de</strong>unafrase<strong>de</strong>entradaen par<strong>de</strong>ejemplos(sencillos)correspondientesafrases<strong>de</strong>latareaMLA(lacualsera<strong>de</strong>scritaenlasegunda
tendraquerealizarelcanalC(enor<strong>de</strong>n),sinotambienlaevolucion(eneltiempo)<strong>de</strong>laentrada,<strong>de</strong>la <strong>de</strong>listado,talcomoseexponeen[53].Enesteformatosemuestrannosololassucesivasoperacionesque parte<strong>de</strong>estatesis).EstosejemplosmuestrancomoelcanalruidosoC,cuyofuncionamientoacabamos<strong>de</strong>
saliday<strong>de</strong>lamemoria<strong>de</strong>lcanal.
EntradaSalida Salida: Entrada:sea~na<strong>de</strong>untriangulooscuro Memoria adarktriangleisad<strong>de</strong>d
a~na<strong>de</strong> un se a fse,a~na<strong>de</strong>,ung fse,a~na<strong>de</strong>g fseg introducirenmemoria\se" introducirenmemoria\a~na<strong>de</strong>" introducirenmemoria\un" sustituir\un"por\a" Operacion
triangulo oscuro triangle dark fse,a~na<strong>de</strong>,triangulo,oscurogintroducirenmemoria\oscuro" fse,a~na<strong>de</strong>,triangulog introducirenmemoria\triangulo"
ad<strong>de</strong>d is fse,a~na<strong>de</strong>g fa~na<strong>de</strong>g ; sustituir\oscuro"por\dark" sustituir\triangulo"por\triangle" sustituir\se"por\is"
Salida: Entrada:adarktriangleisad<strong>de</strong>d sea~na<strong>de</strong>untriangulooscuro
sustituir\a~na<strong>de</strong>"por\ad<strong>de</strong>d"

5.2.DESCRIPCIONDELMAMOE Entrada Salida Memoria Operacion 73
triangle dark a fa,darkg fag introducirenmemoria\a"
ad<strong>de</strong>d is se fa,dark,triangle,isg fa,dark,triangleg introducirenmemoria\dark" introducirenmemoria\triangle" introducirenmemoria\is"
triangulo a~na<strong>de</strong> un fa,dark,triangle,ad<strong>de</strong>dgintroducirenmemoria\ad<strong>de</strong>d" fa,dark,triangleg fdark,triangleg sustituir\is"por\se"
oscuro fdarkg ; sustituir\ad<strong>de</strong>d"por\a~na<strong>de</strong>" sustituir\a"por\un" sustituir\triangle"por\triangulo"
mientorealizadoenelprimerejemploquehemosmostrado.Puestoquenuestromo<strong>de</strong>loesprobabilstico,vamosaexponercualseralaprobabilidad<strong>de</strong>lalinea- sustituir\dark"por\oscuro"
pmem(3)(triangulo;triangle)pins(1pl)pmem(1)(se;is)pins(1pl)pmem(1)(a~na<strong>de</strong>;ad<strong>de</strong>d) pinsplpsus(se)pinsplpsus(a~na<strong>de</strong>)pinsplpsus(un)pins(1pl)pmem(3)(un;a)pinspl
Observeseque,enunmomento<strong>de</strong>terminado,lamemoriallegaacontenerhastacuatrosmbolos:se, psus(triangulo)pinsplpsus(oscuro)pins(1pl)pmem(4)(oscuro;dark)pins(1pl)
a~na<strong>de</strong>,trianguloyoscuro.Sitenemosencuentaque,cuandolamemoria<strong>de</strong>lcanalestavacapl=1y quecuandoyanoquedansmbolos<strong>de</strong>laca<strong>de</strong>na<strong>de</strong>entradaporleerpl=0,laexpresion<strong>de</strong>arribaqueda <strong>de</strong>nitivamentecomo: pinspsus(se)pinsplpsus(a~na<strong>de</strong>)pinsplpsus(un)pins(1pl)pmem(3)(un;a)pinspl
Lassimplicacionesque,sobreelmo<strong>de</strong>lo,hemosrealizadoseexponenacontinuacion: psus(triangulo)pinsplpsus(oscuro)pinspmem(4)(oscuro;dark)pinspmem(3) (triangulo;triangle)pinspmem(1)(se;is)pinspmem(1)(a~na<strong>de</strong>;ad<strong>de</strong>d)
Novamosapreocuparnosporlaexistencia<strong>de</strong>smbolosrepetidosenlamemoria<strong>de</strong>lcanal.
operaciones<strong>de</strong>insercion.Paraello,siendoFr(a;b)8a2;a6=\8b2;b6=\lasfrecuen- Hemosasumidoquelasprobabilida<strong>de</strong>squetieneelmo<strong>de</strong>lotanto<strong>de</strong>leer<strong>de</strong>lamemoria,como<strong>de</strong>
cias(ocuentas)<strong>de</strong>utilizacion<strong>de</strong>lasoperacionesqueconllevanlasustitucion<strong>de</strong>aporbysiendo Hemos<strong>de</strong>cididoincluirlaprobabilidad<strong>de</strong>noinsertarenelcalculo<strong>de</strong>lasprobabilida<strong>de</strong>s<strong>de</strong>las leer<strong>de</strong>laentrada,sonequiprobableseigualesa12,es<strong>de</strong>cirpl=1pl=12.
Fr(\;b)8b2;b6=\lasfrecuencias<strong>de</strong>utilizacion<strong>de</strong>lasoperacionesqueconllevanlainsercion <strong>de</strong>b:
pins= X8a2;a6=n
8b2;b6=nFr(a;b) X
8a2;a6=n 8b2;b6=nFr(a;b)+X 8b2;b6=nFr(n;b)

74y CAPITULO5.ELMAMOE
(\;b)= 8a2;a6=n 8b2;b6=nFr(a;b)+X X Fr(n;b) 8b2;b6=nFr(n;b)
garantizandose,portanto,quepins+X
Veasequelaprobabilidad<strong>de</strong>extraerunsmbolo<strong>de</strong>lamemoria,esin<strong>de</strong>pendiente<strong>de</strong>lsmboloen 8b2;b6=n(\;b)=1.
lamemoriaenunmomento<strong>de</strong>terminado.Parasimplicaraunmaselmo<strong>de</strong>lo,hemosasumidoque estaprobabilida<strong>de</strong>sequiprobable,es<strong>de</strong>cirpmem(n)=1 cuestion.A<strong>de</strong>mas,hemosasumidoquesolo<strong>de</strong>pen<strong>de</strong><strong>de</strong>lnumero<strong>de</strong>smbolosqueseencuentranen jMemj.
5.2.1Probabilidad<strong>de</strong>unAlineamientosegunelMAMOE sinoquetambienhemosenumeradolassimplicacionesefectuadassobreelmismo.Enestosmomentos, \limpia"<strong>de</strong>entradaalcanalysiendoxlafrase\distorsionada"<strong>de</strong>salida<strong>de</strong>lmismo,segunelmo<strong>de</strong>lo probabilstico<strong>de</strong>comportamientoquehemosestablecidoparaelcanalruidosoC.Es<strong>de</strong>cir,vamosa estamosinteresadosencalcularlaprobabilidad<strong>de</strong>observarunpar<strong>de</strong>frases(x;y),siendoylafrase Enelapartadoanteriornosolohemos<strong>de</strong>scritoelfuncionamiento<strong>de</strong>lmo<strong>de</strong>lo(veasealgoritmo16),
Elconcepto<strong>de</strong>cortehasidointroducidoenlaseccion5.1.2,talcualfue<strong>de</strong>nidoen[84].Adaptando <strong>de</strong>sarrollarunalgoritmoparacalcularecientementepC(xjy)segunlosparametros<strong>de</strong>lMAMOE.
<strong>de</strong>terminadonosoloporlasposicionesiyj<strong>de</strong>lassubca<strong>de</strong>nasx1jyy1iquequeremosalinear,sino tambienporelestadoo\conguracion"<strong>de</strong>lamemoria<strong>de</strong>lcanaleneseinstante<strong>de</strong>terminado.Recor<strong>de</strong>mos estasi<strong>de</strong>as,presentesendichotrabajo<strong>de</strong>Wagner,anuestrospropositos,tenemosquecadacorteviene Enelcaso<strong>de</strong>lMAMOE,loquevamosacalculareslaprobabilidad<strong>de</strong>unasecuenciacreciente<strong>de</strong>cortes.
quelossmbolosqueestanenlamemoria<strong>de</strong>lcanalseransustituidos,perotodavanosabemosque
vez(porejemplo,yiyxj)implicararealizarlasustitucioncorrespondiente,locualnoesposibleyaque smbolosintroducidosenlamemoria<strong>de</strong>lcanal),peronolosdosalavez.Procesardossmbolosala es<strong>de</strong>cir,seraposteriormentesustituido),bienunsmbolo<strong>de</strong>x(seinsertaosustituyeacualquiera<strong>de</strong>los quedara<strong>de</strong>nidotrasprocesarbienunsmbolo<strong>de</strong>y(seborraoseintroduceenlamemoria<strong>de</strong>lcanal, simboloslosvanasustituir(solosabemosqueseransmbolos<strong>de</strong>xj+1).Unnuevocorteenlasecuencia
novalidoenlasecuencia. todaslassustituciones<strong>de</strong>benpasarporlamemoria<strong>de</strong>lcanal.Enestesentido,estoproducirauncorte
<strong>de</strong>lalgoritmoCELLAR,talcualse<strong>de</strong>scribeen[84].
(i;j;M),siendoMunaposible\conguracion"<strong>de</strong>lamemoria<strong>de</strong>lcanal,laprobabilidad<strong>de</strong>todaslas posiblessecuencias<strong>de</strong>cortesquelo\alcanzan".Estealgoritmoestabasadoenlarelacion<strong>de</strong>recurrencia Sinmaspreambulo,introducimoselalgoritmorecursivoquepermitecalcularenunpuntoconcreto

5.2.DESCRIPCIONDELMAMOE 75
p(i;j;M)= p(0;0;;)=1 p(0;j;;)=p(0;j1;;)(n;xj)8j;1jjxj p(i1;j;M0[fyig)psus(yi) p(i1;j;M)(yi;n) sise<strong>de</strong>ci<strong>de</strong>borraryi sise<strong>de</strong>ci<strong>de</strong>sustituiryi (a)
+ +p(i;j1;M)(n;xj) (b)
8M0:M0fsg=Mp(i;j1;M0)(s;xj) X jM0j 1 (c)
Paraimplementarcorrectamenteelmetodo<strong>de</strong>calculorecursivoqueacabamos<strong>de</strong>exponer,<strong>de</strong>betenerse (d)
encuentaque: 1.Elcalculo<strong>de</strong>losterminos(a)y(b)serealizara8i;1ijyjy8j;0jjxj.Notesequecada 2.Elcalculo<strong>de</strong>losterminos(c)y(d)serealizara8i;1 smboloyiobienseborra,obienseintroduceenlamemoria<strong>de</strong>lcanalparaserposteriormente sustituido.Tengaseencuentaqueen(b)siempresecumpliraqueM0[fyig=M.
<strong>de</strong>laca<strong>de</strong>nax. caso,nosepue<strong>de</strong>extraerningunsmbolo<strong>de</strong>lamemoriaparasersustituidoporalgunotrosmbolo ifuesecero,entonceslaunica\conguracion"valida<strong>de</strong>memoriaeselconjuntovaco(;).Enese termino(d),lanecesidad<strong>de</strong>queelvalor<strong>de</strong>iseamayorquecerosejusticaporelhecho<strong>de</strong>que,si i jyjy8j;1 j jxj.Enelcaso<strong>de</strong>l
4.Analogamente,elvalorobtenidoporeltermino(d),estaramultiplicadoporlaprobabilidad<strong>de</strong>leer 3.Elvalorobtenidoparalosterminos(a)y(b),estaramultiplicadoporlaprobabilidad<strong>de</strong>leer<strong>de</strong>la entrada,pl,caso<strong>de</strong>quelamemoria<strong>de</strong>lcanalnoestevaca,es<strong>de</strong>cirM6=;.
(veasetambienlaseccion5.1.2y[84])consisteenque,encadacorte,solosepue<strong>de</strong>a~nadirunsmbolo Lasolucionseobtienecalculando,<strong>de</strong>manerarecursiva,p(jyj;jxj;;).Lai<strong>de</strong>aintuitiva<strong>de</strong>estealgoritmo <strong>de</strong>lamemoria,1pl,caso<strong>de</strong>quetodavaque<strong>de</strong>nsmbolos<strong>de</strong>yporleer,es<strong>de</strong>ciri

76 Algoritmo17Algoritmohaciaa<strong>de</strong>lanteparacalcularpC(xjy).Beseltama~nomaximo<strong>de</strong>lamemoria CAPITULO5.ELMAMOE
<strong>de</strong>lcanalyCi;m=im.
4:Mem:vector0::B;0::Cjyj;B<strong>de</strong>Lista<strong>de</strong>; 5:Salida 1:Entrada
6: 2:x;y2;
7:Mem:vector0::B;0::Cjyj;B<strong>de</strong>Lista<strong>de</strong>; 3: :vector0::jyj;0::jxj;0::B;0::Cjyj;B<strong>de</strong>

cadacorte<strong>de</strong>cadaposiblesecuencia<strong>de</strong>cortes,lossmbolos<strong>de</strong>yquevanaserposteriormentesustituidos 5.2.DESCRIPCIONDELMAMOE 77
contendratodoslosposiblesconjuntosquepue<strong>de</strong>nobtenerseutilizandolossmbolosy1;y2;:::;yi. Engeneral,siescogemosmelementos<strong>de</strong>estegrupo<strong>de</strong>smbolos,elnumero<strong>de</strong>conjuntosdistintosque po<strong>de</strong>mosobtenersecalcula,segunnuestranotacion,como: porsmbolos<strong>de</strong>x.Enestesentido,sihemos\procesado"lasubca<strong>de</strong>na<strong>de</strong>entraday1i,lamemoria
Sinoasumimosningunaotrarestriccion,elvalormaximoquepue<strong>de</strong>tomarmestaralimitadoporiy Ci;m=im= m!(im)! i!
porsmbolos<strong>de</strong>lasubca<strong>de</strong>naxj,lacualeslaquenosrestapor\procesar".Portanto,lamemoriano tendremosqueconsi<strong>de</strong>rar,jMem(i;j)j,sera: porjxjj.Enesteultimocaso,notesequetodoslossmbolos<strong>de</strong>lamemoria<strong>de</strong>lcanal,seransustituidos pue<strong>de</strong>contenermassmbolosquelosquenosrestaporprocesarenlaca<strong>de</strong>nax.Deestaforma,enun puntoconcreto(i;j)correspondientealalineamientoentrey1iyx1j,elnumero<strong>de</strong>memoriasque
jMem(i;j)j=8>: 2i 24jxjj Xm=1Ci;m35+1 siijxjj sii>jxjj9>=>; i<strong>de</strong>nticaunvocamentemediantela\etiqueta"(i;j;M),siendoelnodoinicial(0;0;;)ysiendo(jyj;jxj;;) elnodonal.Pue<strong>de</strong>observarseque,enrealidad,estealgoritmocalculaelsumatorio<strong>de</strong>lcoste<strong>de</strong>cada todaslasposiblessecuencias<strong>de</strong>cortesquepo<strong>de</strong>mosobtenerformanungrafo[85,84],don<strong>de</strong>cadanodose posiblecamino(secuencia<strong>de</strong>cortes)que,endichografo,permitealcanzar(jyj;jxj;;)<strong>de</strong>s<strong>de</strong>(0;0;;).Por Vamosaestablecerlacomplejidadtemporalyespacial<strong>de</strong>lalgoritmo17.Paraello,consi<strong>de</strong>raremosque
tanto,lacomplejidadtemporalseraproporcionalaloquenoscuesterecorrerestegrafo,ylacomplejidad espacialseraproporcionalaloquenoscuestealmacenarlo.Elnumero<strong>de</strong>nodos<strong>de</strong>estegrafo,jVj,es:
jVj=jyj Xi=1jxj Xj=1jMem(i;j)j=(yaquekXm=1Ci;m=2k+11)=jyj Xi=1jxj Xj=124min(i;jxjj) Xm=1 =jyj Xi=1jxj Xj=1min(i;jxjj) Xm=1Ci;m+jyj Xi=1jxj Xj=11Xi=1jxj jyjXj=1min(jyj;jxj)
Xm=1Ci;m+jyjjxj Ci;m35+1
Xi=1jxj Xj=1jyj jxj jyjXj=1min(jyj;jxj)
Xi=1imin(jyj;jxj)+jyjjxj Xm=1im+jyjjxj=jxj Xj=1jyjmin(jyj;jxj)+1+jyjjxj=jxjjyjmin(jyj;jxj)+1+jyjjxj jxj Xj=1jyj Xi=1imin(jyj;jxj)+11 i1 +jyjjxj
caso<strong>de</strong>lacomplejidadtemporal,notesequeelnumero<strong>de</strong>aristas<strong>de</strong>lgrafoesproporcionalalnumero
Portanto,lacomplejida<strong>de</strong>spacialylatemporalsonproporcionalesaO(jxjjyjmin(jyj;jxj)+1).Enel

78 <strong>de</strong>nodos.Bastaconobservarlaversionrecursiva<strong>de</strong>lalgoritmo17,parapercatarse<strong>de</strong>estehecho(como CAPITULO5.ELMAMOE
<strong>de</strong>memoriasquetendremosqueconsi<strong>de</strong>rarsera: losdoscorrespondientesalasoperaciones<strong>de</strong>inserciony<strong>de</strong>borrado).Claramente,estacomplejidad memoria<strong>de</strong>lcanalaunvalorconstante,alcual<strong>de</strong>nominaremosB.Actuando<strong>de</strong>estaforma,elnumero exponencialnoresultaviableenlapractica.Porello,hemos<strong>de</strong>cididolimitareltama~nomaximo<strong>de</strong>la mucho<strong>de</strong>unnodosaldrantantosarcoscomosmbolostengaalmacenadosensumemoria,aparte<strong>de</strong>
jMem(i;j)j=8>: 2i 24min(jxjj;B) Xm=1 Ci;m35+1 siiminimo(jxjj;B) sii>minimo(jxjj;B) 9>=>; queenestecasosera: Enestecaso,lacomplejidadtemporal(yespacial)resultantevendraigualmente<strong>de</strong>terminadaporjVj,
jVj=jyj Xi=1jxj Xj=1jMem(i;j)j=(yaquekXm=1Ci;m=2k+11)=jyj Xi=1jxj Xj=124min(i;jxjj;B) Xm=1 =jyj Xi=1jxj Xj=1min(i;jxjj;B) Xm=1 Ci;m+jyj Xi=1jxj Xj=11(siasumimosqueBessiempreelmnimo) Ci;m35+1
Xj=1jyj Xi=1jxj jxj jyjXi=1iB+jyjjxj
Xj=1BXm=1Ci;m+jyjjxj Xj=1jyjB+1+jyjjxj=jxjjyjB+1+jyjjxj jxj Xi=1jxj jyjXj=1BXm=1im+jyjjxj=jxj
Xj=1jyj Xi=1iB+11 i1+jyjjxj
comoespacialproporcionalesaO(jxjjyjB+1).LaconstanteBsejaraaunvalorrazonable.Porejemplo, elvalorutilizadofue5.Enrealidad,estacotasuperioresligeramentepesimista(sobretodoenloquese reerealacomplejida<strong>de</strong>spacial). enelcaso<strong>de</strong>losexperimentosrealizadosenelcaptulo9,cuyosresultadossemuestranenelapendiceC, Limitandoeltama~nomaximo<strong>de</strong>lamemoria<strong>de</strong>lcanal,obtenemosunacomplejidadtantotemporal
smbolos<strong>de</strong>lamemoriaconsmbolos<strong>de</strong>x. sepue<strong>de</strong>n<strong>de</strong>shacerconuntama~no<strong>de</strong>memoriaB,esB1.Noteseque,comomucho,elultimosmbolo introducidoenlamemoria(yquesupongamosqueocupala\posicion"B)cruzara,alsersustituidopor unsmbolo<strong>de</strong>x,lasB1lneasque,enelalineamientooptimoentreyyx,unenalosrestantesB1 Tengaseencuentaque,<strong>de</strong>s<strong>de</strong>elpunto<strong>de</strong>vista<strong>de</strong>lafrase<strong>de</strong>entradaalcanal3,elnumero<strong>de</strong>crucesque
triangulocontriangle. lalneaqueuniraoscurocondark,cruzaconlaslneasqueuniranseconis,a~na<strong>de</strong>conad<strong>de</strong>dy memoriaiguala4parapo<strong>de</strong>r<strong>de</strong>shacertodosloscruces<strong>de</strong>lalineamientooptimo.Estoesasporque canalruidosoC.Enelcasoenqueyerasea~na<strong>de</strong>untriangulooscuro,hacafaltauntama~no<strong>de</strong> Observeellectorlosejemplosquehemosmostradoanteriormenteparailustrarelfuncionamiento<strong>de</strong>l
3Solamenteusamosunamemoria,lacualcontieneexclusivamentesmbolos<strong>de</strong>laca<strong>de</strong>na<strong>de</strong>entrada.

5.2.DESCRIPCIONDELMAMOE Engeneral,habraque\ajustar"elvalor<strong>de</strong>Balacomplejidad<strong>de</strong>losalineamientos(numero<strong>de</strong>cruces 79
a<strong>de</strong>shacer),siempre<strong>de</strong>s<strong>de</strong>laoptica<strong>de</strong>lafrase<strong>de</strong>entradaalcanal.Comopodraapreciarellectorcuando leaelcaptulo9,tantoenelcaso<strong>de</strong>latareaMLA,comoenelcaso<strong>de</strong>latarea<strong>de</strong>lTurista,resultamas difcilparaelMAMOEelsentidoingles-castellanoqueelcastellano-ingles.Lasolucionaesteproblema podrapasarporutilizardosmemorias,unaparalafrase<strong>de</strong>entradaylaotraparalafrase<strong>de</strong>salida. Lamentablemente,elhecho<strong>de</strong>utilizardosmemoriasincrementalacomplejidad<strong>de</strong>lproblema,aunque estamosestudiandosolucionesalrespecto.
memoriaynelnumero<strong>de</strong>or<strong>de</strong>n(<strong>de</strong>s<strong>de</strong>0hastaCi;m1)<strong>de</strong>cadauno<strong>de</strong>losconjuntosquepue<strong>de</strong>n construirseutilizandomelementos. Asuvez,representaremoselconjuntoposible<strong>de</strong>memoriasenunpunto(i;j)comounalistadispersa, i<strong>de</strong>nticandocadamemoriamedianteelpar(m;n),siendomelnumero<strong>de</strong>smbolosquecontienela Solamentenosrestaporcomentarquerepresentaremoscadamemoriacomounalista<strong>de</strong>smbolos.
requierenrealizarestecalculo.ElalgoritmorecursivoquecalculapC(xjy)haciaatraseselsiguiente: zandoporelultimosmbolo<strong>de</strong>yyx.Necesitamosimplementarestealgoritmopues,comoveremosenla siguienteseccion,lasformulas<strong>de</strong>reestimacion<strong>de</strong>losparametros<strong>de</strong>lmo<strong>de</strong>lo,similaresalas<strong>de</strong>lcaptulo4, Elesquema18muestraelalgoritmoquecalculapC(xjy)segunlosparametros<strong>de</strong>lMAMOE,comen-
p(jyj;jxj;;)=1 p(i;j;M)=p(i+1;j;M)(yi+1;n) +p(i+1;j;M[fyi+1g)psus(yi+1) +p(i;j+1;M)(n;xj+1) (a)
+X 8s2Mp(i;j+1;Mfsg)(s;xj+1)1 jMj (b) (c)
Paraimplementarcorrectamenteelmetodo<strong>de</strong>calculorecursivoqueacabamos<strong>de</strong>exponer,<strong>de</strong>betenerse (d)
encuentaque: 1.Elcalculo<strong>de</strong>losterminos(a)y(b)serealizara8i;0ijyj1y8j;0jjxj.Tengaseen 2.Elcalculo<strong>de</strong>losterminos(c)y(d)serealizara8i;0ijyjy8j;0jjxj1.En(c)<strong>de</strong>be cumplirsequeMseauna\conguracion"valida<strong>de</strong>lamemoriaenelpunto(i;j+1). cuentaqueen(b)<strong>de</strong>becumplirsequeM[fyi+1gseauna\conguracion"valida<strong>de</strong>lamemoriaen elpunto(i+1;j).
4.Analogamente,elvalorobtenidoporeltermino(d),estaramultiplicadoporlaprobabilidad<strong>de</strong>leer 3.Elvalorobtenidoparalosterminos(a)y(b),estaramultiplicadoporlaprobabilidad<strong>de</strong>leer<strong>de</strong>la entrada,pl,caso<strong>de</strong>quelamemoria<strong>de</strong>lcanalnoestevaca,talcomoexpusimosanteriormentepara elalgoritmo17.
presentanelmismoesquema<strong>de</strong>funcionamiento,porloquetodosloscomentariosquerealizamosenel Lacomplejidad<strong>de</strong>lalgoritmo18esi<strong>de</strong>nticaala<strong>de</strong>lalgoritmo17.Esencialmenteambosalgoritmos <strong>de</strong>lamemoria,1pl,caso<strong>de</strong>quetodavaque<strong>de</strong>nsmbolos<strong>de</strong>yporleer.
caso<strong>de</strong>lalgoritmo17,sonigualmenteaplicablesenestecaso. verosimilitudsiguiendolaaproximaciontipo\Viterbi".Estealgoritmoesi<strong>de</strong>nticoal17,cambiando
Finalmente,elalgoritmo19calcula^pC(xjy),es<strong>de</strong>cir,laprobabilidad<strong>de</strong>lalineamiento<strong>de</strong>maxima

80 Algoritmo18AlgoritmohaciaatrasparacalcularpC(xjy).Beseltama~nomaximo<strong>de</strong>lamemoria<strong>de</strong>l CAPITULO5.ELMAMOE
canalyCi;m=im.
5:Salida 1:Entrada
6: 2:x;y2; 3: 4:Mem:vector0::B;0::Cjyj;B<strong>de</strong>Lista<strong>de</strong>; 7:Variables :vector0::jyj;0::jxj;0::B;0::Cjyj;B<strong>de</strong>

5.2.DESCRIPCIONDELMAMOE Algoritmo19AlgoritmotipoViterbiparacalcularpC(xjy).Beseltama~nomaximo<strong>de</strong>lamemoria<strong>de</strong>l 81
canalyCi;m=im.
4:Mem:vector0::B;0::Cjyj;B<strong>de</strong>Lista<strong>de</strong>; 5:Salida 1:Entrada
6: 2:x;y2;
7:Variables 3: :vector0::jyj;0::jxj;0::B;0::Cjyj;B<strong>de</strong>

82 5.3 Estimacion<strong>de</strong>losParametros<strong>de</strong>lMo<strong>de</strong>loCAPITULO5.ELMAMOE
analogamente: anterior.Elconjunto<strong>de</strong>parametrosquetienenuestromo<strong>de</strong>lo(yquesonlosquehemos<strong>de</strong>estimar)es, Enestaseccionvamosaproce<strong>de</strong>r<strong>de</strong>manerasimilaracomolohicimosenlaseccion4.3enelcaptulo
consi<strong>de</strong>randolaprobabilidad<strong>de</strong>acertarconelsmboloa(sustituirloporsmismo). (a;b)8a2;8b2representalaprobabilidad<strong>de</strong>sustituiraporb.Sia=b,entoncesestamos (\;b)8b2representalaprobabilidad<strong>de</strong>insertarelsmbolob.
losalgoritmos<strong>de</strong>scritosenlaseccion4.3,yaquedichosalgoritmosasumenelprincipio<strong>de</strong>sincrona(y, Aunqueelconjunto<strong>de</strong>parametrosseaelmismo,nopo<strong>de</strong>mosutilizarelmetodoconvencionalusando (a;\)8a2representalaprobabilidad<strong>de</strong>borrarelsmboloa.
portanto,nopue<strong>de</strong>n<strong>de</strong>shacercruces)alahora<strong>de</strong>alinearlafrase<strong>de</strong>entradaconla<strong>de</strong>salida<strong>de</strong>lcanal (veaseelapartado5.1.2).Teniendoencuentalassimplicacionesefectuadassobreelfuncionamiento <strong>de</strong>lmo<strong>de</strong>lo(veaselaseccionanterior),elresto<strong>de</strong>parametrosobiensonconstantes(caso<strong>de</strong>ply<strong>de</strong>la probabilidad<strong>de</strong>extraerelsmboloaqueocupalaposicionnenlamemoria<strong>de</strong>lcanal,pmem(n)),obien sepue<strong>de</strong>ncalcularapartir<strong>de</strong>lasestimacionesrealizadaspara(caso<strong>de</strong>laprobabilidad<strong>de</strong>insertarun smboloaenlamemoria<strong>de</strong>lcanal,psus(a)y<strong>de</strong>laprobabilidad<strong>de</strong>noinsercion,pins).Posteriormente
<strong>de</strong>losparametros<strong>de</strong>lmo<strong>de</strong>lo<strong>de</strong>error,<strong>de</strong>talformaquesemaximicelaprobabilidad<strong>de</strong>lamuestra<strong>de</strong> canal,frase\limpia"<strong>de</strong>entradaalmismo),T,nuestroobjetivoesrealizarunaestimacion<strong>de</strong>losvalores <strong>de</strong>scribiremoscomoserealizanestoscalculos.
aprendizajeobservada,P(observacionjmo<strong>de</strong>lo)[30].Paraello,tendremosquemaximizarPC(T).La funcion<strong>de</strong>verosimilitud<strong>de</strong>lamuestra,V,es,porconsiguiente: Aspues,suponiendoquedisponemos<strong>de</strong>unconjunto<strong>de</strong>pares(frase\distorsionada"<strong>de</strong>salida<strong>de</strong>l
V=PC(T)=Y
ritmo18,almacenandolaen0;0;0;0,teniendoencuentalosparametrosqueutilizamosparamo<strong>de</strong>larelLaprobabilidadpC(xjy)lacalculatantoelalgoritmo17,almacenandolaenjyj;jxj;0;0,comoelalgo- 8(x;y)2TpC(xjy)
zaacalculartodaslasposiblessecuencias<strong>de</strong>cortes<strong>de</strong>s<strong>de</strong>elcomienzo(primersmbolo)<strong>de</strong>lasfrasesacomportamiento<strong>de</strong>C.Launicadiferenciaentreambosresi<strong>de</strong>enelhecho<strong>de</strong>queelprimerocomienalinear,mientraselsegundolohacecomenzandoporelnal(ultimosmbolo).Enconsecuencia,supo- correctamentepC(xjjyi;M)almacenandolaeni;j;m;n. pC(x1j1jy1i1;M)almacenandolaeni1;j1;m;n,mientrasqueelalgoritmo18hacomputado niendoqueenambosalgoritmoshemoscalculadotodaslassecuenciasposibles<strong>de</strong>corteshastaun\punto" concreto(i;j;M),siendoMunaconguracionvalida<strong>de</strong>lamemoria<strong>de</strong>lcanal(<strong>de</strong>terminadoporelpar (m;n))paraelalineamientoentrexjeyi,elalgoritmo17hacomputadocorrectamentelaprobabilidad
estimados,incrementanelvalor<strong>de</strong>lafuncionobjetivoconrespectoalaanterioriteracion.Esteproceso
igualqueenelcaptuloanterior,la<strong>de</strong>sigualdad<strong>de</strong>Baum-Eagon[18].Segarantizaquelosnuevosvalores guiremosunprocedimientoiterativo.Primeramentejaremosunosvaloresarbitrariospara(valores equiprobables),<strong>de</strong>spuesobtendremosnuevosvalores<strong>de</strong>estosparametrosencadaiteracionaplicando,al Paraestimarlosvalores<strong>de</strong>losparametros<strong>de</strong>quemaximizanlafuncion<strong>de</strong>verosimilitudV,se

suelerepetirsebienunnumerojo<strong>de</strong>iteraciones,bienhastaqueladiferencia<strong>de</strong>lvalorcalculadopara 5.3.ESTIMACIONDELOSPARAMETROSDELMODELO 83
Ventredositeracionesconsecutivas,seamenorqueuncierto.Suponiendoque(a;b)representala estimacionpara,engeneral,elerror<strong>de</strong>sustitucion(insercionsia=\yborradosib=\)<strong>de</strong>aporb enlaiteracioni,representaremoslanuevaestimacionobtenidaenlaiteracioni+1como^(a;b).Como sabemosqueP8c2(a;c)=18a2yqueVesunpolinomioconrespectoa,alaplicarla<strong>de</strong>sigualdad <strong>de</strong>Baum-Eagontenemosque[18]:
^(a;b)= X8c2(a;c)@V (a;b)@V @(a;b)
= X8c2(a;c)X (a;b)X 8(x;y)2T(pC(xjy))1@pC(xjy) @(a;c)
8(x;y)2T(pC(xjy))1@pC(xjy) @(a;b)
= 8(x;y)2T(pC(xjy))1(a;b)@pC(xjy) X @(a;b) @(a;c) (5.1)
Paracalcular,engeneral8a2;8b2 X8c2X 8(x;y)2T(pC(xjy))1(a;c)@pC(xjy) @(a;c)
@pC(xjy)
posiblesecuencia<strong>de</strong>cortes.Enconsecuencia,<strong>de</strong>niremosunposiblealineamientoIentrexey,segunel <strong>de</strong>beremos<strong>de</strong>nir,previamente,elconceptoformal<strong>de</strong>alineamientoentredosca<strong>de</strong>nas,utilizandouna @(a;b)
mo<strong>de</strong>loquehemos<strong>de</strong>nidoparaC,como:
establecidasporlasecuencia<strong>de</strong>cortes.Porconsiguiente,po<strong>de</strong>moscalcularlaprobabilidad<strong>de</strong>obtenerla SiendoMEMelconjuntoquecontienecadauna<strong>de</strong>lasconguraciones<strong>de</strong>lamemoria<strong>de</strong>lcanal(M) I=f(a;b):a=yi;1ijyj_a=n^b=xj;1jjxj_b=ng[MEM
ca<strong>de</strong>nax,dadalaca<strong>de</strong>nayyelalineamientoI,pC(xjy;I),como(neslaposicionqueocupaelsmbolo cenlamemoria): pC(xjy;I)=Y
distintasoperaciones<strong>de</strong>insercion.A<strong>de</strong>mas,nohemosconsi<strong>de</strong>radoenestaformulalaprobabilidad<strong>de</strong>leer
Notesequelaprobabilidad<strong>de</strong>noinsertarestaya\incluida"enelcalculo<strong>de</strong>lasprobabilida<strong>de</strong>s<strong>de</strong>las 8(a;b)2I(a;b)Y 8M2I 8c2Mpsus(c)pmem(n)

84 bien<strong>de</strong>laentrada,bien<strong>de</strong>lamemoria,pl,porcuestiones<strong>de</strong>clarida<strong>de</strong>xpositiva.Estehechonoafectara CAPITULO5.ELMAMOE
al<strong>de</strong>sarrolloposterior,yaquedichosvaloressonconstantes.Finalmente,siendoSelconjunto<strong>de</strong>todos losposiblesalineamientosentrexyy,calculamospC(xjy)como:
Elcalculo<strong>de</strong>la<strong>de</strong>rivadaparcial<strong>de</strong>estepolinomio,conrespectoa(a;b),se<strong>de</strong>tallaacontinuacion. pC(xjy)=X 8I2SpC(xjy;I)
@pC(xjy) @(a;b)=@X
=X 8I2SpC(xjy;I) @(a;b) (a;b) N(a=yi;1ijyj_a=n^b=xj;1jjxj_b=n;I) =X 8I2S@pC(xjy;I) @(a;b) (5.2)
a=yi;1ijyj_a=nyenqueb=xj;1jjxj_b=nenelalineamientoI.Particularizandola ecuacion5.2alostrestipos<strong>de</strong>operaciones<strong>de</strong>error(parametros<strong>de</strong>C)quehemosconsi<strong>de</strong>rado,obtenemos lasformulas<strong>de</strong>reestimacionpara,poresteor<strong>de</strong>n,inserciones(ecuacion5.3),sustituciones(ecuacion5.4) yborrados(ecuacion5.5): siendoN(a=yi;1 i jyj_a=n^b=xj;1 j jxj_b=n;I)elnumero<strong>de</strong>vecesenque
8I2SX X8(a;b)2I
1jjxj b=xj a=nX
8M2IpC(xjy;I) (a;b)=1 (a;b)X8i;j 1jx 1iyX8MX
=1 8I2SpC(xjy;I;a=n;b=xj;M)
(a;b)X8i;j 1jx 1iyX8MX
=1 (a;b)X8i;j 8I2SpC(x1j1jy1i;M;I)(n;xj)pC(xjjyi;M;I)
1jx 1iyX8MX
=1 (a;b)X8i;j 8I2SpC(x1j1jy1i;M;I)(n;xj)X 8I2SpC(xjjyi;M;I)
1jx 1iyX8MpC(x1j1jy1i;M)(n;xj)pC(xjjyi;M)
=1 (a;b)X8i;j 1jx 1iyX
8(m;n)i;j1;m;n(n;xj)i;j;m;n (5.3)

5.3.ESTIMACIONDELOSPARAMETROSDELMODELO 85
8I2S Xs=yi1ijyj
8(a;b)2I a=s2M b=xj X
1jjxj X 8M2IpC(xjy;I) (a;b)=1 (a;b)X8i;j 1jx 1iyX8MX
8I2SpC(xjy;I;a=s2M;b=xj;M)
=1 (a;b)X8i;j 1jx 1iyX8MX
=1 (a;b)X8i;j 8I2SpC(x1j1jy1i;M;I)(s;xj)pC(xjjyi;Mfsg;I)
1jx 1iyX8MX
=1 (a;b)X8i;j 8I2SpC(x1j1jy1i;M;I)(s;xj)X 8I2SpC(xjjyi;Mfsg;I)
1jx 1iyX8MpC(x1j1jy1i;M)(s;xj)pC(xjjyi;Mfsg)
=1 (a;b)X8i;j 1jx 1iy X
(5.4)
8(m+1;n0)(m;n)i;j1;m+1;n0(s;xj)i;j;m;n
8I2SX X8(a;b)2I
1ijyj a=yi b=nX 8M2IpC(xjy;I) (a;b)=1 (a;b)X8i;j 1jx 1iyX8MX
=1 8I2SpC(xjy;I;a=yi;b=n;M)
(a;b)X8i;j 1jx 1iyX8MX
=1 (a;b)X8i;j 8I2SpC(x1jjy1i1;M;I)(yi;n)pC(xjjyi;M;I)
1jx 1iyX8MX
=1 (a;b)X8i;j 8I2SpC(x1jjy1i1;M;I)(yi;n)X 8I2SpC(xjjyi;M;I)
1jx 1iyX8MpC(x1jjy1i1;M)(yi;n)pC(xjjyi;M)
=1 (a;b)X8i;j 1jx 1iyX
8(m;n)i1;j;m;n(yi;n)i;j;m;n
porCu(a;b)(talcomohicimosenelcaptuloanterior)entonces,alsustituirlosterminos<strong>de</strong>sarrollados, Sialnumerador<strong>de</strong>laecuacion5.1le<strong>de</strong>nominamoscuentas<strong>de</strong>lparametro(a;b)ylorepresentamos (5.5)
obtenemoslasformulasparacalcularlosvaloresesperadosparalasoperaciones<strong>de</strong>insercion(ecuacion5.6),

86 sustitucion(ecuacion5.7)yborrado(ecuacion5.8)enT.Tengaseencuentaquesehaconsi<strong>de</strong>radoel CAPITULO5.ELMAMOE
borrado,obiena=s2Menelcaso<strong>de</strong>realizarunaoperacion<strong>de</strong>sustitucion,y<strong>de</strong>queb=xj.El hecho<strong>de</strong>quepC(xjy)=jyj;jxj;0;0=0;0;0;0,<strong>de</strong>quea=yienelcaso<strong>de</strong>realizarunaoperacion<strong>de</strong> algoritmo20muestracomoserealizaelcalculo<strong>de</strong>losdossumatoriosinternos<strong>de</strong>estastresecuaciones. Cu(n;b)=X 8(x;y)2TX8i;j 1jx 1iyX
8(m;n)i;j1;m;n(n;b)i;j;m;n jyj;jxj;0;0 (5.6)
Cu(a;b)=X 8(x;y)2TX8i;j 1jx 1iy X 8(m+1;n0)(m;n)i;j1;m+1;n0(a;b)i;j;m;n jyj;jxj;0;0 (5.7)
Cu(a;n)=X 8(x;y)2TX8i;j 1jx 1iyX
8(m;n)i1;j;m;n(a;n)i;j;m;n jyj;jxj;0;0 (5.8)
ylaecuacion5.1,lasnuevasestimaciones<strong>de</strong>losparametrosnoconstantes<strong>de</strong>lmo<strong>de</strong>loenunaiteracion <strong>de</strong>terminada,secalcularanengeneralcomo: Teniendoencuentalassimplicacionesquehemosrealizadoenelmo<strong>de</strong>lo(veaselaseccionanterior)
^pins= X 8a2;a6=n 8b2;b6=nCu(a;b) X
8a2;a6=n 8b2;b6=nCu(a;b)+X 8b2;b6=nCu(n;b) (5.9)
^(n;b)= 8a2;a6=n 8b2;b6=nCu(a;b)+X X Cu(n;b) 8b2;b6=nCu(n;b) (5.10)
garantizandose,portanto,que^pins+X Lasestimaciones<strong>de</strong>lasprobabilida<strong>de</strong>s<strong>de</strong>sustitucion,^(a;b);8a2;a6=n^8b2;b6=nseran: 8b2;b6=n^(\;b)=1.
^(a;b)= 8c2;c6=nCu(a;c) XCu(a;b)
(5.11)

5.3.ESTIMACIONDELOSPARAMETROSDELMODELO Algoritmo20Algoritmoquecalculalosvalores<strong>de</strong>Cu(a;b)paraun<strong>de</strong>terminadopar(x;y)2T,segun 87
lasecuaciones5.6,5.7y5.8.Beseltama~nomaximo<strong>de</strong>lamemoria<strong>de</strong>lcanalyCi;m=im.
4: 1:Entrada 2:x;y2;
6:Cu(a;b)8a2^8b2; 3: 5:Mem:vector0::B;0::Cjyj;B<strong>de</strong>Lista<strong>de</strong>; :vector0::jyj;0::jxj;0::B;0::Cjyj;B<strong>de</strong>

88 CAPITULO5.ELMAMOE
^psus(a)= X8c2;c6=nCu(a;c)
X
8c2;c6=nCu(a;c)+Cu(a;n) (5.12)
formula: Porultimo,laprobabilidad<strong>de</strong>borrarcualquiersmboloa2;a6=nsecalculaconlasiguiente
^(a;n)= 8c2;c6=nCu(a;c)+Cu(a;n) X Cu(a;n) (5.13)
Comopue<strong>de</strong>apreciarse,segarantizaque24^psus(a) Finalmente,estamosencondiciones<strong>de</strong>presentarelmetodoquerealizalaestimacionpormaxima 8c2;c6=n^(a;c)35+^(a;n)=1. X
Baum-Eagon),<strong>de</strong>losparametros<strong>de</strong>lMAMOE.Elalgoritmo21muestra<strong>de</strong>formaesquematicaeste verosimilitud,aplicandoelalgoritmoExpectation-Maximization(y,concretamente,la<strong>de</strong>sigualdad<strong>de</strong> metodo.Elproceso<strong>de</strong>scritoserepetirahastaquesecumplaunciertocriterio<strong>de</strong>parada,talcomose expusoenelcaptuloanterior,es<strong>de</strong>cir,queladiferenciaentrelosvalorescalculadosparaVendos
(equiprobables)<strong>de</strong>losparametros<strong>de</strong>lmo<strong>de</strong>lo(lneas13y14<strong>de</strong>lalgoritmo21).Lassiguientesformulas previamenteestablecido. iteracionesconsecutivas,seamenorqueuncierto,obienqueserealiceunnumerojo<strong>de</strong>iteraciones,
<strong>de</strong>scribenestecalculo: Conrespectoaesteultimoalgoritmo,solonosrestaporexplicarcomosecalculanlosvaloresiniciales
consi<strong>de</strong>radoque,inicialmente,pins=1 Notesequeelsmbolonuloformaparte<strong>de</strong>cualquieralfabeto(veasecaptulo2).Portanto,hemos (n;b)=1
jj. jj8b2;b6=n
(a;b)= jj18a2;a6=n^8b2;b6=n 1
(a;n)=1
psus(a)=1(a;n)8a2;a6=n
jj8a2;a6=n

5.3.ESTIMACIONDELOSPARAMETROSDELMODELO Algoritmo21AlgoritmoExpectation-Maximizationparaestimarlosparametros<strong>de</strong>lMAMOE.Besel 89
tama~nomaximo<strong>de</strong>lamemoria<strong>de</strong>lcanalyCi;m=im. 1:Entrada 2:T;
7: 6:Variables 5:psus(a)8a2; 3:Salida 4: (a;b)8a2^8b2;
10:Cu(a;b)8a2^8b2; 8: 9:Mem:vector0::B;0::Cjyj;B<strong>de</strong>Lista<strong>de</strong>; :vector0::jyj;0::jxj;0::B;0::Cjyj;B<strong>de</strong>

90 5.4 LneasFuturas<strong>de</strong>Trabajo CAPITULO5.ELMAMOE
lenguajesdiferentes.Aunqueelmo<strong>de</strong>loqueinicialmentehemos<strong>de</strong>sarrolladoesbastantesimple,los (veaseelcaptulo9yelapendiceC).Encuantoasusposiblesaplicaciones(engeneralenaquellasareas limitado<strong>de</strong>)cruces,enloqueseralatrazaoptimaentredosfrases,posiblementepertenecientesa resultadosobtenidoshansidolosucientementeprometedorescomoparacontinuareltrabajoiniciado Hemospropuestounmo<strong>de</strong>loestocastico<strong>de</strong>alineamientocapaz<strong>de</strong>apren<strong>de</strong>ra<strong>de</strong>shacer(unnumero
don<strong>de</strong>last<strong>ecnicas</strong><strong>de</strong>correccion<strong>de</strong>erroressehanvenidoutilizandohabitualmente),merecen<strong>de</strong>stacarse lassiguientes:
Traduccionautomatica.Enestecaso(ytambienenelanterior),tendremosque<strong>de</strong>sarrollarunalgo- Reconocimiento<strong>de</strong>formas. Simplicacion<strong>de</strong>llenguaje(veaseelcaptulo8). ritmoeciente<strong>de</strong><strong>de</strong>scodicacion.Paraellopodramosutilizart<strong>ecnicas</strong>similaresalaspresentadas
complejidadcomputacionalquepresentanlosalgoritmosexpuestosenestecaptulo.Paraellosera Porotraparte,habraqueinvestigarparatratar<strong>de</strong>reducir,enlamedida<strong>de</strong>loposible,laelevada en[40].
convenienterevisarelconcepto<strong>de</strong>memoria<strong>de</strong>lcanal,permitiendoqueestasolamentepudiese\pasar" porunosestados<strong>de</strong>terminados.Estosestados<strong>de</strong>niranelconjunto<strong>de</strong>smbolosquepue<strong>de</strong>naparecer juntosenlamemoriaencadamomento.A<strong>de</strong>mas,cabraconsi<strong>de</strong>rarlaposibilidad<strong>de</strong>evitarlaexistencia <strong>de</strong>smbolosrepetidosendichamemoria.Enloquesereerea\potenciar"elfuncionamiento<strong>de</strong>lmo<strong>de</strong>lo, pensamosquelaslneasmasprioritarias<strong>de</strong>actuacionson: ten<strong>de</strong>relmo<strong>de</strong>loactualparaqueseacapaz<strong>de</strong>trabajarcongruposynomeramenteconsmbolos individuales,aplicandolasi<strong>de</strong>aspropuestasen[54]. Parecenecesarioconsi<strong>de</strong>raralineamientosentregrupos<strong>de</strong>smbolos[78].Nuestraintencionesex-
laposicion<strong>de</strong>lamemoria,posiblementecondicionadaalresto<strong>de</strong>smbolospresentesenlamisma.
Finalmente,tendremosque<strong>de</strong>nirunaprobabilidad<strong>de</strong>extraccion<strong>de</strong>pendiente<strong>de</strong>lsmboloyno<strong>de</strong> <strong>de</strong>entradayotraparalafrase<strong>de</strong>salida),alahora<strong>de</strong>calcularlasposiblessecuencias<strong>de</strong>cortes. Resultaraconvenientequeelmo<strong>de</strong>lofuesecapaz<strong>de</strong>trabajarcondosmemorias(unaparalafrase

ParteII
Aplicaciones
91

CAPITULO SEIS
EvaluacionExperimental<strong>de</strong>los Algoritmos<strong>de</strong>Analisis
Sud<strong>de</strong>nlyIstop, butIknowit'stoolate. I'mlostinaforest, allalone. Thegirlwasneverthere, it'salwaysthesame, I'mrunningtowardsnothing againandagainandagainandagain.
Contenidos<strong>de</strong>lCaptulo -\AForest",SeventeenSeconds,1980,FictionRec.- RobertSmith(TheCure)
6.4Conclusiones 6.3Experimentos<strong>de</strong>Reconocimiento<strong>de</strong>CaracteresManuscritos 6.1Introduccion 6.2Experimentos<strong>de</strong>Procesamiento<strong>de</strong>lLenguaje
6.1 laefectividad(resultados<strong>de</strong>lanalisis),como,principalmente,laeciencia(velocidad)<strong>de</strong>losalgoritmos Enestecaptulopresentamosdosseries<strong>de</strong>experimentosquesehanrealizadoconeln<strong>de</strong>evaluartanto Introduccion
aunatarea<strong>de</strong>aprendizaje<strong>de</strong>llenguaje<strong>de</strong>nominadaMiniatureLanguageAcquisition(MLA),lacual corrector<strong>de</strong>errores(ASCE),para\limpiar"frasesdistorsionadasarticialmente.Estasfrasespertenecen que<strong>de</strong>sarrollamosenelcaptulo3.Enlaprimeraserie<strong>de</strong>experimentoshemosutilizadoanalisissintactico
93

<strong>de</strong>scribiremosenelsiguienteapartado.Enlasegundaserie<strong>de</strong>experimentosutilizamosASCEpara 94 CAPITULO6.EVALUACIONEXPERIMENTALDELOSALGORITMOSDEANALISIS
para<strong>de</strong>mostrarlacapacidad<strong>de</strong>last<strong>ecnicas</strong><strong>de</strong>correccion<strong>de</strong>erroresalahora<strong>de</strong>construirrobustos contorno<strong>de</strong>suscorrespondientesimagenes[57]. reconocerformasplanas,enestecasodgitosmanuscritos,loscualesfueroncodicadossiguiendoel
mo<strong>de</strong>los<strong>de</strong>lenguaje,capaces<strong>de</strong>\respon<strong>de</strong>r"a<strong>de</strong>cuadamenteanteentradasincorrectasoinesperadas quisieramoshacernotarquenosservira,a<strong>de</strong>mas,parailustrarlaaplicacion<strong>de</strong>last<strong>ecnicas</strong><strong>de</strong>correccion (comoveremosposteriormenteenloscaptulos7y8).Encuantoalasegundaserie<strong>de</strong>experimentos, Caberesaltarquelosexperimentos<strong>de</strong>procesamiento<strong>de</strong>llenguajeconlatareaMLA,tambienserviran
fueronaprendidosautomaticamentepormedio<strong>de</strong>lalgoritmo<strong>de</strong>inferenciagramaticalk-TSI,propuesto en[39].Estealgoritmoinereunautomatanitoestocasticoqueaceptaellenguajek-explorable,en <strong>de</strong>erroresenreconocimiento(sintactico)<strong>de</strong>formas.
sentidoestricto,maspeque~noquecontienealasfrases<strong>de</strong>lconjunto<strong>de</strong>aprendizaje.Loslenguajes estocasticosk-explorablessonequivalentesaloslenguajesaceptadosporlosconocidosn-gramas,siendo Enamboscasos,losmo<strong>de</strong>losnitos(enestecasoestocasticos)necesariosparaefectuarelanalisis,
n=k.Paralaprimeraserie<strong>de</strong>experimentosutilizamosvalores<strong>de</strong>kcomprendidosenelintervalo2:::10, distintosalgoritmospropuestosenelcaptulo3.Entodosloscasos,losparametros<strong>de</strong>lmo<strong>de</strong>lo<strong>de</strong>error fueronlosmismos(encadauna<strong>de</strong>lasdosseries<strong>de</strong>experimentos)yfuerondados\apriori"<strong>de</strong>manera heurstica.Todoslosexperimentosfueronrealizadosenunaestacion<strong>de</strong>trabajoHP9000,mo<strong>de</strong>lo735, mientrasqueenlasegundaserieutilizamosvaloresentre2y7.Comoresultado,obtuvimosautomatas
consistemaoperativoUnix.Elprocesador<strong>de</strong>estetipo<strong>de</strong>estacionesvienearealizarunos121millones nitos<strong>de</strong>tama~nocreciente,talcualrequeranuestroestudio<strong>de</strong>lcomportamientocomputacional<strong>de</strong>los
<strong>de</strong>instruccionesporsegundo. 6.1.1Descripcion<strong>de</strong>laTareaMLA
ytriangulo),tama~nos(peque~no,mediano,gran<strong>de</strong>)y\apariencia"(oscuro,claro),situadosendiferentes tieneunvocabulario<strong>de</strong>25palabras(ensuversioninglesa,encastellanohay29palabras)[36].Las frases<strong>de</strong>estatareaselimitana<strong>de</strong>scribirescenasvisualesmuysencillasendosdimensiones.Enestas escenasapareceunnumerolimitadoyjo<strong>de</strong>objetosgeometricos<strong>de</strong>diferentesformas(crculo,cuadrado Estatareaconsisteenunlenguajecuasinaturalque<strong>de</strong>scribeescenasvisualesmuysimples,yque
tama~noyapariencia),sinotambienporlasposicionesrelativasquepue<strong>de</strong>nadoptarentres.Latabla6.1 objetos<strong>de</strong>laescena,loscualespue<strong>de</strong>nseri<strong>de</strong>nticados,nosoloporsuscaractersticasintrnsecas(forma, posicionesrelativasentres.
muestraalgunosejemplos<strong>de</strong>frasesparaestatarea(eningles).Latabla6.2muestralasmismasfrases encastellano. A<strong>de</strong>mas<strong>de</strong>lasfrasesqueselimitana<strong>de</strong>scribirunaescena,existelaposibilidad<strong>de</strong>a~nadiroeliminar
asmalltriangleandasmalllightsquaretouchasquare asmallcircleisad<strong>de</strong>dabovethedarktriangleandthemediumdarksquare asquareandasmalllightcirclearefartotheleftofadarksquareandadarkcircle thelargesquarewhichisabovethesmallsquareisremoved Tabla6.1:Ejemplos<strong>de</strong>frases,eningles,pertenecientesalatareaMLA.

6.2.EXPERIMENTOSDEPROCESAMIENTODELLENGUAJE uncuadradoyuncrculopeque~noyclaroestanmuyalaizquierda<strong>de</strong>uncuadradooscuroyun95
seeliminaelcuadradogran<strong>de</strong>queestaencima<strong>de</strong>lcuadradopeque~no crculooscuro untriangulopeque~noyuncuadradopeque~noyclarotocanauncuadrado sea~na<strong>de</strong>uncrculopeque~noencima<strong>de</strong>ltriangulooscuroy<strong>de</strong>lcuadradomedianoyoscuro Tabla6.2:Ejemplos<strong>de</strong>frases,encastellano,pertenecientesalatareaMLA.
6.2 <strong>de</strong>s<strong>de</strong>los26hastalos71:538estadosyfueronaprendidosautomaticamenteapartir<strong>de</strong>50:000frases<strong>de</strong> Pararealizarestosexperimentosutilizamosnueveautomatasnitosestocasticos.Sustama~nosiban Experimentos<strong>de</strong>Procesamiento<strong>de</strong>lLenguaje
distribuidaentrelasoperaciones<strong>de</strong>insercion,borradoysustitucion;1%,5%y10%.Procediendo<strong>de</strong> habla[50].Ennuestrosexperimentosusamostresporcentajesdistintos<strong>de</strong>distorsion,equiprobablemente convencional,elcualsimulaeltipo<strong>de</strong>erroresqueaparecentpicamenteentareas<strong>de</strong>procesamiento<strong>de</strong>l queutilizamosparaelaprendizaje.Esteconjunto<strong>de</strong>pruebafuedistorsionadoutilizandounmo<strong>de</strong>lo latareaMLA[36].Elconjunto<strong>de</strong>datospararealizarlapruebacontena1:000frases,distintas<strong>de</strong>las
pertenecan,ensumayora,aloslenguajesaceptadosporcadauno<strong>de</strong>losautomatasqueaprendimos automaticamente. estemodo,garantizabamosquelasfrasesnalmenteobtenidasparaefectuarelproceso<strong>de</strong>ASCEno
analisissemidioutilizandolatasa<strong>de</strong>error<strong>de</strong>palabras(TEP)ylaperplejidadobtenidaparaelconjunto <strong>de</strong>datos<strong>de</strong>prueba(PP).Laprimeramedidaseobtienecalculandoelmnimonumero<strong>de</strong>operaciones<strong>de</strong> insercion,borradoysustitucion,necesariasparaobtenerlafraseoriginalnodistorsionada<strong>de</strong>lconjunto <strong>de</strong>prueba,apartir<strong>de</strong>lafrasenalmenteobtenidatrasefectuarASCE<strong>de</strong>sucorrespondienteversion Laefectividadoacierto,segunsepreera,<strong>de</strong>lproceso<strong>de</strong>ASCEsereejaenlatabla6.3.Lacalidad<strong>de</strong>l
porelnumerototal<strong>de</strong>palabrasquesehananalizado[75]. secalculaelevando2alvalor<strong>de</strong>laentropacruzada,queeselsumatorio,paracadafrase<strong>de</strong>lconjunto<strong>de</strong> distorsionada.Lasegundaesunamedidaclasicamenteadoptada,paraevaluarlacalidad<strong>de</strong>losmo<strong>de</strong>los <strong>de</strong>lenguajehabitualmenteutilizadosentareas<strong>de</strong>reconocimientoautomatico<strong>de</strong>lhabla(RAH).Suvalor prueba,<strong>de</strong>llogaritmocambiado<strong>de</strong>signo<strong>de</strong>suprobabilidadmaxima<strong>de</strong>seraceptada,divididoasuvez
elvalor<strong>de</strong>laperplejidadsiguenestrechamentelaten<strong>de</strong>ncia<strong>de</strong>laTEP.Losvalores<strong>de</strong>kmayoresque algoritmosevaluados.Enellosseobservaque,paramo<strong>de</strong>losk-explorablesa<strong>de</strong>cuadamenteaprendidos (2k6),ladistorsion(TEP)<strong>de</strong>lasfrases<strong>de</strong>pruebaseredujoenunfactorentre2y3;siendolos mejoreslosresultadosobtenidosconelmo<strong>de</strong>lo6-explorable<strong>de</strong>3:231estados.Lascifrasobtenidaspara Estosresultadosseobtuvieronsinutilizarbusquedaenhaz(BH)yfueroni<strong>de</strong>nticosparatodoslos
aceptadasporelmo<strong>de</strong>lok-explorablecorrespondientesinefectuarASCE.Merece<strong>de</strong>stacarseelhecho<strong>de</strong> EstehechoquedaperfectamentereejadoenlacolumnaetiquetadaN<strong>de</strong>latabla6.3.Estacolumna muestraelnumero<strong>de</strong>frases<strong>de</strong>pruebaoriginales,es<strong>de</strong>cir,nodistorsionadas,quenohubiesensido 6tendana<strong>de</strong>gradarlosresultados.Estose<strong>de</strong>bealafalta<strong>de</strong>generalizacion,normalmenteexhibida
que,conASCE,seconsigueunanotablereduccionenelnivel<strong>de</strong>distorsionparalasfrases<strong>de</strong>prueba porlosmo<strong>de</strong>losk-explorables,segunseincrementakmasalla<strong>de</strong>un<strong>de</strong>terminadovalor(6enestecaso).
paraprocesarfrases\imperfectas",sinotambienparamejorarlasprestaciones<strong>de</strong>mo<strong>de</strong>losnitosqueson
frasesnodistorsionadas.Laconclusion,evi<strong>de</strong>nteporotraparte,esqueelASCEnoresultatansoloutil distorsionadasal10%yal5%,inclusoconcasiun50%<strong>de</strong>tasa<strong>de</strong>rechazoparasuscorrespondientes

96 CAPITULO6.EVALUACIONEXPERIMENTALDELOSALGORITMOSDEANALISIS
jQj(valor<strong>de</strong>k) N Distorsion1%Distorsion5%Distorsion10%
359(4) 26(2) 91(3) 0 TEP 0,43 0,40 0,35 4,36 3,97 3,67 PP TEP 2,19 2,01 1,88 5,55 5,06 4,68 PP TEP 4,80 4,39 3,98 7,28 6,68 6,15 PP
18:928(8) 1:181(5) 3:231(6) 8:133(7) 31 04 0,32 0,51 3,23 3,03 3,04 1,71 1,70 1,85 4,11 3,87 3,86 3,54 3,32 3,61 5,44
39:765(9) 102 273 1,00 2,15 3,09 3,24 2,32 3,33 3,89 3,99 4,00 5,04 5,15 5,12
conjunto<strong>de</strong>prueba(PP)paracadaautomata. Tabla6.3:Resultados<strong>de</strong>lASCEsinBHenfuncion<strong>de</strong>latasa<strong>de</strong>error<strong>de</strong>palabras(TEP-%)ylaperplejidad<strong>de</strong>l 71:538(10) 475 3,73 3,48 4,87 4,15 6,32 5,17 5,29
unmo<strong>de</strong>lo<strong>de</strong>ciente<strong>de</strong>larealidad. DistorsionTEPPPTEPPPTEP =5 =10 =20:::1
10% 1% 5% 0,743,090,423,050,32 3,464,231,703,871,70 6,085,713,595,173,32 3,03 3,87 5,15 PP
Tabla6.4:TEP(%)yPPobtenidosparacadavalor<strong>de</strong>laanchura<strong>de</strong>lhaz<strong>de</strong>busquedausandoelautomata<strong>de</strong> 3:231estados(k=6). utilizandoelmo<strong>de</strong>lo6-explorable(3:231estados).Solamenteseobservarondiferenciasinsignicantescon laBHencadauno<strong>de</strong>losalgoritmos(veaselaseccion3.6).Seprobaroncuatrovaloresdistintospara respectoalosotrosalgoritmos,masquenada<strong>de</strong>bidasalasdistintasmanerasenquesehaimplementado jarlaanchura<strong>de</strong>lhaz<strong>de</strong>busqueda():5,10,20y40(1signicanoutilizarBH).Coniguala20se Latabla6.4muestraelefecto<strong>de</strong>usarBHenelproceso<strong>de</strong>ASCErealizadoporelalgoritmoEV1y
Convalores<strong>de</strong>menores,seapreciaunprogresivo<strong>de</strong>terioro<strong>de</strong>losresultados. obtuvieron,ya,resultadosi<strong>de</strong>nticosalosobtenidosmedianteASCEsinBH(veasetambienlatabla6.3).
distorsion5%y1%fueronsimilares.Puestoquelagracamuestraeltiempomedio<strong>de</strong>procesoporfrase hautilizadoBHenlarealizacion<strong>de</strong>losexperimentosreejadosenlamisma.Porconcision,solamentese muestranlosresultadosobtenidosparael10%<strong>de</strong>distorsion.Losresultadosobtenidosparalosvalores<strong>de</strong> <strong>de</strong>losautomatas(omo<strong>de</strong>los<strong>de</strong>estadosnitos,MEF)utilizadosenlosexperimentos.Notesequenose Lagraca6.1muestralacomparacion<strong>de</strong>laeciencia<strong>de</strong>losdistintosalgoritmos,enfuncion<strong>de</strong>ltama~no
procesorealescoincidiranconsuscorrespondientesvaloresesperados. analizada,cabe<strong>de</strong>cirquelavarianzaobservadafueescasamentesignicativa.Enconcreto,elvalor<strong>de</strong>la <strong>de</strong>sviaciontpica<strong>de</strong>ltiempo<strong>de</strong>procesoporsmboloanalizado,nuncaexcedio<strong>de</strong>l6;7%<strong>de</strong>ltiempomedio <strong>de</strong>procesoporsmboloanalizado.Estoquiere<strong>de</strong>cirque,conprobabilidadcercanaa1,lostiempos<strong>de</strong>
computacional.Aunaslacomplejidadtemporalresultante,proporcionalajQjlogjQj,estodava excesivamentealta.Observesecomolasdosimplementaciones<strong>de</strong>EV3,proporcionalesajQj,ofrecen
<strong>de</strong>EV1.Lautilizacion<strong>de</strong>colas<strong>de</strong>prioridad(EV1PQ)paracalcular,contribuyeaaliviarelcoste Estagracamuestra,claramente,laexcesivamenteelevada<strong>de</strong>manda<strong>de</strong>recursoscomputacionales

6.2.EXPERIMENTOSDEPROCESAMIENTODELLENGUAJE 97
Tpo. medio <strong>de</strong> proceso (cent. <strong>de</strong> segundo)
2500
2000
1500
EV1
EV1PQ
EV3
1000
EV3.V2
Figura6.1:Tiempomedio<strong>de</strong>proceso(encentesimas<strong>de</strong>segundo)<strong>de</strong>losdistintosalgoritmos,medidoparaun
500
0
0 10000 20000 30000 40000 50000 60000 70000 80000
sucaso,lapendiente<strong>de</strong>lacurvaessensiblementemayorquela<strong>de</strong>EV3.Ellose<strong>de</strong>bealnumero<strong>de</strong> 10%<strong>de</strong>distorsionysinutilizarBH. mejoresprestaciones1.EV2tambienmuestraunacomplejidadtemporalproporcionalajQjaunque,en
Total <strong>de</strong> estados en MEF
iteracionesquerequiereestealgoritmoparaanalizarlastransiciones<strong>de</strong>borrado[10]. Distorsion 10% 1% 5% 1,1{1,31,9{2,02,0{2,12,0{3,02,0{4,4 1{1 =5 1,6{1,82,0{2,02,0{2,42,0{4,4 1,9{2,02,0{2,02,1{2,92,1{4,5 =10 =20 =40 =1
valor<strong>de</strong>distorsionyanchura<strong>de</strong>lhaz. Tabla6.5:Rango<strong>de</strong>variacion<strong>de</strong>lnumeromedio<strong>de</strong>iteraciones<strong>de</strong>EV2enlosdistintosautomatas,paracada
Cuantosmasestadossevisiten,mayorseraelnumero<strong>de</strong>transicionesefectivas<strong>de</strong>borradoe,igualmente, <strong>de</strong>iteraciones<strong>de</strong>EV2,yaqueestableceelnumero<strong>de</strong>caminoscuyapuntuacionha<strong>de</strong>sercalculada. iteraciones<strong>de</strong>EV2paradistintosvalorestanto<strong>de</strong>laanchura<strong>de</strong>lhaz<strong>de</strong>busqueda,como<strong>de</strong>lporcentaje<strong>de</strong> distorsion.Estosresultadosconrmanlosobtenidosen[8].LaBHtieneunefectonotableenelnumero Latabla6.5muestraelrango<strong>de</strong>variacionobservado,enlosdistintosautomatas,<strong>de</strong>lnumeromedio<strong>de</strong>
mayorseralaprobabilidad<strong>de</strong>queestastransicionesgenerennuevoscaminosqueobliguenarecalcular caminosyapuntuados.Tengaseencuentatambien,quelasdiferenciasentrelaspuntuaciones<strong>de</strong>los distintoscaminos,tien<strong>de</strong>nanivelarseamedidaqueseproducenmas\errores".Portanto,lainuencia quetieneelvalor<strong>de</strong>lporcentaje<strong>de</strong>distorsionenEV2,vienecomoconsecuencia<strong>de</strong>incrementarlatasa <strong>de</strong>estadosvisitadosparaunaanchura<strong>de</strong>hazja.EV3superalasprestaciones<strong>de</strong>EV2,inclusoaunque elnumero<strong>de</strong>iteraciones<strong>de</strong>EV2esnotablementepeque~no.
segundo(paraelautomatamasgran<strong>de</strong>).
Susvaloresoscilaronentremenos<strong>de</strong>unacentesima<strong>de</strong>segundo(paraelautomatamaspeque~no)hasta36centesimas<strong>de</strong> 1Lostiempos<strong>de</strong>computo<strong>de</strong>laetapa<strong>de</strong>preprocesoparaEV3yEV3.V2(veaselaseccion3.5)fueroninsignicantes. Lasgracas6.2y6.3muestranlainuenciaquetienelaBHenlasprestaciones<strong>de</strong>losdiversos
EV2

98 CAPITULO6.EVALUACIONEXPERIMENTALDELOSALGORITMOSDEANALISIS
2,2
2
1% dist.
5,5
5
5% dist.
6
5,5
10% dist.
1,8
4,5
5
4,5
1,6
4
4
1,4
3,5
3,5
1,2
3
3
Figura6.2:Tiempomedio<strong>de</strong>proceso(encentesimas<strong>de</strong>segundo)medidoparacadavalor<strong>de</strong>distorsion,siendo
1
2,5
2,5
=20.
0,8
2
2
0,6
1,5
1,5
0,4
1
1
0,2
0,5
0,5
0
0
0
0 10000 20000 30000 40000 50000 60000 70000 80000
0 10000 20000 30000 40000 50000 60000 70000 80000
0 10000 20000 30000 40000 50000 60000 70000 80000
Total <strong>de</strong> estados en MEF
Total <strong>de</strong> estados en MEF
Total <strong>de</strong> estados en MEF
1,8
2
Tpo. medio <strong>de</strong> proceso (cent. <strong>de</strong> segundo)
Tpo. medio <strong>de</strong> proceso (cent. <strong>de</strong> segundo)
Tpo. medio <strong>de</strong> proceso (cent. <strong>de</strong> segundo)
1,6
1,4
1,2
1
0,8
0,6
0,4
0,2
Alf a = 5
0
0 10000 20000 30000 40000 50000 60000 70000 80000
6
5,5
5
Total <strong>de</strong> estados en MEF
Alf a = 20
Tpo. medio <strong>de</strong> proceso (cent. <strong>de</strong> segundo)
EV1
EV1PQ
EV2
EV3
EV3.V2
Tpo. medio <strong>de</strong> proceso (cent. <strong>de</strong> segundo)
EV1
EV1PQ
EV2
EV3
EV3.V2
1,8
1,6
1,4
1,2
1
0,8
0,6
0,4
0,2
Tpo. medio <strong>de</strong> proceso (cent. <strong>de</strong> segundo)
Alf a = 10
0
0 10000 20000 30000 40000 50000 60000 70000 80000
Total <strong>de</strong> estados en MEF
140
4,5
EV1
EV1
4
120
EV1PQ
EV1PQ
3,5
EV2
100
EV2
3
EV3
80
EV3
2,5
Figura6.3:Tiempomedio<strong>de</strong>proceso(encentesimas<strong>de</strong>segundo)medidoparaun10%<strong>de</strong>distorsionypara
EV3.V2
EV3.V2
2
60
valores<strong>de</strong>5,10,20y40.
1,5
40
1
20
0,5
0
0
0 10000 20000 30000 40000 50000 60000 70000 80000
0 10000 20000 30000 40000 50000 60000 70000 80000
Total <strong>de</strong> estados en MEF
Total <strong>de</strong> estados en MEF
Tpo. medio <strong>de</strong> proceso (cent. <strong>de</strong> segundo)
180
160
Alf a = 40
EV1
EV1PQ
EV2
EV3
EV3.V2

algoritmos.Lagraca6.2muestraelefecto<strong>de</strong>aumentarelvalor<strong>de</strong>ladistorsionparaunvalorjo<strong>de</strong>la 6.3.EXPERIMENTOSDERECONOCIMIENTODECARACTERESMANUSCRITOS 99
anchura<strong>de</strong>lhaz<strong>de</strong>busqueda.Laexplicacion<strong>de</strong>laforma<strong>de</strong>lascurvasenestagraca,laproporcionael hecho<strong>de</strong>que,amedidaqueseproducenmaserrores,ladiferenciaentrelaspuntuaciones<strong>de</strong>losdiversos estadostien<strong>de</strong>nanivelarse.Portantosi,paraunvalorjo<strong>de</strong>,incrementamoselvalor<strong>de</strong>ladistorsion, seproduceunaumentoenelnumero<strong>de</strong>estadosvisitados.Enestecaso,hemosjadoelvalor<strong>de</strong>a20, losalgoritmosofrecenunexcelenterendimiento.Paralosvalores<strong>de</strong>distorsion5%y10%seobservaque, nuevamente,EV1es<strong>de</strong>masiadolento.EV1PQtien<strong>de</strong>tambienatenerunaltocostecomputacional, yaqueestevalorproduceresultadosi<strong>de</strong>nticos,encuantoatasa<strong>de</strong>acierto,alos<strong>de</strong>labusquedacompleta.
mientrasqueEV2yEV3(ensusdosversiones)ofrecenlasmejoresprestaciones.InclusousandoBH, EV3consiguelosmejoresresultados,aunqueenestecasosoloclaramenteenlosautomatas<strong>de</strong>mayor Po<strong>de</strong>mosobservarqueconun1%<strong>de</strong>distorsion,elnumero<strong>de</strong>estadosvisitadosesmuypeque~noytodos
distorsionmaselevado(10%).Observesequeexistendiferenciassignicativasparavalores<strong>de</strong> tama~no. Finalmente,lagraca6.3muestraelefecto<strong>de</strong>variarlaanchura<strong>de</strong>lhaz<strong>de</strong>busquedaparaelvalor<strong>de</strong>
claramenteaEV2cuandoelnumero<strong>de</strong>estadosvisitadosesmayorqueunciertoumbral.Vease[10]para Debetenerseencuentaque,cuandoelvalor<strong>de</strong>esmenorque20,losresultadosqueseobtienennoson mejoresresultadosencuantoavelocidad<strong>de</strong>ejecucion,siendoEV3elmasrapido<strong>de</strong>todos,yaquesupera losoptimos(veanselastablas6.3y6.4).LaconclusionesqueEV3yEV2obtienensistematicamentelos 20.
consultarmas<strong>de</strong>talles<strong>de</strong>lestudioexperimentalrealizado. 6.3 tosExperimentos<strong>de</strong>Reconocimiento<strong>de</strong>CaracteresManuscrisultantefuealeatoriamentedivididoenconjuntosdisjuntos<strong>de</strong>aprendizajey<strong>de</strong>prueba<strong>de</strong>lmismotama~no frasesquerepresentanestasimagenesseobtuvieron,traselcorrespondientepreproceso,siguiendosu movimiento(norte,noreste,este,sureste,sur,suroeste,oesteynoroeste)[57].Elconjunto<strong>de</strong>frasesre- contornoexterior,elcualfuecodicadomedianteuncodigoquerepresentaochodireccionesposibles<strong>de</strong> Paralarealizacion<strong>de</strong>estosexperimentosseutilizaron2:400imagenes<strong>de</strong>dgitosmanuscritos.Las
lores<strong>de</strong>kcomprendidosentre2y7)pordgitoaclasicar,utilizandoelconjunto<strong>de</strong>aprendizaje.Para mo<strong>de</strong>loglobal.Losestadosnales<strong>de</strong>estemo<strong>de</strong>loglobal,seetiquetaronenfuncion<strong>de</strong>laclaseodgito cadavalor<strong>de</strong>k,juntamoslos10automatask-explorablesresultantes(unopordgitooclase)enununico quemo<strong>de</strong>laelautomataalcualpertenecanoriginalmente.Comoresultadoobtuvimosseisautomatas (1:200frases).Seaprendieronautomaticamenteseisdiferentesautomatasestocasticosk-explorables(va-
estocasticos<strong>de</strong>tama~nocreciente,abarcando<strong>de</strong>s<strong>de</strong>80hasta18:416estados.
comopertenecientealaclasequerepresentaelautomata,cuyaprobabilidad<strong>de</strong>aceptar(generarsi verosimilitud[38].Puestoquetenemosunautomataestocasticoquemo<strong>de</strong>lacadaclaseytenemostambien unmo<strong>de</strong>lo<strong>de</strong>errorconprobabilida<strong>de</strong>sparacadaposibleoperacion<strong>de</strong>edicion,po<strong>de</strong>mosusarestas probabilida<strong>de</strong>sparaclasicarlasmuestras<strong>de</strong>prueba.As,cadafrase<strong>de</strong>lconjunto<strong>de</strong>pruebaseclasica Paraclasicarlasmuestras<strong>de</strong>lconjunto<strong>de</strong>prueba,utilizamoslaregla<strong>de</strong>clasicacion<strong>de</strong>maxima
lovemoscomounagramatica)dichafraseesmaxima.Puestoque,enmuchoscasos,lasfrases<strong>de</strong>l
estonotieneporquesersiempreas.Silaprobabilidad<strong>de</strong>realizar<strong>de</strong>terminadasoperaciones<strong>de</strong>edicion
ASCEpararesolveresteproblema.Deestaformagarantizamosquecadafrase<strong>de</strong>pruebatendrauna probabilidaddistinta<strong>de</strong>cero,<strong>de</strong>serclasicadacomopertenecienteacadauna<strong>de</strong>lasclases.Obviamente, unaprobabilidadigualacero<strong>de</strong>serclasicadascomopertenecientesaalguna<strong>de</strong>lasclases,utilizamos conjunto<strong>de</strong>pruebanopue<strong>de</strong>nseraceptadasporninguno<strong>de</strong>losautomatasproduciendo,<strong>de</strong>estemodo,

fuesecero,entoncesnopodramosgarantizarlo,talcomocomentamosenelcaptulo4.Noobstante,el 100 CAPITULO6.EVALUACIONEXPERIMENTALDELOSALGORITMOSDEANALISIS
ceroparatodaposibleoperacion<strong>de</strong>edicion,comoeselcaso<strong>de</strong>losexperimentosque,acontinuacion, lectorrecordaraque,enlaultimaseccion<strong>de</strong>dichocaptulo,dimosunpar<strong>de</strong>solucionesparasolventar presentamos.jQj(valor<strong>de</strong>k)80(2)527(3)2:047(4)5:519(5)11:080(6)18:416(7)
esteproblema.Detodasformas,asumiremosqueelmo<strong>de</strong>lo<strong>de</strong>errortieneprobabilida<strong>de</strong>sdistintas<strong>de</strong>
Tasa<strong>de</strong>acierto75,8 Tabla6.6:Tasa<strong>de</strong>acierto(%)obtenidaparacadaautomata. 90,8 95,1 97,2 97,2 97,5
con18:416estados(k=7)obtienelosmejoresresultados.Decrementarelvalor<strong>de</strong>kproducaun<strong>de</strong>terioro progresivo<strong>de</strong>losresultados.Algunaspruebaspreviasrealizadasmostraronquelatasa<strong>de</strong>aciertosin ASCE,estabapor<strong>de</strong>bajo<strong>de</strong>l50%entodoslosmo<strong>de</strong>losnitosutilizados. Latabla6.6muestralastasas<strong>de</strong>aciertoobtenidasutilizandoASCE,perosinutilizarBH.Elautomata
Tpo. medio <strong>de</strong> proceso (cent. <strong>de</strong> segundo)
2800
2400
2000
1600
1200
EV1
EV1PQ
EV3.V2
800
Figura6.4:Tiempomedio<strong>de</strong>proceso(encentesimas<strong>de</strong>segundo)<strong>de</strong>losdistintosalgoritmossinutilizarBH.
400
0
0 2500 5000 7500 10000 12500 15000 17500 20000
nuncaexcedio<strong>de</strong>l7;2%<strong>de</strong>ltiempomedio<strong>de</strong>procesoporsmboloanalizado.Denuevo,lasprestaciones Lavarianzaobservadaenlostiempos<strong>de</strong>procesofue,comoenlosanterioresexperimentos,escasamente signicativa.Enestecaso,la<strong>de</strong>sviaciontpicaobservadaparaeltiempo<strong>de</strong>procesoporsmboloanalizado Lagraca6.4muestraeltiempomedio<strong>de</strong>procesoparacadaalgoritmo<strong>de</strong>ASCEsinutilizarBH.
Total <strong>de</strong> estados en MEF
logradasporEV3fueron,condiferencia,mejoresquelas<strong>de</strong>losotrosalgoritmos.Tambienmencionaremos
lascondicionesespeccas<strong>de</strong>losdatos[10]. EV1PQlosupero.Estose<strong>de</strong>bealhecho<strong>de</strong>quelasprestaciones<strong>de</strong>EV2<strong>de</strong>pen<strong>de</strong>nsignicativamente<strong>de</strong> quelostiempos<strong>de</strong>computo<strong>de</strong>lafase<strong>de</strong>preprocesorequeridaporEV3yEV3.V2fueronotravez insignicantes,yendo<strong>de</strong>s<strong>de</strong>menos<strong>de</strong>unacentesima<strong>de</strong>segundohasta7centesimas<strong>de</strong>segundo.Las prestaciones<strong>de</strong>EV2enestaseriefueronpeoresquelasmedidasenlosanterioresexperimentos.Incluso
numero<strong>de</strong>iteracionesrealizadoporEV2duranteelanalisis<strong>de</strong>lastransiciones<strong>de</strong>borrado,sinutilizar
Latabla6.7explicaelempeoramientoobservadoenlasprestaciones<strong>de</strong>EV2.Estatablamuestrael
EV2
EV3

6.4.CONCLUSIONES jQj(valor<strong>de</strong>k)80(2)527(3)2:047(4)5:519(5)11:080(6)18:416(7) 101
Maximo Mnimo 42 73 11 3 16 3 17 3 22
Tabla6.7:Numero<strong>de</strong>iteracionesrealizadasporEV2paracadauno<strong>de</strong>losautomatasutilizados. Desv.tpica Media 2,98 0,32 4,60 0,67 5,92 0,85 7,30 1,43 7,95 1,70 8,80 2,22 4
cuantoatasa<strong>de</strong>aciertosereere,es<strong>de</strong>cir,elmo<strong>de</strong>lo7-explorable<strong>de</strong>18:416estados(veaselatabla6.6). Losresultadossemuestranenlatabla6.8.Enestaserie<strong>de</strong>experimentos,ninguno<strong>de</strong>losvaloresprobados BH.Comosepue<strong>de</strong>apreciarestosvaloressonmayoresquelosobservadosenlosanterioresexperimentos.
paralaanchura<strong>de</strong>lhazprodujolamismatasa<strong>de</strong>aciertoquelaconseguidaconlabusquedatotal(97:5%). Recuer<strong>de</strong>sequeestatecnicanogarantizaencontrarlasolucionoptima.Sinembargo,parecequejarel Lainuencia<strong>de</strong>laBHfueestudiadaenelautomataqueproporcionabalosmejoresresultados,en
estevalor,EV3fuealre<strong>de</strong>dor<strong>de</strong>1;5vecesmasrapidoqueEV2ysobre1;7vecesmasrapidoqueEV1PQ. ancho<strong>de</strong>lhaza30proporcionaunbuencompromisoentrerapi<strong>de</strong>zyefectivida<strong>de</strong>nlabusqueda.Las mejoresprestacionesutilizandoBH,fueronnuevamenteconseguidasporEV2yEV3.Lasdiferencias entrelosdiversosalgoritmosfueronmassignicativasparaelvalormasalto<strong>de</strong>lancho<strong>de</strong>lhaz(30).Con
10 20 25Tasaacierto 90,2 96,1 96,7 EV3EV3.V2EV2EV1PQEV1 16 35 2 21 41 3 20 45 1 25 54 2 109 2
Tabla6.8:Inuencia<strong>de</strong>laBHenlatasa<strong>de</strong>acierto(%)yeneltiempomedio<strong>de</strong>proceso(centesimas<strong>de</strong>segundo). 30 1 97,2 97,5 1.163 63 1.137 72 2.750 90 2.187 102 {
6.4 mas<strong>de</strong>busquedaenhaz,permitenlograrunaimplementacioneciente<strong>de</strong>l<strong>de</strong>scodicadorD<strong>de</strong>nuestroEnelcaptulo3propusimosvariosalgoritmosque,combinadosconlautilizacion<strong>de</strong>t<strong>ecnicas</strong>subopti- Conclusiones
fuente).Queremosresaltarquetodosellossonigualmentecompatiblesconlautilizacion<strong>de</strong>labusqueda enhaz,aunquepuedanexistirligerasdiferenciasencuantoalnumero<strong>de</strong>estadosvisitados,<strong>de</strong>bidoa estosmo<strong>de</strong>lossonlosquevamosautilizarenestatesispararepresentaraF(la<strong>de</strong>scripcion<strong>de</strong>llenguaje resuelvenelproblema<strong>de</strong>la<strong>de</strong>scodicacionconcualquiermo<strong>de</strong>lo<strong>de</strong>estadosnitos.Noolvi<strong>de</strong>mosque sistemaS,talcualsepresentoenlaseccion2.3.Todoslosalgoritmos<strong>de</strong>sarrolladosenaquelcaptulo
peque~nasvariacionesenlaforma<strong>de</strong>implementarla.Igualmente<strong>de</strong>stacamosque,enlosexperimentos efectuados,EV3(yEV3.V2)haexhibidomejoresprestacionesqueelresto<strong>de</strong>losalgoritmospropuestos.

102 CAPITULO6.EVALUACIONEXPERIMENTALDELOSALGORITMOSDEANALISIS

CAPITULO SIETE
Suavizado<strong>de</strong>Mo<strong>de</strong>los<strong>de</strong>Estados Finitos
ThesecretsIhi<strong>de</strong>, twistmeinsi<strong>de</strong>,
I'llneverfeelagain. likeeverybodyelse. Icrouchinfearandwait, theymakemeweaker.
IfonlyIcouldremember SoItrickmyself
-\Sinking",TheHeadontheDoor,1985,FictionRec.- RobertSmith(TheCure) anythingatall.
Contenidos<strong>de</strong>lCaptulo 7.1Introduccion
7.4ExperimentosconlaTareaATIS 7.3ExperimentosconlaTarea<strong>de</strong>lTurista 7.2ValidacionCruzada
7.1 <strong>de</strong>estadosnitos,caraasuutilizacionendiversasaplicacionespracticas<strong>de</strong>interescomo,porejemplo, Estecaptulo<strong>de</strong>scribelaaplicacion<strong>de</strong>t<strong>ecnicas</strong><strong>de</strong>correccion<strong>de</strong>erroresparaelsuavizado<strong>de</strong>mo<strong>de</strong>los Introduccion
traduccionautomaticayreconocimientoautomatico<strong>de</strong>lhabla(RAH). 103

104Enelcaso<strong>de</strong>lasaplicaciones<strong>de</strong>RAH,essobradamenteconocidalaimportancia<strong>de</strong>lautilizacion<strong>de</strong> CAPITULO7.SUAVIZADODEMODELOSDEESTADOSFINITOS
buenosmo<strong>de</strong>los\predictivos"(estocasticos)<strong>de</strong>lenguaje.Estosmo<strong>de</strong>losseutilizanparaguiarlabusqueda <strong>de</strong>lamejorhipotesisparalafrasequeefectivamentesepronuncio,dadalasecuencia<strong>de</strong>tramasacusticas recibidascomoentrada. <strong>de</strong>estadosnitos<strong>de</strong>mayorpotenciaexpresiva[25,75,34],siguenutilizandose,ataln,losconocidos mo<strong>de</strong>los<strong>de</strong>N-gramas[39].Ellonoestantoporlacapacida<strong>de</strong>xpresiva<strong>de</strong>estosmo<strong>de</strong>los,sinoporla existencia<strong>de</strong>unaserie<strong>de</strong>po<strong>de</strong>rosast<strong>ecnicas</strong><strong>de</strong>suavizado,back-o1einterpolacionlineal,quepermitenal mo<strong>de</strong>lo<strong>de</strong>N-gramassercapaz<strong>de</strong>sobreponersealosproblemas<strong>de</strong>rivados<strong>de</strong>suaplicacionpractica[21, Sinembargo,apesar<strong>de</strong>laexistencia<strong>de</strong>ecientest<strong>ecnicas</strong><strong>de</strong>inferencia,capaces<strong>de</strong>apren<strong>de</strong>rmo<strong>de</strong>los
35,52].Noobstante,lamayora<strong>de</strong>estast<strong>ecnicas</strong>solamentesonaplicablesalcaso<strong>de</strong>N-gramas,no existiendounaalternativarealparasuaplicacionenmo<strong>de</strong>los<strong>de</strong>estadosnitosengeneral[35]. estadosnitos,consisteenlautilizacion<strong>de</strong>t<strong>ecnicas</strong><strong>de</strong>correccion<strong>de</strong>errores.Lastransiciones<strong>de</strong>errorque extien<strong>de</strong>nelmo<strong>de</strong>lobasico<strong>de</strong>estadosnitos,pue<strong>de</strong>nconsi<strong>de</strong>rarsecomolossucesosnovistosenelconjunto <strong>de</strong>aprendizajequeseutilizoparainferirloysusprobabilida<strong>de</strong>s,alefectuarloscalculosparalograruna integracionconsistente<strong>de</strong>lmo<strong>de</strong>locombinado,actuanenlapractica<strong>de</strong>scontandounaciertacantidad<strong>de</strong> Precisamentelaalternativaqueproponemos,comotecnica<strong>de</strong>suavizadoparacualquiermo<strong>de</strong>lo<strong>de</strong>
parametros<strong>de</strong>error)entrelastransicionesnovistas(veaselaseccion2.5).Acontinuacionpresentamos experimentos,condatos<strong>de</strong>latarea<strong>de</strong>lTuristay<strong>de</strong>latareaATIS,que<strong>de</strong>muestrancuanprometedora resultaestaaproximacion,lacual,a<strong>de</strong>mas,tienelaenormeventaja<strong>de</strong>noestarrestringidaaserutilizada lamasa<strong>de</strong>probabilidadquetieneelmo<strong>de</strong>looriginal,pararepartirla(segunlasprobabilida<strong>de</strong>s<strong>de</strong>los paraunaclaseparticular<strong>de</strong>mo<strong>de</strong>los<strong>de</strong>estadosnitos.
\cubrir"aquellasfrasesque,usualmente,pue<strong>de</strong>necesitarexpresarunturistaquevisitaunpasextranjero 7.1.1Descripcion<strong>de</strong>laTarea<strong>de</strong>lTurista
cuyalenguanativa<strong>de</strong>sconoce.Estemarcogeneral,as<strong>de</strong>nido,incluyeunagranvariedad<strong>de</strong>escenarios diferentes,resultando,portanto,convenienteparaefectuarunaexperimentacionprogresiva<strong>de</strong>creciente complejidad. Latarea<strong>de</strong>lTuristaesunatarea<strong>de</strong>traduccion<strong>de</strong>nidaenundominiosemanticorestringido.Preten<strong>de</strong>
sistemas<strong>de</strong>traduccionendominiosrestringidosentrevariosidiomasdistintos. niencia<strong>de</strong>lautilizacion<strong>de</strong>t<strong>ecnicas</strong>clasicas<strong>de</strong>aprendizajeinductivo,para<strong>de</strong>sarrollarautomaticamente Enlaprimerafase<strong>de</strong>dichoproyecto,elescenarioselimitoaalgunassituaciones<strong>de</strong>comunicacion EstatareafueprimeramenteutilizadaenelproyectoEuTrans,elcualpreten<strong>de</strong><strong>de</strong>mostrarlaconve\personaapersona"enlarecepcion<strong>de</strong>unhotel.Especcamente,seconsi<strong>de</strong>raronlassiguientessituaciones:pedirhabitaciones(unaovarias),solicitarunallamada<strong>de</strong>recepcionparaser<strong>de</strong>spertadoauna
lacuenta,noticarlapartida(enunafecha<strong>de</strong>terminada)yotrasexpresionescomunes(cortesa,saludo, lashabitaciones,quejarse<strong>de</strong>lashabitaciones,pedirpo<strong>de</strong>rcambiar<strong>de</strong>habitacion,hacerunareserva(por untiempo<strong>de</strong>terminado),noticarunareservaprevia,rmarlahoja<strong>de</strong>registro,quejarseporelprecio<strong>de</strong> <strong>de</strong>lequipaje,solicitarinformacion<strong>de</strong>lashabitaciones(disponibilidad,caractersticas,precio),pedirver hora<strong>de</strong>terminada,pedirlasllaves<strong>de</strong>lahabitacion,pedirlacuenta,pediruntaxi,solicitareltraslado
etc.).
ciendoelefecto<strong>de</strong>tenerunmo<strong>de</strong>lo<strong>de</strong>lenguajecapaz<strong>de</strong>\funcionar"avariosniveles(<strong>de</strong>menoramayorgeneralidad).1Estatecnicaconsisteenintegrar<strong>de</strong>formarobustadiversosmo<strong>de</strong>los<strong>de</strong>N-gramas,paravalores<strong>de</strong>Ndistintos,produ-
Coneln<strong>de</strong>evaluarlasprestaciones<strong>de</strong>last<strong>ecnicas</strong>utilizadasenlaprimerafase<strong>de</strong>esteproyecto,

seprodujerontresconjuntos<strong>de</strong>aprendizajedistintos:castellano-ingles,castellano-alemanycastellano- 7.1.INTRODUCCION 105
italiano.Cadauno<strong>de</strong>estosconjuntosestacompuestoporpares<strong>de</strong>frases<strong>de</strong>laforma(fraseenelidioma
<strong>de</strong>scribimos. porque,<strong>de</strong>bidoalaescasaduracion<strong>de</strong>laprimerafase(6meses),noerafactiblerecogerloscorpora<strong>de</strong> aprendizajea<strong>de</strong>cuadosy,almismotiempo,producirlosdiversossistemas<strong>de</strong>traduccionprometidos.Por tanto,seprocedioagenerararticialmentelosdatos<strong>de</strong>aprendizaje<strong>de</strong>laformaque,acontinuacion, origen,correspondientetraduccionenelidioma<strong>de</strong>stino).>Porquehemosdicho\produjeron"?Pues
acabamos<strong>de</strong>especicar),recogidas<strong>de</strong>varioslibritos<strong>de</strong>gua,especialmenteorientadosparaturistas,que contenanfrases<strong>de</strong>usocomunenvariosidiomas.Esteconjuntoinicial<strong>de</strong>frasessirvio<strong>de</strong>inspiraciona varios\expertos"humanos,paradise~narunaserie<strong>de</strong>esquemas<strong>de</strong>traducciondirigidosporlasintaxis[42]. Estosesquemasseutilizaroncomoentradaparaunprogramagenerador<strong>de</strong>pares<strong>de</strong>frases<strong>de</strong>laforma Primeramente,secreounpeque~noconjuntoinicial<strong>de</strong>frases(lasrelativasaldominio<strong>de</strong>lhotel,talcual
requerida,produciendose<strong>de</strong>estaformalostresconjuntos<strong>de</strong>aprendizaje<strong>de</strong>losqueconstaestatarea[7].
Aleman: Ingles: Castellano:Porfavor,llamenosauntaxi. Castellano:Porfavor,>podranrepasarlacuenta<strong>de</strong>lahabitacionseiscerotres? Castellano:Porfavor,reservamosunahabitaciondobleparaestanoche. KonntenSiedieRechnung<strong>de</strong>sZimmerssechsnulldreiuberprufen,bitte? Couldyoucallataxiforus,please?
Italiano: Tabla7.1:Algunosejemplos<strong>de</strong>pares<strong>de</strong>frases<strong>de</strong>latarea<strong>de</strong>lTurista. Perfavore,abbiamoprenotatounastanzadoppiaperquestanotte.
tarea<strong>de</strong>lTurista.Lasprincipalescaractersticas<strong>de</strong>estoscorporaseresumenenlatabla7.2.Paracada uno<strong>de</strong>estoscorporase<strong>de</strong>nierondosparticiones,resultandocadauna<strong>de</strong>ellasendossubconjuntos:uno paraaprendizaje(490:000frases)yotroparaevaluacion(10:000frases).Los<strong>de</strong>tallesacerca<strong>de</strong>lnumero <strong>de</strong>paresrepetidos(conysincategoraslexicas)paracadaconjunto<strong>de</strong>aprendizaje,encadaparticiony Latabla7.1muestraalgunosejemplos<strong>de</strong>pares<strong>de</strong>frasesqueconformanlosdiferentescorporaparala
masa<strong>de</strong>lante,alolargo<strong>de</strong>laseccion7.3,seiranofreciendoalgunos<strong>de</strong>tallesmas. lenguaje<strong>de</strong>stino,nosonrelevantesparaestatesis.Ellectorcuriosopue<strong>de</strong>encontrarlosen[4],aunque Caracterstica Numero<strong>de</strong>pares Castellano-InglesCastellano-AlemanCastellano-Italiano
Longitudmediafrases<strong>de</strong>entrada Tama~no<strong>de</strong>lvocabulario<strong>de</strong>salida Tama~no<strong>de</strong>lvocabulario<strong>de</strong>entrada Numero<strong>de</strong>paresdiferentes 171.352 500.000 514 689 166.221 500.000 566 691 169.644 500.000
Longitudmediafrases<strong>de</strong>salida 9,5 9,8 8,9 8,2 12,7 11,8 583 687
Tabla7.2:Principalescaractersticas<strong>de</strong>loscorpora<strong>de</strong>latarea<strong>de</strong>lTurista.
restringido.Elnucleo<strong>de</strong>lsistemaloconstituyeunabase<strong>de</strong>datosquecontieneinformacionproporcionada
7.1.2Descripcion<strong>de</strong>laTareaATIS LatareaATIS(AirTravelInformationSystem)es,igualmente,unatareaconundominiosemantico

porlaguaocial<strong>de</strong>laslneasaereasnorteamericanas.Lospotencialesusuarios<strong>de</strong>lsistemapue<strong>de</strong>n 106 CAPITULO7.SUAVIZADODEMODELOSDEESTADOSFINITOS
compren<strong>de</strong>n<strong>de</strong>s<strong>de</strong>lapeticion<strong>de</strong>informacionsobrevuelos,hasta<strong>de</strong>scripciones<strong>de</strong>lequipamiento<strong>de</strong>los naturalidadconlamaquina,yaquenosehabajadopreviamenteningunlenguajeespecial,nisehaba aviones,incluyendolascomidasquesesirvenenvuelosconcretos.Losusuariospodanhablarcon <strong>de</strong>terminadounasecuencia<strong>de</strong>eventos<strong>de</strong>dialogo.Portanto,esnormalencontrarenelcorpusparadicha formularcuestionessobreunaampliagama<strong>de</strong>temas,contenidosenlabase<strong>de</strong>datos.Dichostemas
<strong>de</strong>interfacesbienorales,bienutilizandolenguajenatural,paraelaccesoalainformacion<strong>de</strong>ciertos tarea,fenomenostpicos<strong>de</strong>llenguajehabladotalescomodudas,vacilaciones,falsoscomienzos,etc..
sistemas<strong>de</strong>almacenamiento<strong>de</strong>datos.Estecorpusestacompuestoporfrasespronunciadasporlocutores, cuyalenguanativaeselinglesamericano.Dichasfrasescontienenpeticiones<strong>de</strong>informacion<strong>de</strong>ltipo: reconocimiento<strong>de</strong>vozytratamiento<strong>de</strong>llenguajenatural[47].Esteproyectosecentrabaenel<strong>de</strong>sarrollo Elcorpus<strong>de</strong>latareaATISserecogioenelmarco<strong>de</strong>unproyecto<strong>de</strong>laDARPA,parainvestigacionen
ATIS-2.Estapartefue<strong>de</strong>sarrolladautilizandot<strong>ecnicas</strong>conocidascomomago<strong>de</strong>Oz.Estast<strong>ecnicas</strong> Enlosexperimentosquepresentamosenestecaptulo,hemosutilizadoelsub-corpus<strong>de</strong>nominado Uh,I'dliketogofrom,uh,PittsburghtoBostonnextTuesday,nowait,Wednesday.
consisten,basicamente,enhacerqueunhumanorealice,sinqueelusuariolosepa,elpapelasignado,
conjunto<strong>de</strong>evaluacioncomoconjunto<strong>de</strong><strong>de</strong>sarrollo,tantoparaestimarlosparametros<strong>de</strong>lsuavizado <strong>de</strong>ntro<strong>de</strong>lsistema<strong>de</strong>dialogogeneral,alsistema<strong>de</strong>reconocimiento<strong>de</strong>voz.ATIS-2estacompuesto,
basico<strong>de</strong>referenciaqueutilizaremosenlacomparacionnal<strong>de</strong>resultados,comoparaestimarlosvalores smbolos(palabras).Enlosexperimentosqueposteriormente<strong>de</strong>scribiremos,hemosutilizadoelprimer evaluacion(974fraseselprimeroy1:002elsegundo).Elvocabularioobservadocontieneuntotal<strong>de</strong>1:294 ocialmente,porunconjunto<strong>de</strong>datos<strong>de</strong>entrenamiento(13:186frases)ypordosconjuntos<strong>de</strong>datos<strong>de</strong>
<strong>de</strong>prueba. <strong>de</strong>losparametros<strong>de</strong>error.Elsegundoconjunto<strong>de</strong>evaluacionfueutilizadocomoconjuntoin<strong>de</strong>pendiente
7.2 <strong>de</strong>erroresparamejorarlasprestaciones<strong>de</strong>mo<strong>de</strong>los<strong>de</strong>estadosnitosenaplicacionespracticas,esel<strong>de</strong>la Uno<strong>de</strong>losmayoresproblemasquetenemosqueafrontar,alahora<strong>de</strong>utilizart<strong>ecnicas</strong><strong>de</strong>correccion ValidacionCruzada
disponer<strong>de</strong>datossucientesparapo<strong>de</strong>rrealizarestimacionescorrectas<strong>de</strong>losparametros<strong>de</strong>error. paraconstruirunmo<strong>de</strong>lo<strong>de</strong>estadosnitosa<strong>de</strong>cuado.Elproblemaseagravaaunmas,sinecesitamos escasez<strong>de</strong>datos<strong>de</strong>aprendizaje.Muchasveces,apenassedispone<strong>de</strong>muestras<strong>de</strong>aprendizajesucientes
valores<strong>de</strong>losparametros<strong>de</strong>error.Sinembargo,siutilizamost<strong>ecnicas</strong><strong>de</strong>reestimacionporViterbi,como basadasenelalgoritmoExpectation-Maximization(E-M)(veaselaseccion4.3).Estast<strong>ecnicas</strong>soncapaces <strong>de</strong>sacarelmaximopartidoalos,normalmente,escasosdatos<strong>de</strong>losquedisponemosparaestimarlos laspresentadasenlaseccion4.2,elproblema<strong>de</strong>laescasezesmasdifcil<strong>de</strong>solucionar.Noobstante, Esteproblemaresultamenosevi<strong>de</strong>ntesiseutilizant<strong>ecnicas</strong><strong>de</strong>estimacionpormaximaverosimilitud,
frases<strong>de</strong>laforma(frase<strong>de</strong>entradaalcanal,frase<strong>de</strong>salida<strong>de</strong>lcanal),locualesotroproblema.Enel esteultimoproblema. proximocaptuloseofrecensoluciones,consistentesenelempleo<strong>de</strong>t<strong>ecnicas</strong><strong>de</strong>bootstrappingutilizando cabe<strong>de</strong>cirque,parapo<strong>de</strong>rutilizarlaaproximacionbasadaenelE-M,necesitamosdisponer<strong>de</strong>pares<strong>de</strong> lasNmejoressolucionesproporcionadasporunanalizadorsintacticocorrector<strong>de</strong>errores,parapaliar Enestaseccionvamosa<strong>de</strong>scribirlaaplicacion<strong>de</strong>unatecnicaclasica<strong>de</strong>lreconocimiento<strong>de</strong>formas,

paraconseguira<strong>de</strong>cuadasestimaciones<strong>de</strong>lasprobabilida<strong>de</strong>s<strong>de</strong>lastransiciones<strong>de</strong>error,consi<strong>de</strong>randoque 7.3.EXPERIMENTOSCONLATAREADELTURISTA 107
Kbloques,ennuestrocaso)[66].Queremospuntualizarqueestatecnicalautilizaremosexclusivamente Enestecaso,empleamoslatecnica<strong>de</strong>reestimacionporViterbi<strong>de</strong>scritaenlaseccion4.2.Portanto, obiennosedispone<strong>de</strong>datospararealizarestasestimaciones,obienlosdatosquehaysoninsucientes.
paraestimarlosvalores<strong>de</strong>losparametros<strong>de</strong>error.Conesten,realizaremoselsiguienteproceso: disponemosunicamente<strong>de</strong>unconjunto<strong>de</strong>frasesTquesabemosquepertenecena onoaL(F)).Latecnicaquevamosautilizarse<strong>de</strong>nominavalidacioncruzada(usandounaparticionen (pue<strong>de</strong>npertenecer
1.DenimosunnumeroK<strong>de</strong>bloquesdistintosparaT.Paracadabloque,obtendremosdossubcon- 2.Paracadauno<strong>de</strong>losbloques,1kK juntosdisjuntosT1yT2.
(b)UtilizamosTk (a)UtilizamosTk gramatical. 1paraconstruirunmo<strong>de</strong>lo<strong>de</strong>estadosnitos,Fk,mediantet<strong>ecnicas</strong><strong>de</strong>inferencia
(c)Comoresultadoobtendremosunaestimacion<strong>de</strong>lasfrecuencias<strong>de</strong>uso<strong>de</strong>lastransiciones<strong>de</strong> reestimacion<strong>de</strong>scritoenlaseccion4.2usandoFk.Esteprocesolorepetiremosunnumero jo,R,<strong>de</strong>iteraciones,obienhastaquesecumplaunciertocriterio<strong>de</strong>parada. 2paraestimarlosparametros<strong>de</strong>error.Paraelloemplearemoselproceso<strong>de</strong>
3.Losdiferentes\mo<strong>de</strong>los"<strong>de</strong>errorestimados,Ek1kK,semezclanenununicomo<strong>de</strong>lo.Para paracadaEk.LosKmo<strong>de</strong>los<strong>de</strong>estadosnitosobtenidosduranteelprocesose<strong>de</strong>sprecian,pues ellobastaconsumarlasfrecuencias<strong>de</strong>utilizacion<strong>de</strong>lastransiciones<strong>de</strong>error,nalmenteobtenidas errorenTk 2,Ek.
acabamos<strong>de</strong><strong>de</strong>scribir,conmayoromenorexito,comoveremos. Enalgunos<strong>de</strong>losexperimentosquepresentamosenestecaptulo,hemosutilizadolatecnicaque unicamentesirvenpara\guiar"laestimacion<strong>de</strong>losparametros<strong>de</strong>error.
7.3 potencial<strong>de</strong>last<strong>ecnicas</strong><strong>de</strong>correccion<strong>de</strong>errores,utilizandodatosarticialmentedistorsionados(<strong>de</strong>la Durantelaprimerafase<strong>de</strong>lproyectoEuTrans,realizamosdiversosexperimentosparaevaluarel ExperimentosconlaTarea<strong>de</strong>lTurista
nosotros,estatesis).Los<strong>de</strong>tallescompletossepue<strong>de</strong>nencontraren[4]yunamplioresumen<strong>de</strong>losmismos <strong>de</strong>sarrolladoenlosultimosdosa~nos(yquehanpermitidoconcluirfelizmente,almenosesopensamos mismaformaqueenlosexperimentos<strong>de</strong>procesamiento<strong>de</strong>llenguaje<strong>de</strong>scritosenelcaptulo6).Estos experimentosnoresultanrelevantesahora,dadalacantidad<strong>de</strong>nuevasherramientasyt<strong>ecnicas</strong>quehemos en[5].Noobstante,queremosmencionarque,comoresultado<strong>de</strong>aquellosexperimentos,obtuvimosuna serie<strong>de</strong>mo<strong>de</strong>los<strong>de</strong>error(estimaciones<strong>de</strong>losparametros<strong>de</strong>error)yque,conelmejor<strong>de</strong>ellos,realizamos
<strong>de</strong>mejorarlasprestaciones<strong>de</strong>dichosmo<strong>de</strong>los(loscualespocasvecesresultanperfectosenlapractica) prestaciones<strong>de</strong>unmo<strong>de</strong>lo<strong>de</strong>estadosnitosanteentradas\incorrectas",sinoquetambiensoncapaces unexperimentoqueconsi<strong>de</strong>ramosinteresantereejarenestaseccion.
anteentradas\correctas",es<strong>de</strong>cir,entradasque<strong>de</strong>beraesperarelmo<strong>de</strong>lo(sifuesecompletamente correcto).Estaes,precisamente,lalosofageneral<strong>de</strong>lsuavizado<strong>de</strong>mo<strong>de</strong>los<strong>de</strong>lenguaje.Esporello, Elexperimento<strong>de</strong>muestraquelast<strong>ecnicas</strong><strong>de</strong>correccion<strong>de</strong>errores,nosolosoncapaces<strong>de</strong>mejorarlas
quepresentamosestosexperimentoscomoelresultadoinicialquehaimpulsadolarealizacion<strong>de</strong>lresto.

108Esteexperimentoconsistioenutilizarlostrestraductores(unoporcadaidioma<strong>de</strong>stino)yelmo<strong>de</strong>lo CAPITULO7.SUAVIZADODEMODELOSDEESTADOSFINITOS
utilizadosenlaprimerafase<strong>de</strong>EuTrans. a<strong>de</strong>lante,enestamismaseccion,sedaranlos<strong>de</strong>tallescompletos<strong>de</strong>losdiferentesconjuntos<strong>de</strong>evaluacion <strong>de</strong>errorquemejorresultadohabandadoenlaevaluacionefectuadaen[4],paratraducirlasfrasesen castellano<strong>de</strong>lostresconjuntosociales<strong>de</strong>evaluacion(in<strong>de</strong>pendientes)<strong>de</strong>lproyectoEuTrans.Mas
lastraduccionesofrecidasporelsistemaconrespectoalastraduccionesrealmenteesperadas,utilizando analisissintacticoconvencionalyanalisiscorrector<strong>de</strong>errores.Enestosresultadosseapreciaclaramente quelacorreccion<strong>de</strong>erroresconsigueunareduccionbastantesignicativa<strong>de</strong>latasa<strong>de</strong>error. Losresultadossemuestranenlatabla7.3.Enellossemi<strong>de</strong>latasa<strong>de</strong>error<strong>de</strong>palabras(TEP),<strong>de</strong>
Conjunto<strong>de</strong>evaluacionSinCEConCE castellano-ingles castellano-aleman 0,74 1,23 0,18
Tabla7.3:Experimentosconentrada\correcta":TEPparatraduccion(enporcentaje)conysincorreccion<strong>de</strong> castellano-italiano 2,54 0,54
errores(CE). 0,51
entrada(enestecaso,encastellano)eneltraductorsubsecuencialutilizado(veanselassecciones2.2.4 portransiciones<strong>de</strong>error,comoportransicionespropias<strong>de</strong>ltraductorsubsecuencial.Paraobtenerla seutiliceanalisiscorrector<strong>de</strong>errores,eslatraduccionasociadaalcamino<strong>de</strong>aceptacion<strong>de</strong>lafrase<strong>de</strong> y2.2.5).Enelcaso<strong>de</strong>utilizaranalisiscorrector<strong>de</strong>errores,estecaminopue<strong>de</strong>estarcompuestotanto Tengaseencuentaquelatraduccionofrecidaporelsistema,bienseutiliceanalisisconvencional,bien
traduccioncorrespondientealastransiciones<strong>de</strong>sustitucionyborrado,simplementeseutilizala(sub)frase <strong>de</strong>salidaasociadaalatransicionpropia<strong>de</strong>ltraductorcuyosmbolosesustituyooborro.Lastransiciones
cion<strong>de</strong>errores,enlareduccion<strong>de</strong>lnumero<strong>de</strong>muestrasnecesarioparaobtenertraductoressubsecuenciales tanto,nohemos<strong>de</strong>consi<strong>de</strong>rarsutraduccionasociada). <strong>de</strong>insercionseignoran,puesequivalenasuprimirelsmbolocorrespondiente<strong>de</strong>lafrase<strong>de</strong>entrada(por
lizadosenlaprimerafase<strong>de</strong>EuTrans,paraapren<strong>de</strong>rlosTSa<strong>de</strong>cuados[4].Concretamente,diremosque,porcadacorpus,existendosparticionesque<strong>de</strong>nominaremosena<strong>de</strong>lanteP1yP2.A<strong>de</strong>masseesta(TS)queofrezcan\buenas"prestaciones.Conesteproposito,empleamosloscorpora<strong>de</strong>aprendizajeutiAcontinuacionvamosapresentarexperimentosquenosserviranparaevaluarelimpacto<strong>de</strong>lacorrec- 160:000,320:000y490:000,cadauno<strong>de</strong>ellosconteniendoalanterior.Paraapren<strong>de</strong>rlosTS,seutilizaron last<strong>ecnicas</strong>quemejorresultadoprodujeronenlaevaluacionocial<strong>de</strong>lproyecto[4]: blecieronsieteconjuntos<strong>de</strong>aprendizaje(compuestosporpares<strong>de</strong>frases):10:000,20:000,40:000,80:000,
Utilizacion<strong>de</strong>categoraslexicas,formadasporgrupos<strong>de</strong>palabras[6]. Utilizacion<strong>de</strong>mo<strong>de</strong>los<strong>de</strong>trigramasminimizadosparamo<strong>de</strong>larloslenguajes<strong>de</strong>entradaysalida <strong>de</strong>ltraductor.
mosestaspormaximaverosimilitud,utilizandoexclusivamentelasfrasesencastellano<strong>de</strong>lcorrespondientePorultimomencionaremosque,cuandonecesitemosusaruntraductorconprobabilida<strong>de</strong>s,estimare- EmpleamoselalgoritmoOSTIA-DR[64]parainferir,nalmente,lostraductores.
conjunto<strong>de</strong>datos<strong>de</strong>aprendizaje,formadoporpares<strong>de</strong>frases(veaselaseccion2.2.6).

7.3.EXPERIMENTOSCONLATAREADELTURISTA Variosconjuntos<strong>de</strong>evaluacionseemplearonparaevaluarlasprestaciones<strong>de</strong>losdiferentestraductores, 109
pero,yaquelosTSproducentraduccionesperfectas<strong>de</strong>aquellasfrasesquehan\visto"enelproceso<strong>de</strong> porcadaparticion<strong>de</strong>loscorporaestablecidos.Cadaconjunto<strong>de</strong>evaluaciontienelosmismos10:000pares, inferencia,eliminamoslosparesqueestabanrepetidosenelcorrespondienteconjunto<strong>de</strong>aprendizaje.Por consiguiente,tenemosunconjunto<strong>de</strong>evaluaciondistintoparacadaconjunto<strong>de</strong>aprendizaje.Latabla7.4 utilizandoanalisisconvencionalyanalisiscorrector<strong>de</strong>errores.Seusounconjuntodiferente<strong>de</strong>evaluacion
resumelascaractersticas<strong>de</strong>cadaconjunto<strong>de</strong>evaluacion.
AprendizajeTotalDist.TotalDist.TotalDist.TotalDist.TotalDist.TotalDist. Conjunto 10:000 <strong>de</strong> P1InglesP2 P1AlemanP2 P1Italiano 20:000 5:7585:1255:7065:0495:5714:9035:6465:0515:6855:0645:7035:064 5:1354:7765:0334:6774:9244:5735:0164:6875:0404:7165:0574:715 P2
160:000 40:000 80:000 4:5114:3284:4604:2564:4114:2254:3824:2434:4684:2934:4254:267 3:9463:8673:8973:8093:9163:8263:8463:7853:9243:8373:8633:785
Tabla7.4:Tama~no<strong>de</strong>losdiferentesconjuntos<strong>de</strong>evaluacion(numero<strong>de</strong>parestotalesynumero<strong>de</strong>pares 320:000 490:000 3:4653:4263:3983:3563:3983:3473:3673:3393:4463:4103:3533:319
distintos). 3:0293:0212:9532:9272:9212:9072:9722:9563:0042:9942:9622:946 2:8192:8172:7302:7162:6872:6772:7182:7142:7742:7702:7512:743
utilizandounporcentajeglobal<strong>de</strong>distorsion<strong>de</strong>l10%.Losmo<strong>de</strong>los<strong>de</strong>errorutilizadosfueronestos dispusimos<strong>de</strong>uncorpus<strong>de</strong>64:000frasesencastellano(lenguaje<strong>de</strong>entrada<strong>de</strong>todoslostraductores), formaqueseexplicoparalosexperimentos<strong>de</strong>procesamiento<strong>de</strong>llenguaje<strong>de</strong>scritosenelcaptulo6, pertenecientesaloscorpora<strong>de</strong>latarea.Estasfrasesfueronarticialmentedistorsionadas,<strong>de</strong>lamisma Paraestimarlosparametros<strong>de</strong>losmo<strong>de</strong>los<strong>de</strong>errorestocasticosutilizadosenlosexperimentos,
cuatro: Mo<strong>de</strong>lo<strong>de</strong>errornoestocasticoutilizandoladistancia<strong>de</strong>Levenshtein(veanselassecciones2.3y2.5). Le<strong>de</strong>nominaremosLevenshtein,ena<strong>de</strong>lante. Mo<strong>de</strong>lo<strong>de</strong>errorestocastico,estimadosiguiendoelproceso<strong>de</strong>scritoenlaseccion4.2,utilizando
frasedistorsionada<strong>de</strong>entrada,ylacorrespondientefrasenodistorsionada.Seestableciounnumero reestimacion,estimandolasfrecuencias<strong>de</strong>uso<strong>de</strong>lastransiciones<strong>de</strong>error,solosobrelasubsecuencia comunmaslarga[69]entrelafraseproducidaporel(lenguaje<strong>de</strong>entrada<strong>de</strong>l)traductorparala eltraductorprobabilsticocorrespondienteencadacaso,comomo<strong>de</strong>lo<strong>de</strong>F.Enestecaso,yya
total<strong>de</strong>20iteraciones.Ena<strong>de</strong>lante,le<strong>de</strong>nominaremosViterbi. quesedispona<strong>de</strong>lospares(frasecorrecta,frasedistorsionada)se<strong>de</strong>cidio\guiar"elproceso<strong>de</strong>
res(frasecorrecta,frasedistorsionada).Serealizaron11iteracionesyseinicializaronlosparametros <strong>de</strong>formaequiprobable(veaselaseccion4.3.1).Ena<strong>de</strong>lante,nosreferiremosaelcomoEM. I<strong>de</strong>mqueelanterior,perorealizando5iteracionesadicionalestipo\Viterbi",traslas11<strong>de</strong>Baum- Mo<strong>de</strong>lo<strong>de</strong>errorestocasticoestimadoporBaum-Welchsobreelcorpuscompuestoporlos64:000pa-
seapreciaquelosresultadosparaloscuatromo<strong>de</strong>los<strong>de</strong>errorutilizadossonmuysimilares.Enelcaso
EnelapendiceAsemuestranlosresultadoscompletosobtenidosenestaexperimentacion.Enellos Welch(veaselaseccion4.4).Ena<strong>de</strong>lante,le<strong>de</strong>nominaremosEM+5vit..

<strong>de</strong>losmo<strong>de</strong>losestocasticos(Viterbi,EMyEM+5vit.),estoquiere<strong>de</strong>cirque,basicamente,llegana 110 CAPITULO7.SUAVIZADODEMODELOSDEESTADOSFINITOS
obtenidosporestosmo<strong>de</strong>lossonsolounpocomejoresqueelmo<strong>de</strong>loLevenshtein?Noteseque,realmente, estimarcasilosmismosvalores<strong>de</strong>losparametros(yque,enmayoromenormedida,vienenacoincidir elmo<strong>de</strong>lo<strong>de</strong>distorsionutilizadocoinci<strong>de</strong>,enciertaforma,conel\comportamiento"<strong>de</strong>ladistancia conlosvaloresqueresultanaljarladistorsionglobalal10%).Sinembargo,>porquelosresultados
mo<strong>de</strong>losestocasticos<strong>de</strong>error,sonclaramenteina<strong>de</strong>cuados(sondatosnorepresentativos,yaquehansido articialmentedistorsionados).Esporelloque,buscandosolucionesparalacorrectaestimacion<strong>de</strong>los alavista<strong>de</strong>estosresultados,esquelosdatosutilizadosparalaestimacion<strong>de</strong>losparametros<strong>de</strong>los mejorarlosresultadosqueseobtienenempleandodichadistancia.Laconclusionquepo<strong>de</strong>mosextraer <strong>de</strong>Levenshtein[50].Esporelloqueelhecho<strong>de</strong>usarunmo<strong>de</strong>loestocasticoescasamentecontribuyea
parametros<strong>de</strong>error,<strong>de</strong>cidimosutilizarlatecnica<strong>de</strong>validacioncruzada<strong>de</strong>scritaenlaseccion7.2(tecnica queemplearemosenlaultimaserie<strong>de</strong>experimentosrealizadoscondatos<strong>de</strong>latarea<strong>de</strong>lTurista). mostradosenlastablascorrespondientes(veaseapendiceA),utilizandoanalisisconvencionalyanalisis corrector<strong>de</strong>errores(ASCE).LascurvasconlaetiquetaASCEmuestranlosresultadosobtenidosconel mo<strong>de</strong>lo<strong>de</strong>error<strong>de</strong>nominadoViterbi. Lasgracas7.1,7.2y7.3comparan,enterminos<strong>de</strong>latasa<strong>de</strong>errorparapalabras(TEP),losresultados
35%
30%
25%
Convencional
ASCE
20%
20%
15%
15%
10%
10%
queelejehorizontalsecorrespon<strong>de</strong>coneltama~no(enmillares)<strong>de</strong>losconjuntos<strong>de</strong>aprendizajeutilizadosenla inferencia<strong>de</strong>traductores. usandoP1(izquierda)yP2(<strong>de</strong>recha).ElejeverticalrepresentalaTEPparalatraduccionefectuada,mientras Figura7.1:Impacto<strong>de</strong>lASCE(conelmo<strong>de</strong>lo<strong>de</strong>errorViterbi)sobrelastraduccionescastellano-inglesrealizadas,
5%
5%
0%
0%
10 20 40 80 160 320 490
10 20 40 80 160 320 490
palabras.Porejemplo,seobtienenmejoresresultadosconASCEytraductoresentrenadoscon320:000 muestras,quelosconseguidosutilizandoanalisisconvencionaly490:000muestras<strong>de</strong>aprendizaje(solo numero<strong>de</strong>muestrasnecesariasparainferirtraductoresqueobtenganuna<strong>de</strong>terminadatasa<strong>de</strong>errorpara ligeramentepeoresresultadosseobtienenconASCEy160:000muestras).SijamoslaTEPobjetivo Sepue<strong>de</strong>apreciarque,engeneral,elASCEpermitereducir,enunfactorqueoscilaentre2y4,el
aunvalorrazonable,porejemplo5%,serequeriran160:000muestrasutilizandoanalisisconvencional. Encaso<strong>de</strong>utilizarASCE,solamentenecesitaramosalre<strong>de</strong>dor<strong>de</strong>40:000.Tambiensepue<strong>de</strong>apreciar enlasgracasquelasdiferenciastien<strong>de</strong>nareducirseamedidaqueaumentaeltama~no<strong>de</strong>lconjunto<strong>de</strong> aprendizaje.Estosignicaqueelimpacto<strong>de</strong>lASCEesmenorcuandoutilizamosmo<strong>de</strong>los<strong>de</strong>estados nitosbienentrenados(yaunas,sigueexistiendounaapreciablediferencia),comocabraesperarse. Porultimo,presentamosunaserie<strong>de</strong>experimentosrealizadosconelbanco<strong>de</strong>pruebasestablecidoen
35%
30%
25%
Convencional
ASCE

7.3.EXPERIMENTOSCONLATAREADELTURISTA 111
40%
35%
30%
25%
Convencional
ASCE
20%
20%
15%
15%
lizadas,usandoP1(izquierda)yP2(<strong>de</strong>recha).ElejeverticalrepresentalaTEPparalatraduccionefectuada,Figura7.2:Impacto<strong>de</strong>lASCE(conelmo<strong>de</strong>lo<strong>de</strong>errorViterbi)sobrelastraduccionescastellano-alemanrea- mientrasqueelejehorizontalsecorrespon<strong>de</strong>coneltama~no(enmillares)<strong>de</strong>losconjuntos<strong>de</strong>aprendizajeutilizados
10%
10%
enlainferencia<strong>de</strong>traductores.
5%
5%
0%
0%
10 20 40 80 160 320 490
10 20 40 80 160 320 490
35%
30%
25%
Convencional
ASCE
40%
35%
30%
25%
Convencional
ASCE
20%
20%
15%
15%
lizadas,usandoP1(izquierda)yP2(<strong>de</strong>recha).ElejeverticalrepresentalaTEPparalatraduccionefectuada,Figura7.3:Impacto<strong>de</strong>lASCE(conelmo<strong>de</strong>lo<strong>de</strong>errorViterbi)sobrelastraduccionescastellano-italianorea- 10%
10%
mientrasqueelejehorizontalsecorrespon<strong>de</strong>coneltama~no(enmillares)<strong>de</strong>losconjuntos<strong>de</strong>aprendizajeutilizados enlainferencia<strong>de</strong>traductores.
5%
5%
0%
0%
10 20 40 80 160 320 490
10 20 40 80 160 320 490
35%
30%
25%
Convencional
ASCE

lasegundafase<strong>de</strong>EuTrans.Estebanco<strong>de</strong>pruebassehacreadoconeln<strong>de</strong>po<strong>de</strong>revaluartantolas 112 CAPITULO7.SUAVIZADODEMODELOSDEESTADOSFINITOS
in<strong>de</strong>pendientecompuestopor3:000pares.Elobjetivo<strong>de</strong>nuestraexperimentacioneracompararlas Paraello,sehanutilizadodatos<strong>de</strong>lcorpuscastellano-ingles<strong>de</strong>latarea<strong>de</strong>lTurista,estableciendoseun enmo<strong>de</strong>los<strong>de</strong>estadosnitos,oinclusomixtos)queseestan<strong>de</strong>sarrollandoenestanuevafase<strong>de</strong>lproyecto. conjunto<strong>de</strong>aprendizajecompuestopor10:000pares(5:935diferentes),yunconjunto<strong>de</strong>evaluacion diferentesmejoras<strong>de</strong>t<strong>ecnicas</strong>yaexistentes,comolosnuevosmetodos(tantoestadsticos,comobasados
prestacionesobtenidas,utilizandotraductoressubsecuenciales,por: Analisissintacticoconvencional(ASCO). Analisissintacticocorrector<strong>de</strong>erroresutilizandoladistancia<strong>de</strong>Levenshtein(ASCEL). Analisissintacticocorrector<strong>de</strong>erroresestocastico(ASCEE).Enestecaso,alnodisponer<strong>de</strong>un <strong>de</strong>aprendizaje,compuestopor10:000pares,empleandolatecnica<strong>de</strong>validacioncruzada<strong>de</strong>scrita conjunto<strong>de</strong>datosespeccoparaestimarlosparametros<strong>de</strong>error,hemosutilizadoelmismocorpus
empleadolos10:000pares<strong>de</strong>lconjunto<strong>de</strong>aprendizajeutilizando,comosiempre,categoraslexicas.El Paraapren<strong>de</strong>reltraductorsubsecuencialconelque,nalmente,bamosarealizarlaevaluacion,hemos enlaseccion7.2.
algoritmo<strong>de</strong>inferenciautilizadofue,nuevamente,OSTIA-DR[64].Noobstante,enestecaso,hemos
aprendizaje.Alteneruncorpusrelativamentepeque~no,noestabamosmuyseguros<strong>de</strong>si,realmente,los <strong>de</strong>cididoutilizarnosolomo<strong>de</strong>los<strong>de</strong>trigramas(minimizados)paramo<strong>de</strong>larloslenguajes<strong>de</strong>entrada
mo<strong>de</strong>los<strong>de</strong>trigramasibana\funcionar"mejorquelos<strong>de</strong>bigramas.Comoposteriormenteapreciaremos, ysalida<strong>de</strong>ltraductor,sinotambienmo<strong>de</strong>los<strong>de</strong>bigramas(tambienminimizados).Hemosprocedido
losmo<strong>de</strong>los<strong>de</strong>bigramaseran,enestecaso,losqueofrecanmejoresprestaciones. asporque,sibienlosmo<strong>de</strong>los<strong>de</strong>trigramassongeneralmentemejoresquelos<strong>de</strong>bigramasparael aprendizaje<strong>de</strong>ltraductor,estosemaniesta,preferentemente,contama~noselevados<strong>de</strong>lconjunto<strong>de</strong>
traductoraemplearenlaevaluacioncorrespondiente)paraloslenguajes<strong>de</strong>entradaysalida<strong>de</strong>ltraductor <strong>de</strong>scripcion<strong>de</strong>latecnica<strong>de</strong>validacioncruzada(veaselaseccion7.2),realizamosuntotal<strong>de</strong>10iteraciones. Enelpaso2(a),empleamosOSTIA-DRconmo<strong>de</strong>los<strong>de</strong>bigramasotrigramas(segunloutilizadoenel y,siempre,utilizandocategoraslexicas.Realizamosunaparticionen10bloques<strong>de</strong>lcorpus<strong>de</strong>10:000 Finalmentequisieramoscomentarque,paraelproceso<strong>de</strong>reestimacionutilizadoenelpaso2(b),enla
resultadosobtenidosconlos3:000pares<strong>de</strong>lconjunto<strong>de</strong>evaluacion.NuevamentehemosmedidolaTEF pares.Encadabloque,utilizamos9:000paresparaapren<strong>de</strong>reltraductor(paso2(a))ylas1:000frases encastellano,<strong>de</strong>losrestantes1:000pares,paraestimarlosparametros<strong>de</strong>error.Latabla7.5muestralos ylaTEP,entrelastraduccionesobtenidasencadaproceso<strong>de</strong>analisisevaluadoylascorrespondientes traduccionesesperadas. entradaysalida(OSTIA-DR) Mo<strong>de</strong>los<strong>de</strong>lenguaje Trigramas Bigramas 35,5324,7434,1310,4035,578,34 43,0032,8540,6012,0240,5711,04 TEFTEPTEFTEPTEFTEP ASCO ASCEL ASCEE
lasegundafase<strong>de</strong>EuTrans. Tabla7.5:TEF(%)yTEP(%)obtenidasparaelconjunto<strong>de</strong>evaluacion<strong>de</strong>lbanco<strong>de</strong>pruebasestablecidoen
DR,seexplicaporquelosmo<strong>de</strong>los<strong>de</strong>bigramassonmenosrestrictivosquelos<strong>de</strong>trigramasalahora
Elhecho<strong>de</strong>quefuncionenmejorlosbigramasquelostrigramasenelproceso<strong>de</strong>inferencia<strong>de</strong>OSTIA-

7.4.EXPERIMENTOSCONLATAREAATIS <strong>de</strong>permitirlasmezclas<strong>de</strong>estadosrealizadasporOSTIA.Lamayorgeneralizacionasobtenidaresulta 113
beneciosa,dadoelrelativamentepeque~notama~no<strong>de</strong>lconjunto<strong>de</strong>datos<strong>de</strong>aprendizajeutilizado. <strong>de</strong>estadosnitos,robusteciendolosensuaplicacionpractica.Observeseque,enestaserie<strong>de</strong>experi- lastransiciones<strong>de</strong>error,resultanmasa<strong>de</strong>cuadosy,fundamentalmente,graciasalproceso<strong>de</strong>validacion mentos,sseapreciaunamejoraevi<strong>de</strong>nteentrelautilizacion<strong>de</strong>unmo<strong>de</strong>loestocastico<strong>de</strong>erroryel basadoenladistancia<strong>de</strong>Levenshtein.Estoseexplicagraciasaquelosdatosusadosenlaestimacion<strong>de</strong> Nuevamentelast<strong>ecnicas</strong><strong>de</strong>correccion<strong>de</strong>errores<strong>de</strong>muestransubondadalahora<strong>de</strong>suavizarmo<strong>de</strong>los
cruzada.Esteproceso<strong>de</strong>muestrasercapaz<strong>de</strong>obtenerbuenasestimaciones,apesar<strong>de</strong>laescasez(eneste sealapeor<strong>de</strong>todas(apesar<strong>de</strong>ello,laTEPesnotoriamentelamejor).Estose<strong>de</strong>bea: caso,falta)<strong>de</strong>datosparaelaprendizaje<strong>de</strong>lmo<strong>de</strong>lo<strong>de</strong>error. Noobstante,sorpren<strong>de</strong>elhecho<strong>de</strong>quelaTEFparaelmo<strong>de</strong>loestocastico<strong>de</strong>error,usandobigramas, Laambiguedadquepresentanlostraductoresaprendidosconcategoras,cuandoestasseexpan<strong>de</strong>n.
que,paralosparametros<strong>de</strong>error,sehanrealizado. Encualquiercaso,estas<strong>de</strong>cienciassonimputablesalmo<strong>de</strong>lo<strong>de</strong>estadosnitosynoalasestimaciones La<strong>de</strong>cientedistribucion<strong>de</strong>probabilidadquepresentaeltraductoraprendidoconbigramas.
7.3.1Conclusiones correccion<strong>de</strong>erroresparaelsuavizado<strong>de</strong>mo<strong>de</strong>los<strong>de</strong>estadosnitos.Estai<strong>de</strong>aseveconrmadaenla practicaporlossiguienteshechos: Hemosrealizadoexperimentosque<strong>de</strong>muestran,engeneral,loa<strong>de</strong>cuadasqueresultanlast<strong>ecnicas</strong><strong>de</strong>
entrenados,sinotambienlasobtenidaspormo<strong>de</strong>losperfectamenteentrenados.Enesteultimo casoresultamenosnotorialamejoraconseguida,aunquenoporello<strong>de</strong>ja<strong>de</strong>serlosucientemente relevante. Last<strong>ecnicas</strong><strong>de</strong>correccion<strong>de</strong>erroresmejorannosololasprestaciones<strong>de</strong>mo<strong>de</strong>los<strong>de</strong>cientemente
(ofalta)<strong>de</strong>datospararealizarlaestimacion<strong>de</strong>losvaloresparalosparametros<strong>de</strong>error. Latecnica<strong>de</strong>validacioncruzadacontribuye,engranmedida,aresolverelproblema<strong>de</strong>laescasez
7.4 nitos,F,utilizandoelalgoritmo<strong>de</strong>inferenciagramaticalconocidocomoALERGIA[25].Dichomo<strong>de</strong>lo Paralarealizacion<strong>de</strong>losexperimentosconestatarea,aprendimosunmo<strong>de</strong>loestocastico<strong>de</strong>estados ExperimentosconlaTareaATIS
capaz<strong>de</strong>aceptarel55%(532frases)<strong>de</strong>lconjuntoin<strong>de</strong>pendiente<strong>de</strong>prueba(veaselaseccion7.1.2).Por fueinferidoconelconjunto<strong>de</strong>entrenamiento<strong>de</strong>ATIS-2ytiene414estadosy12:303transiciones.Es obtenidosconelsuavizadorealizadoempleandot<strong>ecnicas</strong><strong>de</strong>correccion<strong>de</strong>errores,llevamosacaboel proceso<strong>de</strong>suavizado(<strong>de</strong>referencia)quese<strong>de</strong>scribeacontinuacion.
consiguiente,esnecesariosuavizarloparapo<strong>de</strong>rcalcularunaperplejidadnoinnitaconesteconjunto <strong>de</strong>prueba.Paraelloyconeln<strong>de</strong>po<strong>de</strong>robtenerunareferenciaconlaquecompararlosresultados

114Primeramente,obtuvimosununigramaconlasfrecuencias<strong>de</strong>aparicion<strong>de</strong>lossmbolos(palabras)en CAPITULO7.SUAVIZADODEMODELOSDEESTADOSFINITOS
elconjunto<strong>de</strong>datos<strong>de</strong>aprendizaje,Fr(a)8a2.Portanto,laprobabilidad<strong>de</strong>aparicion<strong>de</strong>cada smboloresulta,P(a)=Fr(a)=N,siendoNelnumerototal<strong>de</strong>smbolosenlamuestra<strong>de</strong>aprendizaje.
fuea<strong>de</strong>cuadamentesintonizadoempleandolosdatos<strong>de</strong>lconjunto<strong>de</strong><strong>de</strong>sarrollo.As: Enconsecuencia,laprobabilidad<strong>de</strong>unafrasexsegunelmo<strong>de</strong>lo<strong>de</strong>unigramases,PU=Qjxj Porello,elunigramasesuavizautilizandounparametrod,que<strong>de</strong>nominaremos<strong>de</strong>scuento.Esteparametro Engeneral,notodoslossmbolos<strong>de</strong>pue<strong>de</strong>nllegaraobservarsedadaunamuestra<strong>de</strong>aprendizaje. i=1P(xi).
siendoDlamasatotal<strong>de</strong>probabilidad<strong>de</strong>scontada,estoes: P(a)=(Fr(a)d DN0N encualquierotrocaso) siFr(a)>0
D= 8a2:Fr(a)>0dN X
ysiendoN0elnumerototal<strong>de</strong>smbolosnoobservadosenlamuestra<strong>de</strong>aprendizaje. N0= 8a2:Fr(a)=01 X
x2.Finalmente,paraestimarlaprobabilidad<strong>de</strong>cualquierfrase<strong>de</strong>lconjunto<strong>de</strong>prueba,utilizamos interpolacionlinealentreFyelmo<strong>de</strong>lo<strong>de</strong>unigramassuavizado,estoes: Elmo<strong>de</strong>lo<strong>de</strong>unigramassuavizadoasignaunaprobabilidaddistinta<strong>de</strong>cero,PUs(x),acualquierfrase
laevolucion<strong>de</strong>laperplejidad,sobreesteconjunto,paralosdistintosvalores<strong>de</strong>probados.Elvalor Coneln<strong>de</strong>estimarelvaloroptimo<strong>de</strong>,utilizamoselconjunto<strong>de</strong><strong>de</strong>sarrollo.Lagura7.4muestra ^P(x)= PF(x)+(1)PUs(x)0 1
(70).Acontinuacion,procedimosasuavizarelautomataFutilizandot<strong>ecnicas</strong><strong>de</strong>correccion<strong>de</strong>errores. Paraello,empleamoslastresopcionesqueseguidamenteseexponen.Entodaslasopciones,obtuvimos optimosejoen=0;5,yaqueeselqueobtienelamenorperplejidadsobreelconjunto<strong>de</strong><strong>de</strong>sarrollo
unaestimacioninicial<strong>de</strong>lasfrecuencias<strong>de</strong>utilizacion<strong>de</strong>lasposiblesoperaciones<strong>de</strong>error,realizando unaiteracion<strong>de</strong>lproceso<strong>de</strong>reestimacionporViterbi<strong>de</strong>scritoenlaseccion4.2,usandoladistancia<strong>de</strong> Levenshtein(veaseesamismaseccion).
<strong>de</strong>error.Empleamoselconjunto<strong>de</strong><strong>de</strong>sarrollopararealizarelproceso<strong>de</strong>estimacion.
Opcion1:Utilizarelproceso<strong>de</strong>reestimacionporViterbi,<strong>de</strong>scritoenlaseccion4.2,realizando10 iteraciones.Encadaiteracionestimamossolamentelosvalores<strong>de</strong>losparametros<strong>de</strong>lastransiciones

7.4.EXPERIMENTOSCONLATAREAATIS 115
Perplejidad
150
140
130
120
110
Perplejidad conjunto <strong>de</strong> <strong>de</strong>sarrollo
100
90
Figura7.4:Perplejidad<strong>de</strong>lconjunto<strong>de</strong><strong>de</strong>sarrolloenfuncion<strong>de</strong>lvalorparaelparametro<strong>de</strong>interpolacion().
80
70
60
Opcion2:I<strong>de</strong>mqueelanterior,peroreestimandoencadaiteracionlosvalores<strong>de</strong>todaslas
0 0,1 0,2 0,3 0,4 0,5 0,6 0,7 0,8 0,9
transiciones;las<strong>de</strong>errorylas<strong>de</strong>noerror(es<strong>de</strong>cir,lastransicionespropias<strong>de</strong>F).
Valor <strong>de</strong> beta
realizamos10iteraciones.Enelpaso2(a)utilizamoselalgoritmoALERGIA.Pararealizareste Opcion3:Utilizarelproceso<strong>de</strong>validacioncruzada<strong>de</strong>scritoenlaseccion7.2.Enelpaso2(b) proceso,concatenamoselconjunto<strong>de</strong>aprendizajeyelconjunto<strong>de</strong><strong>de</strong>sarrollo.Denimosuntotal <strong>de</strong>10bloquessobreelconjuntoresultante.Encadauno<strong>de</strong>ellos,empleamosel90%<strong>de</strong>lasfrases parainferirelautomata(paso2(a))yel10%restanteparaestimarlosvalores<strong>de</strong>losparametros
duranteelproceso<strong>de</strong>reestimacionenlasdosprimerasopciones(10iteraciones).Elvalor<strong>de</strong>laperplejidad Lagura7.5muestralaevolucion<strong>de</strong>lasperplejida<strong>de</strong>sobtenidas,paraelconjunto<strong>de</strong><strong>de</strong>sarrollo, <strong>de</strong>error(paso2(b)).
parametros<strong>de</strong>error(usandoladistancia<strong>de</strong>Levenshtein).Enellaseobservaqueseproduceunamayor adaptacion<strong>de</strong>lmo<strong>de</strong>lointegrado(elmo<strong>de</strong>lo<strong>de</strong>Fextendidoconlastransiciones<strong>de</strong>error)alosdatos <strong>de</strong>lconjunto<strong>de</strong><strong>de</strong>sarrolloutilizandolasegundaopcion,es<strong>de</strong>cir,reestimandotambienlasfrecuencias <strong>de</strong>uso<strong>de</strong>lastransicionespropias<strong>de</strong>F.Estopue<strong>de</strong>resultarpeligrososiestosdatosnoresultanser obtenidoenlaiteracion0,secorrespon<strong>de</strong>conlaperplejidadcalculadaconlaestimacioninicial<strong>de</strong>los
sucientementerepresentativos,yaque,entonces,estaramos\sobreadaptando"elmo<strong>de</strong>lointegrado(que eselque,nalmente,utilizaremosenlapractica)aunosdatosque,luego,novanaserobservadosconla
elmo<strong>de</strong>lo<strong>de</strong>errorenelentrenamiento,peroque,sinembargo,resultanobservadosenlapractica. <strong>de</strong>pruebavayanaser,necesariamente,aceptadas.Estopue<strong>de</strong>ocurrirsiexistensucesosnovistospor mismaprobabilidadconlaquesehanestimado(comoveremosposteriormente).
Afortunadamente,<strong>de</strong>scribimosunpar<strong>de</strong>alternativasparapaliaresteproblemaenlaseccion4.5.En estecaso,utilizamoslaprimeraalternativaall<strong>de</strong>scrita(conlasegundaseobtenaunaperplejidadmuy Lautilizacion<strong>de</strong>t<strong>ecnicas</strong><strong>de</strong>correccion<strong>de</strong>erroresnogarantizaquetodaslasfrases<strong>de</strong>lconjunto
mala).Estimamoslosvaloresoptimos<strong>de</strong>losparametrosins,sus,boryaci,efectuandopruebascon el10%<strong>de</strong>lasfrases<strong>de</strong>lconjunto<strong>de</strong><strong>de</strong>sarrollo(cogiendolasporelnal).Losvaloresoptimosfueron: ins=sus=bor=0;1yaci=0;0.

116 CAPITULO7.SUAVIZADODEMODELOSDEESTADOSFINITOS
Perplejidad
42
40
38
36
34
reest. transiciones <strong>de</strong> error
reest. transiciones <strong>de</strong> error y no error
32
30
Figura7.5:Perplejidad<strong>de</strong>lconjunto<strong>de</strong><strong>de</strong>sarrolloduranteelproceso<strong>de</strong>reestimacion<strong>de</strong>lmo<strong>de</strong>lo<strong>de</strong>errorpara lasopciones1y2.
28
26
0 2 4 6 8 10
Lasperplejida<strong>de</strong>sobtenidasparaelconjunto<strong>de</strong>pruebaseresumenenlatabla7.6.Enellaseaprecia
iteraciones
<strong>de</strong>unasobreadaptacionalosdatos<strong>de</strong>lconjunto<strong>de</strong><strong>de</strong>sarrollo.Porotraparte,latecnica<strong>de</strong>validacion utilizadasparalaestimacion<strong>de</strong>lmo<strong>de</strong>lo<strong>de</strong>error.Finalmente,caberesaltarque,globalmente,last<strong>ecnicas</strong> paralaopcion2(reestimartantolastransiciones<strong>de</strong>error,comolas<strong>de</strong>noerror)era,realmente,producto cruzada(opcion3)permitemejorarlaperplejida<strong>de</strong>nun10%conrespectoalasotrasdosopciones quelasignicativareduccion<strong>de</strong>laperplejidadsobreelconjunto<strong>de</strong><strong>de</strong>sarrollo,mostradaenlagura7.5,
<strong>de</strong>correccion<strong>de</strong>errorespermitenmejorarhastaun48%laperplejidadobtenidaparalainterpolacion<strong>de</strong> Fconelmo<strong>de</strong>lo<strong>de</strong>unigramas.
Tabla7.6:Perplejidadobtenidasobreelconjunto<strong>de</strong>prueba<strong>de</strong>latareaATIS. unigramasuavizado(=0;5)Opcion1Opcion2Opcion3 Interpolacioncon 71 40<strong>Correcci</strong>on<strong>de</strong>errores 41 37
7.4.1Conclusiones
cualquiermo<strong>de</strong>lo<strong>de</strong>estadosnitos,sinexcepcion.Nuevamentesereejalautilidad<strong>de</strong>latecnica<strong>de</strong> queresultalautilizacion<strong>de</strong>t<strong>ecnicas</strong><strong>de</strong>correccion<strong>de</strong>errores,comoalternativaparaelsuavizado<strong>de</strong> validacioncruzadapararesolverelproblema<strong>de</strong>lafalta(enestecasoescasez)<strong>de</strong>datospararealizar llegadotraslarealizacion<strong>de</strong>losexperimentosconlatarea<strong>de</strong>lTurista.Pareceevi<strong>de</strong>nteloprometedora LosexperimentosrealizadosconlatareaATISrearman,sinduda,lasconclusionesalasquehabamos
paraobtenerestimacionesa<strong>de</strong>cuadasenlapractica.
a<strong>de</strong>cuadasestimaciones<strong>de</strong>lmo<strong>de</strong>lo<strong>de</strong>error.Noteseque,aunquedisponemos<strong>de</strong>losdatos<strong>de</strong>lconjunto<strong>de</strong> <strong>de</strong>sarrollopararealizarlasestimaciones<strong>de</strong>losparametros<strong>de</strong>lmo<strong>de</strong>lo<strong>de</strong>error,estosresultaninsucientes

7.4.EXPERIMENTOSCONLATAREAATIS Sinembargo,notodaslasconclusionespue<strong>de</strong>nseroptimistas.Laperplejidadobtenidaparalatarea 117
ATIStodavaquedaunpocolejos<strong>de</strong>losmejoresresultadosobtenidosconN-gramas(suavizados,interpolados,conback-o,etc.).Pareceevi<strong>de</strong>ntelanecesidad<strong>de</strong>mejorar,porunaparte,lasestimaciones<strong>de</strong>l mo<strong>de</strong>lo<strong>de</strong>errorsinincrementarexcesivamenteelnumero<strong>de</strong>parametros<strong>de</strong>lmismo,estamostrabajando peroin<strong>de</strong>pendiente<strong>de</strong>lestado<strong>de</strong>F.Laprobabilidad<strong>de</strong>insertarunsmboloenconcreto,porejemplo,no <strong>de</strong>pen<strong>de</strong><strong>de</strong>don<strong>de</strong>sevaainsertarnalmente(locualpareceuncontrasentido).Coneln<strong>de</strong>\renar"el Enestesentido,queremoshacernotarqueelmo<strong>de</strong>lo<strong>de</strong>errorqueutilizamoses<strong>de</strong>pendiente<strong>de</strong>lsmbolo, mo<strong>de</strong>lo<strong>de</strong>errory,porotra,laintegracion<strong>de</strong>lastransiciones<strong>de</strong>errorenelmo<strong>de</strong>lo<strong>de</strong>estadosnitos,F.
enel<strong>de</strong>sarrollo<strong>de</strong>unaintegracionconsistenteenlautilizacion<strong>de</strong>pesosquepermitaninterpolar,anivel <strong>de</strong>estado,lastransiciones<strong>de</strong>errorconlastransicionespropias<strong>de</strong>F.

118 CAPITULO7.SUAVIZADODEMODELOSDEESTADOSFINITOS

CAPITULO OCHO
Simpli cacion<strong>de</strong>lLenguajeNatural
Iopenedupmyeyes andfoundmyselfalone,alone andmovinglipstobreathehername, Imusthavebeenasleepfordays Daylightlickedmeintoshape,
aloneabovearagingsea thatstoletheonlygirlIloved anddrownedher<strong>de</strong>epinsi<strong>de</strong>ofme.
Contenidos<strong>de</strong>lCaptulo-\JustlikeHeaven",Kissme,Kissme,Kissme,1987,FictionRec.-
RobertSmith(TheCure)
8.1Introduccion 8.2ResultadosInicialesconlaTarea<strong>de</strong>lTurista
8.6Conclusiones 8.3Construccion<strong>de</strong>unSistemaRobustomedianteBootstrapping 8.5ExperimentosconlaTareaMGEO 8.4Descripcion<strong>de</strong>laTareaMGEO
8.1 <strong>de</strong>llenguajenatural.Elproblemaqueabordamossepue<strong>de</strong>plantear,enterminosgenerales,comoun Estecaptulo<strong>de</strong>scribeunanuevaaplicacion<strong>de</strong>last<strong>ecnicas</strong><strong>de</strong>correccion<strong>de</strong>erroresentratamiento Introduccion
aun,estastareastienenundominiosemanticobastantelimitadoyrestringido,pudiendoserepresentar problema<strong>de</strong>\comprension"<strong>de</strong>llenguajeyse<strong>de</strong>riva<strong>de</strong>lhecho<strong>de</strong>que,enmuchastareas<strong>de</strong>procesamiento <strong>de</strong>llenguajenatural,lamayora<strong>de</strong>lasfrasestienen,generalmente,unsignicadobastantesimple.Mas 119

120 mediantemo<strong>de</strong>losgramaticalesconunlexicosencilloyunasintaxisacotada.Sinembargo,lanatura- CAPITULO8.SIMPLIFICACIONDELLENGUAJENATURAL
leza\espontanea"<strong>de</strong>dichastareashacequelosusuarios<strong>de</strong>lsistemanocumplanconlasrestricciones lingusticasimpuestasporelmo<strong>de</strong>lo,<strong>de</strong>gradandoseenormementelasprestaciones<strong>de</strong>lmismo. lasdistintasformasenquepue<strong>de</strong>expresarsesusemantica.Hablandollanamente,nosencontramoscon quehaymuchasformas<strong>de</strong><strong>de</strong>cirlomismo,es<strong>de</strong>cir,existeunarelacionunoamuchosentreeldominio semanticoyeldominiosintactico.Piensese,porejemplo,enlautilizacion<strong>de</strong>sinonimosy/opalabras redundantesosuperuas,lascualesnoaportanningunsignicadoalmensajequesepreten<strong>de</strong>transmitir. Resulta,portanto,muydifcilpo<strong>de</strong>racotareldominiosintactico<strong>de</strong>estetipo<strong>de</strong>tareas,estoes,
frases\espontaneas",masque\reconocer"todaslaspalabras. Parece,pues,tenersentido,intentar<strong>de</strong>sarrollarunmarco<strong>de</strong>trabajoa<strong>de</strong>cuadopara\enten<strong>de</strong>r"estas
reducidoyrepresentativo<strong>de</strong>latarea(queenrealida<strong>de</strong>ssintacticamentemascompleja)ymo<strong>de</strong>lara originalmenteparamo<strong>de</strong>larlasconstruccionessemanticasesenciales<strong>de</strong>latarea.Ftendraunlexico vez.Elpapel<strong>de</strong>Flo<strong>de</strong>sempe~naraunmo<strong>de</strong>lo<strong>de</strong>estadosnitos(posiblementeestocastico)dise~nado enlaseccion2.3.Enestecaso,elpropiousuariorealizaraelpapel<strong>de</strong>emisorycanalruidosoala Porla<strong>de</strong>scripcionrealizada,pareceevi<strong>de</strong>ntequeesteproblema\cae"<strong>de</strong>ntro<strong>de</strong>lmo<strong>de</strong>lopropuesto
lasestructurassintacticasbasicasquepermitenexpresarlasemantica<strong>de</strong>lamisma.Deestaforma, corrector<strong>de</strong>errores,resolviendocualquiera<strong>de</strong>lasecuacionesplanteadasenlaseccion2.5.Ena<strong>de</strong>lante, <strong>de</strong>nominaremosaestaaproximacioncomosimplicacion<strong>de</strong>llenguaje. cadafrase\compleja"sevecomounaversionruidosa<strong>de</strong>lacorrespondientefrase\simple"<strong>de</strong>L(F).El mecanismoquevamosaemplearparaobteneresafrase\simple"consisteenutilizaranalisissintactico
guiendounaaproximacionpuramenteinductivapararesolverelproblemaplanteado,elmo<strong>de</strong>loparaFproporcioneelmo<strong>de</strong>lo<strong>de</strong>F.Enelcaso<strong>de</strong>latareaMGEO,estoseexplicaporlanecesidad<strong>de</strong>consseconstruiraautomaticamenteapartir<strong>de</strong>unconjunto<strong>de</strong>datos<strong>de</strong>aprendizaje.Sinembargo,enalgunasocasiones(comoeselcaso<strong>de</strong>latareaMGEO)pue<strong>de</strong>resultarconvenientequeunexpertohumanoQuisieramos,noobstante,hacerunapeque~namatizacionconrespectoalaconstruccion<strong>de</strong>F.Si- (<strong>de</strong>scritaenelcaptuloanterior)y<strong>de</strong>latareaMGEO,lacual<strong>de</strong>scribiremosenlaseccion8.4. Estoresultarafacilparaelexpertosiutilizamosunmo<strong>de</strong>loqueelmismohaconstruido.Noobstante, truir,nalmente,laspeticiones<strong>de</strong>informacionalsistema,comoposteriormentecompren<strong>de</strong>raellector. presentaremosresultadosexperimentalesconambasalternativas,utilizandodatos<strong>de</strong>latarea<strong>de</strong>lTurista
8.2 minaresconlatarea<strong>de</strong>lTurista,enelmarco<strong>de</strong>lproyectoEuTrans,utilizandodatosarticialmenteConeln<strong>de</strong>explorarlaviabilidad<strong>de</strong>laaproximacionpropuesta,sehicieronexperimentospreli- ResultadosInicialesconlaTarea<strong>de</strong>lTurista
distorsionados,dadalaimposibilidad1<strong>de</strong>recogerunconjunto\natural"<strong>de</strong>datos.La<strong>de</strong>scripcion<strong>de</strong>los (tambienenelcaptuloanterior<strong>de</strong>scribimosalgunos<strong>de</strong>estosexperimentos).Enestecaptulonovamos experimentosefectuados,juntoconlaexposicion<strong>de</strong>losresultadosobtenidos,pue<strong>de</strong>nconsultarseen[4,5]
logapropuestaenestecaptulo.Esteexperimentofuerealizadoalaconclusion(<strong>de</strong>laprimerafase)<strong>de</strong>l a<strong>de</strong>scribirestosexperimentos,puesnoresultan<strong>de</strong>interesparailustrarlasbonda<strong>de</strong>s<strong>de</strong>lproceso<strong>de</strong>
proyecto,confrasesexpresadasenlenguajenaturalrecogidas<strong>de</strong>diversosusuarios(tantoconocedores, simplicacion<strong>de</strong>llenguaje.
como<strong>de</strong>sconocedores<strong>de</strong>latarea).Elobjetivoqueperseguamoseraevaluarlasprestaciones<strong>de</strong>lsistema Noobstante,elultimoexperimento<strong>de</strong>scritoen[5]sencajaperfectamenteenelmarco<strong>de</strong>lametodo-
1Debidaalacortaduracion<strong>de</strong>lproyectoinicial(6meses).

8.2.RESULTADOSINICIALESCONLATAREADELTURISTA <strong>de</strong>traducciontextoatexto,nalmenteimplementadoutilizandoanalisissintacticocorrector<strong>de</strong>errores, 121
familiaresyamigos)selespidioqueescribiesenlafrasequepronunciaran,antecualquiera<strong>de</strong>lassituacionesenlascualessepue<strong>de</strong>encontrar\nuestro"turista(veasecaptuloanterior).Trasterminareste anteentradasexpresadasenlenguajenatural(masomenos)espontaneo.
proceso,serecogieronuntotal<strong>de</strong>228frases\espontaneas".Tras<strong>de</strong>scartaralgunasfrasesque,claramente,noestabancontempladasenlatarea(sesalan,enmayoromenormedida,<strong>de</strong>ldominiosemantico Ataln,seorganizounaencuestaenlaqueaalgunosusuarios(participantes<strong>de</strong>lproyectoEuTrans,
establecido),elcorpus<strong>de</strong>nitivoquedojadoen166frases.
<strong>de</strong>todaslasinsercionesysustituciones,enlascualesestabaimplicadoelsmboloquerepresentaala primeraalternativa<strong>de</strong>scritaenlaseccion4.5.Concretamenteseutilizaronvaloresaltosparaelsuavizado imposibilidad<strong>de</strong>po<strong>de</strong>r,portanto,realizarunaestimaciona<strong>de</strong>cuada<strong>de</strong>losparametros<strong>de</strong>C,se<strong>de</strong>cidio utilizar,ensulugar,undiccionarioestocastico<strong>de</strong>sinonimos,convenientementesuavizadoutilizandola Dadoelpoconumero<strong>de</strong>frasesrecogidas,se<strong>de</strong>cidio<strong>de</strong>dicarelcorpusntegroparatest.Antela
palabra<strong>de</strong>sconocida(veaseesamismaseccion),dadoelbuennumero<strong>de</strong>palabrasfuera<strong>de</strong>vocabulario presentesenelcorpus.Elmo<strong>de</strong>loestocastico<strong>de</strong>estadosnitosutilizadofueeltraductorsubsecuencial
representarloslenguajes<strong>de</strong>entradaysalida[64].Paraelaprendizaje<strong>de</strong>ltraductorseutilizaroncategoras <strong>de</strong>latarea<strong>de</strong>lTurista,utilizandoelalgoritmoOSTIA-DRconmo<strong>de</strong>los<strong>de</strong>trigramasminimizadospara elcorpus<strong>de</strong>aprendizajecastellano-ingles(concretamentelaparticionnumero2,veaselaseccion7.1.1) traductorfueinferidoapartir<strong>de</strong>los490:000pares<strong>de</strong>traduccion(168:629distintos)<strong>de</strong>losqueconsta castellano-inglesquemejoresresultadoshabaobtenidoenlaevaluacionocial<strong>de</strong>lproyecto[4].Dicho
castellano-ingles(490:000). lexicas,formadasporgrupos<strong>de</strong>palabras,talcomose<strong>de</strong>scribeen[4,6].Lasprobabilida<strong>de</strong>s<strong>de</strong>ltraductor fueronestimadaspormaximaverosimilitud,utilizandolasfrasesencastellano<strong>de</strong>lcorpus<strong>de</strong>aprendizaje
encastellano(y,portanto,lascorrespondientestraducciones<strong>de</strong>lsistemaalingles)fueronmanualmente sistema<strong>de</strong>volveralafrase<strong>de</strong>llenguaje<strong>de</strong>salida<strong>de</strong>ltraductorasociadaalafrasesimpleencontrada, talcomoseexpusoalprincipio<strong>de</strong>laseccion7.3.Procediendo<strong>de</strong>estaforma,lasfrasessimplicadas (veaseelcaptulo2),queseamasprobabledadalafrase\compleja"<strong>de</strong>entrada.Comotraduccion,el Enestecaso,buscamosaquellafrase\simplicada"pertenecienteallenguaje<strong>de</strong>entrada<strong>de</strong>ltraductor
clasicadascomopertenecientesauna<strong>de</strong>estastrescategoras,previamente<strong>de</strong>nidas:
Aproximada.Lasimplicacion(traduccion)aproximaengranmedida,bienpor<strong>de</strong>fecto,bienpor <strong>de</strong>nicion<strong>de</strong>latarea. exceso2,elsignicadooriginal<strong>de</strong>lafrase<strong>de</strong>entrada. Correcta.Lasimplicacion(traduccion)preservaelsignicado<strong>de</strong>lafrase<strong>de</strong>entradasegunla
Erronea.Lasimplicacion(traduccion)noreejaninguno,omuypocos,<strong>de</strong>losconceptosexpresados
cadauna<strong>de</strong>lascategorasestablecidasparalaevaluacion.Enelprimerejemplo,elproceso<strong>de</strong>analisis Latabla8.1muestraejemplos<strong>de</strong>frasessimplicadas,juntoconsuscorrespondientestraducciones,en enlafrase<strong>de</strong>entrada.
simpleQuerra.Delamismaforma,avisasenfueconsi<strong>de</strong>radacomounasustitucion<strong>de</strong><strong>de</strong>spierten, locualresultaa<strong>de</strong>cuadoenelcontexto<strong>de</strong>nidoporlatarea.Finalmente,laspalabrasparair<strong>de</strong> excursionfueronconsi<strong>de</strong>radasinserciones,peroyaquenocontienenningunainformacionrelevante Portanto,laexpresion\compleja"Megustaraseconsi<strong>de</strong>roacertadamenteequivalentealaexpresion corrector<strong>de</strong>erroresconsi<strong>de</strong>roqueMeeraunainsercionyquegustaraeraunasustitucion<strong>de</strong>Querra.
2Aparecenmasconceptosquelosrealmenteexpresadosenlafrase<strong>de</strong>entrada.

122 E:Megustaraquemeavisasenalassiete<strong>de</strong>lama~nanaparair<strong>de</strong>excursion. CAPITULO8.SIMPLIFICACIONDELLENGUAJENATURAL
CorrectaS:Querraqueme<strong>de</strong>spiertenalassiete<strong>de</strong>lama~nana. CorrectaT:Iwouldlikeyoutowakemeupatseveninthemorning. Aprox.S:Nosgustaracambiarnos<strong>de</strong>habitacion. Aprox.T:Wewouldliketochangerooms. E:Ruegoquemecambien<strong>de</strong>habitacion.
Tabla8.1:Ejemplos<strong>de</strong>frasessimplicadas(ysustraduccionesasociadas)paralasfrasesespontaneas<strong>de</strong>la ErroneaS:Meparecequehayunproblemaenlacuenta. ErroneaT:Ithinkthatthereisaprobleminthebill. E:Megustaraquemeprepararalacuenta.
tarea<strong>de</strong>lTurista.\E"signicalafrase<strong>de</strong>entradaencastellano,\S"signicalafrasesimplicadaencontradaen castellanoy\T"signicalatraduccion<strong>de</strong>lafrasesimplicadaalingles. segunla<strong>de</strong>nicion<strong>de</strong>latarea3,clasicamoslasimplicacionobtenidacomocorrecta.Observeseque,en consecuencia,latraduccionofrecidaporelsistematambienresultacorrecta.Enesteejemploconcreto, avisasenyexcursionsonpalabras<strong>de</strong>sconocidas,es<strong>de</strong>cir,nopresentesenellexico<strong>de</strong>ltraductor.Enel porI).Sinembargo,elsignicadoprincipal<strong>de</strong>lafraseoriginalquedaperfectamentereejado(cambiar <strong>de</strong>habitacion).Elultimoejemplomuestraunasimplicacion(traduccion)erronea,don<strong>de</strong>unapeticion segundoejemplo,hayunerrorenlasimplicaciony,portanto,enlatraduccion(Nosenlugar<strong>de</strong>Me,We parahacerlacuentase\simplica"(ytraduce,enestecaso)comounaquejasobrelamisma.Ellector interesadopue<strong>de</strong>encontraralgunosejemplosmasenelapendiceB.
obtenemosun71;68%<strong>de</strong>\acierto"enlapruebaefectuada.Sincorreccion<strong>de</strong>errores,losresultados ofrecidosporelsistemafueroninaceptables,limitandosearechazarlagranmayora<strong>de</strong>las166frases. 51frasessimplicadas(traducidas)<strong>de</strong>maneraaproximada(30;72%);47simplicaciones(traducciones) erroneas(28;31%).Siconsi<strong>de</strong>ramoscomoadmisibleslasdosprimerascategorasestablecidas,entonces Losresultadosobtenidosnalmentefueron:68simplicaciones(traducciones)correctas(40;96%);
Esteprometedorresultadoinicial,nosanimoengranmedidaaefectuarpruebasconunatareamas \real"4,aunsiendoconscientes<strong>de</strong>quehabraquerealizarciertos<strong>de</strong>sarrollos,coneln<strong>de</strong>obteneruna buenatasa<strong>de</strong>acierto.LatareaelegidanalmentefueMGEO.
8.3 pingConstruccion<strong>de</strong>unSistemaRobustomedianteBootstrap- basadaenlasimplicacion<strong>de</strong>llenguaje.Siguiendoestaaproximacion,po<strong>de</strong>mosdotar<strong>de</strong>larobustez necesariaalossistemas<strong>de</strong>procesamiento<strong>de</strong>llenguajebasadosenmo<strong>de</strong>los<strong>de</strong>estadosnitos,paraque seancapaces<strong>de</strong>tratarconfrases<strong>de</strong>entradaexpresadasenlenguajenaturaly\espontaneo".Sinembargo, existeunproblema.Sibien,elmo<strong>de</strong>lo<strong>de</strong>estadosnitosutilizadoenelexperimentoanteriorfueinferido Losresultadosquehemospresentadoenlaseccionanterior,conrmanlaviabilidad<strong>de</strong>laaproximacion
<strong>de</strong>error. automaticamenteapartir<strong>de</strong>uncorpus<strong>de</strong>aprendizaje,estenoeselcaso<strong>de</strong>losvalores<strong>de</strong>losparametros
pruebainicial,ssonreales.
4Talcomose<strong>de</strong>scribioenelcaptuloanterior,latarea<strong>de</strong>lTuristaesarticial,aunquelasfrasesempleadasenesta 3Elrecepcionistatieneque<strong>de</strong>spertaralturistaalassiete<strong>de</strong>lama~nana,noimportaparaque.

8.3.CONSTRUCCIONDEUNSISTEMAROBUSTOMEDIANTEBOOTSTRAPPING Uno<strong>de</strong>losobjetivosprincipales<strong>de</strong>estatesises,precisamente,elpo<strong>de</strong>rofrecersolucionesparaestimar 123
inductivamentelosvalores<strong>de</strong>dichosparametros.Comoyacomentamosenelcaptulo7,elprincipal parametros.Enesemismocaptulo,proponamosutilizart<strong>ecnicas</strong><strong>de</strong>validacioncruzadapararesolver problemaquetenemosqueafrontaresel<strong>de</strong>laescasez<strong>de</strong>datospararealizarbuenasestimaciones<strong>de</strong>estos
resi<strong>de</strong>enlanecesidad<strong>de</strong>quedichosdatos,vengandadosenforma<strong>de</strong>pares(frase<strong>de</strong>entradaalcanal, frase<strong>de</strong>salida<strong>de</strong>lcanal).A<strong>de</strong>mas,lasestimacionesquecaberealizarenelproceso<strong>de</strong>simplicacion Viterbi)<strong>de</strong>sacarelmayorpartidoposible<strong>de</strong>losdatos<strong>de</strong>entrenamiento.Suinconvenientefundamental elcaptulo4,yaqueestasssoncapaces(alcontrario<strong>de</strong>lasbasadasenunproceso<strong>de</strong>reestimacionpor esteproblema.Otraposibilidadserautilizarlast<strong>ecnicas</strong><strong>de</strong>reestimacionporBaum-Welch<strong>de</strong>scritasen
ciertaforma,lasemantica<strong>de</strong>lafrase<strong>de</strong>entrada).Enesteultimocaso,nosdabaiguallafraseymas <strong>de</strong>estadosnitosdiscutidoenelcaptuloanterior(elproceso<strong>de</strong>simplicaciontrata<strong>de</strong>\captar",en cercanaaxqueseobtuviese;sinembargo,enelcaso<strong>de</strong>lasimplicacionresultaclaveobtenerlafrasey <strong>de</strong>scrito,suelenser<strong>de</strong>unanaturalezauntantomascomplicadaqueenelcaso<strong>de</strong>lsuavizado<strong>de</strong>mo<strong>de</strong>los \a<strong>de</strong>cuada",lacual,paramasinri,seencuentra\oculta"enelmo<strong>de</strong>lo<strong>de</strong>estadosnitosFquemo<strong>de</strong>la la(simplicacion<strong>de</strong>la)tarea.Lasolucionpropuestapreten<strong>de</strong>resolversimultaneamentelossiguientes problemas: escasez<strong>de</strong>datos<strong>de</strong>entrenamiento, necesidad<strong>de</strong>queestosdatosse<strong>de</strong>nenforma<strong>de</strong>pares(entrada,salida)al/<strong>de</strong>lcanaly
pue<strong>de</strong>nsintetizar<strong>de</strong>lasiguientemanera: Lai<strong>de</strong>abasicaconsisteenutilizart<strong>ecnicas</strong><strong>de</strong>bootstrapping.Losfundamentos<strong>de</strong>esteprocesose obtenercomoentradaalcanal,lasimplicaciona<strong>de</strong>cuada<strong>de</strong>L(F).
1.Ponemosenmarchanuestrosistemaconelmo<strong>de</strong>lo(estocastico)<strong>de</strong>estadosnitos,F,elcual
2.Paracadafrase<strong>de</strong>entradax,obtenemoslasNmejoressoluciones<strong>de</strong>l<strong>de</strong>scodicadorDqueresuelve constituyeelmo<strong>de</strong>locanonico<strong>de</strong>latarea.Utilizamosinicialmenteladistancia<strong>de</strong>Levenshtein
laecuacion2.1(veanseloscaptulos2y3). (veasecaptulo2)paradarvaloresalosparametros<strong>de</strong>C(inserciones,borradosysustituciones). Enestecaso,seignoranlasprobabilida<strong>de</strong>s<strong>de</strong>F.
3.UnexpertohumanobuscaentrelasNsoluciones,paracadafrase<strong>de</strong>entradax,aquellasque resultanunasimplicaciona<strong>de</strong>cuada.EntreesasNsoluciones,pue<strong>de</strong>encontrarsemas<strong>de</strong>una
4.UtilizamosTcomoentradaalalgoritmo13,expuestoenelcaptulo4,obteniendounaestimacion T,todoslospares<strong>de</strong>laforma(yn;x)8n1nN;don<strong>de</strong>ynesunasimplicaciona<strong>de</strong>cuadapara x. solucioncorrecta.Elcriterioqueproponemosesqueelexpertoa~nadaalconjunto<strong>de</strong>entrenamiento
5.Repetimoslospasos2,3y4,peroahoraresolviendolaecuacion2.3(veasecaptulo2)conlas paralosvalores<strong>de</strong>losparametros<strong>de</strong>C.
6.Repetimostodoelprocesoconnuevasfrases<strong>de</strong>entrada,a~nadiendonuevosparesaT,hastaque mismasfrases,hastaqueyanosea~na<strong>de</strong>nmasparesaT.Apartir<strong>de</strong>aquelproceso<strong>de</strong>analisis corrector<strong>de</strong>erroresseraenteramenteestocastico. consi<strong>de</strong>remosquelasprestaciones<strong>de</strong>lsistemasona<strong>de</strong>cuadasenlapractica.

124Salvoporlapresencia<strong>de</strong>lexpertohumanoqueseleccionalassimplicacionesa<strong>de</strong>cuadas,elproceso CAPITULO8.SIMPLIFICACIONDELLENGUAJENATURAL
<strong>de</strong>scritoespuramenteinductivo.Elexpertoesnecesario,puesesel(sucriterio),asistidoporun<strong>de</strong>scodi-
Estopue<strong>de</strong>ser<strong>de</strong>bido,fundamentalmente,atresrazones: estecaso,estosparametrossonfundamentalesparapo<strong>de</strong>robtenersimplicacionescorrectas.Quisieramos hacernotarqueesposibleque,duranteelproceso<strong>de</strong>scrito,que<strong>de</strong>algunafrase<strong>de</strong>entradasinsimplicar. <strong>de</strong>losparametros<strong>de</strong>C(otalvezseramejor<strong>de</strong>cir,quienencuentralassimplicacionesocultasenF).En cadorcapaz<strong>de</strong><strong>de</strong>volverlasNmejoressoluciones(veasecaptulo3),quienguaelproceso<strong>de</strong>estimacion
Lasvariacionessintacticasquepresentason<strong>de</strong>unanaturalezatancomplicada,queelmo<strong>de</strong>lo<strong>de</strong> Lafrasese\sale"<strong>de</strong>ldominio<strong>de</strong>latarea.Noslimitamosaignorarla. erroresincapaz<strong>de</strong>simplicarla.Nopo<strong>de</strong>moshacernada,salvoutilizar,enunfuturo,mo<strong>de</strong>losmas potentes(como,porejemplo,elmo<strong>de</strong>loMAMOEexpuestoenelcaptulo5). Susimplicaciona<strong>de</strong>cuadanoestacontempladaenF.Enestoscasos,enelpaso3<strong>de</strong>lproceso queacabamos<strong>de</strong><strong>de</strong>scribir,laa~nadiremosaotroconjuntoR.Lasfrases<strong>de</strong>eseconjuntoserviran, queposteriormenteseexponen,seraelexpertoelquea~nadanuevosestadosytransicionesaF). nalmente,paramejorarlaestructura<strong>de</strong>F(enelcaso<strong>de</strong>losexperimentosconlatareaMGEO
8.4 restringido.Formaparte<strong>de</strong>unatareamascompleja<strong>de</strong>accesoaunabase<strong>de</strong>datosgeograca(BDGEO), LatareaMGEO(accesoaunaMinibase<strong>de</strong>datosGEOgraca)esunatarea<strong>de</strong>dominiosemantico Descripcion<strong>de</strong>laTareaMGEO
<strong>de</strong>nidaenelmarco<strong>de</strong>lproyectoALBAYZIN[32].Hemosescogidoestatareacomoejemplo<strong>de</strong>la aplicacion<strong>de</strong>t<strong>ecnicas</strong><strong>de</strong>correccion<strong>de</strong>erroresparalacomprension<strong>de</strong>llenguajenatural,porqueencaja
contieneinformacionsobre: seimponenrestriccionessintacticasenlaconstruccion<strong>de</strong>laspeticiones<strong>de</strong>informacion. perfectamenteennuestra\losofa"<strong>de</strong>lasimplicacion,yaque,apesar<strong>de</strong>susemanticarestringida,no
Entida<strong>de</strong>s:mares,comunida<strong>de</strong>sautonomasyros. Lainformacionquepue<strong>de</strong>pedirsealsistema<strong>de</strong>ne,enestecaso,lasemantica<strong>de</strong>latarea.Elsistema
Atributos<strong>de</strong>estasentida<strong>de</strong>s:nombres<strong>de</strong>losmares,nombreyextension<strong>de</strong>lascomunida<strong>de</strong>sautonomas Relacionesentreestasentida<strong>de</strong>s:enquemarocomunidadautonoma<strong>de</strong>sembocaun<strong>de</strong>terminadoro, limitaconuna<strong>de</strong>terminadacomunidad,:::. enquecomunidadnaceun<strong>de</strong>terminadoro,porquecomunida<strong>de</strong>spasaunroconcreto,quemar ylongitudycaudal<strong>de</strong>losros.
1.Preguntarporentida<strong>de</strong>soatributos<strong>de</strong>unaentidad.Porejemplo,dimelalongitudycaudal<strong>de</strong>lro Enloquesereerealaspeticionesquepue<strong>de</strong>nrealizarse,estasestanrestringidasa:
2.Preguntarporentida<strong>de</strong>srelacionadasconotraentidad.Porejemplo,>cuantosros<strong>de</strong>sembocanen Ebro.. elmarMediterraneo?.

8.5.EXPERIMENTOSCONLATAREAMGEO 3.Preguntarporatributos<strong>de</strong>entida<strong>de</strong>srelacionadasconotraentidad.Porejemplo,>cualesla 125
4.Cualquiercombinacion<strong>de</strong>lasanteriores.Porejemplo,>cualeselnombreylalongitud<strong>de</strong>lroque tienemnimocaudalyqueatraviesamascomunida<strong>de</strong>s<strong>de</strong>sembocandoenelmarqueba~naCantabria?. extension<strong>de</strong>lascomunida<strong>de</strong>squecruzaelro<strong>de</strong>maximalongitud?.
8.5 unmo<strong>de</strong>lo<strong>de</strong>estadosnitos,basandoseenunaserie<strong>de</strong>estructurassintacticascanonicasqueintentan Coneln<strong>de</strong>obtenerunmo<strong>de</strong>lo<strong>de</strong>lenguajecanonicoparalatareaMGEO,seconstruyomanualmente ExperimentosconlaTareaMGEO
representarlasconstruccionesbasicasconlasquesepue<strong>de</strong>nformularlaspeticiones<strong>de</strong>informacionlegales
simplicadasporlaprimeraversion)tena230estados,665transicionesentreestadosyunlexico<strong>de</strong>61 546transiciones.Lasegundayultimaversion(producidaenbasealasfrasesquenoerancorrectamente cuatrocategoras:MAR,COM,RIOyNUM.Laprimeraversion<strong>de</strong>estemo<strong>de</strong>lotena212estadosy yros)ylosnumeros(extension<strong>de</strong>lascomunida<strong>de</strong>s,longitudycaudal<strong>de</strong>losros,etc.),utilizando enestatarea.Enestemo<strong>de</strong>loseetiquetaronlosnombresespeccos(mares,comunida<strong>de</strong>sautonomas
tieneuntotal<strong>de</strong>908frases(806distintas),conuntotal<strong>de</strong>12:805palabrasyunlexico<strong>de</strong>1:381palabras. Conesteconjunto<strong>de</strong>datossellevoacaboelsiguienteprotocoloexperimental: palabras. Elconjunto<strong>de</strong>frases<strong>de</strong>estatareaqueseutilizoenlosexperimentosqueacontinuacion<strong>de</strong>scribimos,
2.Establecimosdosconjuntos,unoparaaprendizaje,A,compuestoporlas700primerasfrases<strong>de</strong>l 1.Las908frasesfueronor<strong>de</strong>nadasaleatoriamente.
3.Hicimosunaparticionensietebloques<strong>de</strong>lmismotama~no(100frases)enA<strong>de</strong>lasiguientemanera: frases1{100paraelbloqueA1,frases101{200paraelbloqueA2,frases201{300paraelbloqueA3, (portanto,in<strong>de</strong>pendiente). corpusaleatoriamenteor<strong>de</strong>nadoyotroparaevaluacion,E,compuestoporlasultimas208frases
4.Realizamoselproceso<strong>de</strong>bootstrapping<strong>de</strong>scritoenlaseccionanterior,jandoN=50,concadauno :::yfrases601{700paraelbloqueA7.
las14frasesqueeranrechazadas(es<strong>de</strong>cir,nosimplicadascorrectamente)porelsistemaeneste primeraversion<strong>de</strong>lmo<strong>de</strong>lo<strong>de</strong>lenguaje<strong>de</strong>latareaMGEO.Alexpertohumanoseleproporcionaron <strong>de</strong>lossietebloquesestablecidosparaelconjunto<strong>de</strong>aprendizaje.Paraelprimerbloque,usamosla bloque.Esteexpertomejoroelmo<strong>de</strong>loinicial,ofreciendolasegundaversion.Estasegundaversion
5.Conlaestimacionnalresultanteparalosparametros<strong>de</strong>error,procedimosarealizar<strong>de</strong>nuevoel yanofuemodicada,empleandose,portanto,entodoslosbloquesrestantes(aunquesiguiesen rechazandoseunnumeromarginal<strong>de</strong>frases;un5%aproximadamente).Masa<strong>de</strong>lantedaremos proceso<strong>de</strong>bootstrappingconlas36frasesrechazadasenlasfasesanteriores.Comoresultado,se <strong>de</strong>tallesconcretos<strong>de</strong>lproceso<strong>de</strong>entrenamiento(masexhaustivo)efectuadoconelprimerbloque.
5Conmas<strong>de</strong>unasimplicaciona<strong>de</strong>cuadaparamuchas<strong>de</strong>ellas.
obtuvieronsimplicacionesa<strong>de</strong>cuadaspara10<strong>de</strong>ellas.Finalmente,<strong>de</strong>las700frases<strong>de</strong>aprendizaje 674fueronsimplicadascorrectamente5(96;29%),mientrasquesolamente26fueronrechazadas (3;71%).

1266.Conelconjunto<strong>de</strong>paresconstruido<strong>de</strong>maneraincrementalalolargo<strong>de</strong>lproceso,T,procedimos CAPITULO8.SIMPLIFICACIONDELLENGUAJENATURAL
arealizarlaestimacion<strong>de</strong>nitiva<strong>de</strong>losparametros<strong>de</strong>error.Esteconjuntocontena,nalmente, untotal<strong>de</strong>1:665pares<strong>de</strong>frases.
Tabla8.2:Numero<strong>de</strong>iteracionesefectuadasy<strong>de</strong>frasesnalmenterechazadasencadauno<strong>de</strong>lossietebloques Bloque Iteraciones 1-100101-200201-300301-400401-500501-600601-700
<strong>de</strong>lcorpus<strong>de</strong>aprendizajeparaMGEO. Frasesrechazadas6(14) 3(6) 36 36 27 23 25 23
<strong>de</strong>lnumero<strong>de</strong>frasesnalmenterechazadas(nosimplicadascorrectamente),concadauno<strong>de</strong>lossiete bloquesestablecidosparaelcorpus<strong>de</strong>aprendizaje.Todoelproceso<strong>de</strong>aprendizajefuerealizadoutilizando lasegundaversion<strong>de</strong>lmo<strong>de</strong>lo<strong>de</strong>lenguaje,especialmentedise~nadoparalatareaMGEO. Latabla8.2muestraelnumero<strong>de</strong>iteracionesrealizadoduranteelproceso<strong>de</strong>bootstrapping,amen
comoelnumero<strong>de</strong>frasesque,nalmente,noerana<strong>de</strong>cuadamentesimplicadasporelsistema.Solamente enlaprimeraiteracionconestebloque,utilizandolaprimeraversion<strong>de</strong>lmo<strong>de</strong>loparaMGEO,seutilizola aparecereejado,paraesteprimerbloque,elnumero<strong>de</strong>iteracionesefectuadoconesteprimermo<strong>de</strong>lo,as version<strong>de</strong>estemo<strong>de</strong>lo(talcualhemoscomentadoconanterioridad).Enlatabla8.2,entreparentesis, Laexcepcionaestaaseveracionlaconstituyeelprimerbloque,don<strong>de</strong>inicialmenteseutilizolaprimera
errorespormnimadistancia.Enlaprimeraiteracionconlasegundaversion<strong>de</strong>lmo<strong>de</strong>loparaMGEO,se distancia<strong>de</strong>Levenshteinparadarvaloresalosparametros<strong>de</strong>Cy,enconsecuencia,analisiscorrector<strong>de</strong>
erroresestocastico(maximaverosimilitud). ultimaiteracionconelbloqueanterior.Portanto,entodosestoscasosseutilizoanalisiscorrector<strong>de</strong> utilizolaultimaestimacionqueparadichosparametrosserealizoconlaprimeraversion(sextaiteracion). Enelresto<strong>de</strong>bloquesseutilizocomoestimacioninicial<strong>de</strong>losparametros<strong>de</strong>error,laobtenidaenla
(paso4<strong>de</strong>lproceso<strong>de</strong>bootstrapping<strong>de</strong>scritoenlaseccionanterior),se<strong>de</strong>be<strong>de</strong>stacarquesiempreseinipor\Levenshtein"(talcualse<strong>de</strong>scribioenlaseccion4.3.1)yque,a<strong>de</strong>mas,seefectuaron5iteracionesadicializaronlosparametros(lnea11<strong>de</strong>lalgoritmo13enelcaptulo4)utilizandoelproceso<strong>de</strong>inicializacioncionalesutilizandolaaproximaciontipoViterbi,traslaconvergencia(<strong>de</strong>tencion)<strong>de</strong>Baum-Welch(vease Encuantoalproceso<strong>de</strong>reestimacion<strong>de</strong>losparametros<strong>de</strong>lmo<strong>de</strong>lo<strong>de</strong>errormedianteBaum-Welch
enlaspruebaspreliminaresefectuadasconelprimerbloque<strong>de</strong>lcorpus<strong>de</strong>aprendizaje. maximo<strong>de</strong>45iteraciones.Se<strong>de</strong>cidioutilizaresta\conguracion",puesfuelaquemejorresultadoofreca verosimilitud,entredositeracionesconsecutivas,novariaba.Encualquiercaso,seestableciounnumero laseccion4.4).Elproceso<strong>de</strong>reestimacionmedianteBaum-Welchse<strong>de</strong>tenasielvalor<strong>de</strong>lafuncion<strong>de</strong>
especcamentedise~nadoparalatareaMGEO(izquierda),comoconlasegundaversion<strong>de</strong>lmismo(<strong>de</strong>recha).Quisieramosmatizarque,enelcalculo<strong>de</strong>laperplejidad,solamentesehatenidoencuentalaje,A1,encadauna<strong>de</strong>lasiteracionesefectuadastantoconlaprimeraversion<strong>de</strong>lmo<strong>de</strong>lo<strong>de</strong>lenguaje puntuacion<strong>de</strong>laprimerasolucionqueobtieneel<strong>de</strong>scodicador.Endichagurasepue<strong>de</strong>observarcomo Lagura8.1muestralaevolucion<strong>de</strong>laperplejidad,paraelprimerbloque<strong>de</strong>lcorpus<strong>de</strong>aprendiza-
14frasesparalascualesnoseencontrosimplicaciona<strong>de</strong>cuadaenlastresultimasiteraciones.Anteeste nesalmo<strong>de</strong>looriginal,obteniendosecomoresultadounasegundaversion.Conestasegunday<strong>de</strong>nitiva6 laperplejidadconlaprimeraversionvadisminuyendoencadaiteracion.Peseaello,habauntotal<strong>de</strong> hecho,se<strong>de</strong>cidioqueelexpertohumanoutilizaseestas14frases,paraa~nadirnuevosestadosytransicio- 6Aunquetodavaexistaunnumeroresidual<strong>de</strong>frasesparalascualesnoseencontrabaunasimplicaciona<strong>de</strong>cuadaen

version,serealizoelresto<strong>de</strong>lprotocoloexperimental<strong>de</strong>scritoconanterioridad.Comopue<strong>de</strong>apreciarse 8.5.EXPERIMENTOSCONLATAREAMGEO 127
losparametros<strong>de</strong>errorestaban,ya,losucientementebienestimados(<strong>de</strong>hecho,inclusopodra<strong>de</strong>cirse queestabanexcesivamentesobreadaptadosalosdatos<strong>de</strong>esteprimerbloque). cuentaque,previamente,sehabanrealizado6iteraciones<strong>de</strong>lprocesoconlaprimeraversion,conlocual laperplejidadobtenidaenlastresiteracionesconestasegundaversionesmuchomenor.Tengaseen
Perplejidad
27
24
21
18
1-100 (vers. 1)
15
11
Figura8.1:Evolucion<strong>de</strong>laperplejidadparaelprimerbloque<strong>de</strong>A,A1,conlaprimera(izquierda)yconla segundaversion(<strong>de</strong>recha)<strong>de</strong>lmo<strong>de</strong>lo<strong>de</strong>lenguajedise~nadoparalatareaMGEO.
12
10
1 2 3 4 5 6 1 2 3
Lagura8.2muestralaevolucion(primerayultimaiteracion)<strong>de</strong>lnumero<strong>de</strong>vecesqueaparece
iteraciones
iteraciones
unasimplicaciona<strong>de</strong>cuada,encadauna<strong>de</strong>las50solucionesobtenidasporel<strong>de</strong>scodicador,parael bloqueA1.Enestagurasolosehatenidoencuentalaposicion(numero<strong>de</strong>solucion)<strong>de</strong>laprimera simplicaciona<strong>de</strong>cuada<strong>de</strong>vueltaporel<strong>de</strong>scodicador,es<strong>de</strong>cir,nosehantenidoencuentalasrepeticiones queelexpertohumanoa~nadiesetodoslospares<strong>de</strong>laforma(yn;x)8n1 (frases<strong>de</strong>entradaparalascualessehaobtenidomas<strong>de</strong>unasimplicacioncorrecta).Recuer<strong>de</strong>seque, cuando<strong>de</strong>scribamos<strong>de</strong>manerageneralelproceso<strong>de</strong>bootstrappingenlaseccion8.3,habamos<strong>de</strong>cidido lasposiciones11{50,mientrasquelacolumnaetiquetadaconRmuestraelnumero<strong>de</strong>frasesparalascuales noseencontrounacorrectasimplicacion(entrelas50disponibles).Enestagurapue<strong>de</strong>observarse comonosoloaumentaelnumerototal<strong>de</strong>frasesa<strong>de</strong>cuadamentesimplicadas,sinoquetambien\mejora" simplicaciona<strong>de</strong>cuadaparax.Lacolumnaconlaetiqueta\>10",agrupalassolucioneshalladasentre n N,talqueynesuna
laprimeraversion<strong>de</strong>lmo<strong>de</strong>lo<strong>de</strong>lenguajeparalatareaMGEO,ofrecepocassolucionesencomparacion analisisnoestocastico. laposicionenlaqueaparecelaprimerasimplicacion<strong>de</strong>ntro<strong>de</strong>lasNmejores.Laprimeraiteracioncon conelresto,<strong>de</strong>bidoaquerepresentalapuestaenmarcha<strong>de</strong>lsistema,condistancia<strong>de</strong>Levenshteiny
estenuevomo<strong>de</strong>lo,se<strong>de</strong>cidionomodicarlopuesresultabamuycomplicadohacerlo.
<strong>de</strong>lmo<strong>de</strong>lo<strong>de</strong>error)quesevana~nadiendoaT.Enestatablaseobservalamismaten<strong>de</strong>nciaapuntada apreciarseeltotal<strong>de</strong>pares<strong>de</strong>aprendizaje(paralaestimacionmedianteBaum-Welch<strong>de</strong>losparametros Latabla8.3muestralosmismosresultados,consi<strong>de</strong>randolasrepeticiones,<strong>de</strong>maneraquepueda
Perplejidad
15
14
13
12
1-100 (vers. 2)

128 CAPITULO8.SIMPLIFICACIONDELLENGUAJENATURAL
100
10
1
100
It. 1 (vers. 1) 1-100
Total: 100
1 3 5 7 9 >10R
It. 1 (vers. 2) 1-100
Total: 100
100
10
1
It. 6 (vers. 1) 1-100
Total: 100
1 3 5 7 9 >10R
10
10
(sintenerencuentarepeticiones),enlaprimerayultimaiteracionconelbloqueA1.Arribaseutilizolaprimera version<strong>de</strong>lmo<strong>de</strong>lo<strong>de</strong>lenguajeparalatareaMGEO,mientrasqueabajoseutilizolasegunda(y<strong>de</strong>nitiva). Figura8.2:Numero<strong>de</strong>vecesqueseencuentraunasimplicaciona<strong>de</strong>cuada,encadauna<strong>de</strong>las50soluciones
1
1
1 3
Primerait.conA1usandolaprimeraversion<strong>de</strong>lmo<strong>de</strong>lo<strong>de</strong>lenguajeparaMGEO
5 7 9 >10R
1 3 5 7 9 >10R
SolucionN=1N=2N=3N=4N=5N=6N=7N=8N=9N=10N=11::50TotalR Veces SolucionN=1N=2N=3N=4N=5N=6N=7N=8N=9N=10N=11::50TotalR Veces Sextait.conA1usandolaprimeraversion<strong>de</strong>lmo<strong>de</strong>lo<strong>de</strong>lenguajeparaMGEO 39 77 64 14 03 13 01 21 10 1 10 11 5 6338
SolucionN=1N=2N=3N=4N=5N=6N=7N=8N=9N=10N=11::50TotalR Veces Primerait.conA1usandolasegundaversion<strong>de</strong>lmo<strong>de</strong>lo<strong>de</strong>lenguajeparaMGEO 82 25 8 4 2 5 2 2 0 2 13 1457 9914
Tabla8.3:Numero<strong>de</strong>vecesqueseencuentraunasimplicacioncorrecta,encadauna<strong>de</strong>las50soluciones,en SolucionN=1N=2N=3N=4N=5N=6N=7N=8N=9N=10N=11::50TotalR Veces Tercerait.conA1usandolasegundaversion<strong>de</strong>lmo<strong>de</strong>lo<strong>de</strong>lenguajeparaMGEO
laprimerayultimaiteracionconelbloqueA1.
89 39 6 4 2 0 3 3 1 0 17 1646
100
It. 3 (vers. 2) 1-100
Total: 100

porlagura8.2.A<strong>de</strong>mas,seobservaungradualaumento<strong>de</strong>lnumero<strong>de</strong>paresquevana~nadiendoseaT 8.5.EXPERIMENTOSCONLATAREAMGEO 129
(columnasconlaetiqueta\Total"). trapping,paraelresto<strong>de</strong>bloques,A2,A3,A4,A5,A6yA7.Laiteracion0sereerealaperplejidad obtenidaconlaultimaestimacionparaelmo<strong>de</strong>lo<strong>de</strong>errorcalculadaenelbloqueanterior.Entodaslas curvasseobservaunaten<strong>de</strong>nciageneral:laperplejidaddisminuyeencadaiteracionefectuada(partiendo <strong>de</strong>unaperplejidadinicial,masomenos,elevada)hastaqueseestabiliza.Suestabilizacion,comocabe Lagura8.3muestralaevolucion<strong>de</strong>laperplejidadobtenidaencadaiteracion<strong>de</strong>lproceso<strong>de</strong>bootsesperarenunesquema<strong>de</strong>aprendizajemedianteExpectation-Maximization(E-M),indicaquesehalogradolaconvergencia:sinosea~na<strong>de</strong>nmasdatosaT,elmaximolocalobtenidoduranteelproceso<strong>de</strong>
reestimacionparalafuncion<strong>de</strong>verosimilitud,novara.
27
101-200
27
201-300
27
301-400
27
401-500
27
501-600
27
601-700
24
24
24
24
24
24
21
21
21
21
21
21
18
18
18
18
18
18
15
15
15
15
15
15
<strong>de</strong>vecesqueapareceunasimplicaciona<strong>de</strong>cuada,encadauna<strong>de</strong>las50solucionesmaximoverosmiles Figura8.3:Evolucion<strong>de</strong>laperplejidadparalosbloques2,3,4,5,6y7.
12
12
12
12
12
12
0 1 2 3 0 1 2 3 0 1 2 0 1 2 0 1 2 0 1 2
obtenidasporel<strong>de</strong>scodicador,paralosbloquesA2,A3,A4,A5,A6yA7.Delamismamanera Lasguras8.4,8.5,8.6,8.7,8.8y8.9muestranlaevolucion(primerayultimaiteracion)<strong>de</strong>lnumero
iteraciones
iteraciones
iteraciones
iteraciones
iteraciones
iteraciones
(sololaposicion<strong>de</strong>laprimerasimplicacioncorrecta).Y<strong>de</strong>lamismaforma,enestasgracasse queseindicoenelcaso<strong>de</strong>lagura8.2,enestasgurasnosehantenidoencuentalasrepeticiones
error,mejorresultanlasestimaciones(viaE-M)ymasserefuerzanlosvaloresestimados<strong>de</strong>losparametros escasamente\vistos"porelmo<strong>de</strong>lo. a<strong>de</strong>cuada.Ellose<strong>de</strong>beaque,cuantosmasparessea~na<strong>de</strong>naTparaestimarlosvalores<strong>de</strong>lmo<strong>de</strong>lo<strong>de</strong> soluciones,comoun<strong>de</strong>cremento<strong>de</strong>lnumero<strong>de</strong>frasesparalasquenoseencontrounasimplicacion observasistematicamentetantounincremento<strong>de</strong>lnumero<strong>de</strong>simplicacionesa<strong>de</strong>cuadasenlasprimeras
elprimero.Enestecaso,elnumero<strong>de</strong>paresque,paulatinamente,sevana~nadiendoencadabloquees mayorqueenelanterior.Estose<strong>de</strong>bealamayor\riqueza"quepresentaelmo<strong>de</strong>lo<strong>de</strong>error,amedida y8.9,consi<strong>de</strong>randolasrepeticiones,<strong>de</strong>maneraquepuedaapreciarseeltotal<strong>de</strong>pares<strong>de</strong>aprendizajeque sevana~nadiendoaT.Enestatablasemuestraquelosrestantesbloquessiguenlamismaten<strong>de</strong>nciaque Latabla8.4,aligualquelatabla8.3,muestralosmismosresultadosquelasguras8.4,8.5,8.6,8.7,8.8
elproceso<strong>de</strong>bootstrappingseha\estabilizado",es<strong>de</strong>cir,apenassemodican,ya,lasestimaciones<strong>de</strong>los elultimobloqueseobservaunapeque~nadisminucionenelnumero<strong>de</strong>paresa~nadidos,locualindicaque parametros<strong>de</strong>lmo<strong>de</strong>lo<strong>de</strong>error. quesevana~nadiendonuevospares(consucesosposiblementeno\vistos"enlosanterioresbloques).En
estadosnitosestocasticosligeramentedistintos:
habamosreservadoparalaevaluacionnal.Paraefectuarestaevaluacionutilizamosdosmo<strong>de</strong>los<strong>de</strong> Finalmente,vamosaocuparnos<strong>de</strong>laevaluacionrealizadaconlas208frases<strong>de</strong>lconjuntoE,elcual
Perplejidad
Perplejidad
Perplejidad
Perplejidad
Perplejidad
Perplejidad

130 CAPITULO8.SIMPLIFICACIONDELLENGUAJENATURAL
100
It. 1 101-200
Total: 100
10
10
(sintenerencuentarepeticiones),enlaprimerayultimaiteracion<strong>de</strong>lbloque2. Figura8.4:Numero<strong>de</strong>vecesqueseencuentraunasimplicaciona<strong>de</strong>cuada,encadauna<strong>de</strong>las50soluciones
1
1
1 3 5 7 9 >10R
1 3 5 7 9 >10R
100
It. 1 201-300
Total: 100
100
It. 3 101-200
Total: 100
10
10
(sintenerencuentarepeticiones),enlaprimerayultimaiteracion<strong>de</strong>lbloque3.
Figura8.5:Numero<strong>de</strong>vecesqueseencuentraunasimplicaciona<strong>de</strong>cuada,encadauna<strong>de</strong>las50soluciones
1
1
1 3 5 7 9 >10R
1 3 5 7 9 >10R
100
It. 3 201-300
Total: 100

8.5.EXPERIMENTOSCONLATAREAMGEO 131
100
It. 1 301-400
Total: 100
10
10
(sintenerencuentarepeticiones),enlaprimerayultimaiteracion<strong>de</strong>lbloque4. Figura8.6:Numero<strong>de</strong>vecesqueseencuentraunasimplicaciona<strong>de</strong>cuada,encadauna<strong>de</strong>las50soluciones
1
1
1 3 5 7 9 >10R
1 3 5 7 9 >10R
100
It. 1 401-500
Total: 100
100
It. 2 301-400
Total: 100
10
10
(sintenerencuentarepeticiones),enlaprimerayultimaiteracion<strong>de</strong>lbloque5.
Figura8.7:Numero<strong>de</strong>vecesqueseencuentraunasimplicaciona<strong>de</strong>cuada,encadauna<strong>de</strong>las50soluciones
1
1
1 3 5 7 9 >10R
1 3 5 7 9 >10R
100
It. 2 401-500
Total: 100

132 CAPITULO8.SIMPLIFICACIONDELLENGUAJENATURAL
100
It. 1 501-600
Total: 100
10
10
(sintenerencuentarepeticiones),enlaprimerayultimaiteracion<strong>de</strong>lbloque6. Figura8.8:Numero<strong>de</strong>vecesqueseencuentraunasimplicaciona<strong>de</strong>cuada,encadauna<strong>de</strong>las50soluciones
1
1
1 3 5 7 9 >10R
1 3 5 7 9 >10R
100
It. 1 601-700
Total: 100
100
It. 2 501-600
Total: 100
10
10
(sintenerencuentarepeticiones),enlaprimerayultimaiteracion<strong>de</strong>lbloque7.
Figura8.9:Numero<strong>de</strong>vecesqueseencuentraunasimplicaciona<strong>de</strong>cuada,encadauna<strong>de</strong>las50soluciones
1
1
1 3 5 7 9 >10R
1 3 5 7 9 >10R
100
It. 2 601-700
Total: 100

8.5.EXPERIMENTOSCONLATAREAMGEO 133
SolucionN=1N=2N=3N=4N=5N=6N=7N=8N=9N=10N=11::50TotalR Veces 70 33 4 7 PrimeraiteracionconA2
SolucionN=1N=2N=3N=4N=5N=6N=7N=8N=9N=10N=11::50TotalR Veces 88 41 19 17 TerceraiteracionconA2 5 34 23 50 63 32 29 10 1679
SolucionN=1N=2N=3N=4N=5N=6N=7N=8N=9N=10N=11::50TotalR Veces 76 34 16 12PrimeraiteracionconA3 11 8 9 9 8 2 32 1926
SolucionN=1N=2N=3N=4N=5N=6N=7N=8N=9N=10N=11::50TotalR Veces 85 50 30 24 TerceraiteracionconA3 9 4 1 2 1 1 26 2179
SolucionN=1N=2N=3N=4N=5N=6N=7N=8N=9N=10N=11::50TotalR Veces 68 47 24 19PrimeraiteracionconA4 10 7 5 5 5 3 35 2336
SolucionN=1N=2N=3N=4N=5N=6N=7N=8N=9N=10N=11::50TotalR Veces 82 57 21 15SegundaiteracionconA4 12 8 3 3 3 1 28 2287
SolucionN=1N=2N=3N=4N=5N=6N=7N=8N=9N=10N=11::50TotalR Veces 66 44 22 11PrimeraiteracionconA5 17 8 6 5 2 5 50 2337
SolucionN=1N=2N=3N=4N=5N=6N=7N=8N=9N=10N=11::50TotalR Veces 77 49 33 13SegundaiteracionconA5 16 8 8 4 6 4 37 2364
SolucionN=1N=2N=3N=4N=5N=6N=7N=8N=9N=10N=11::50TotalR Veces 67 51 32 28PrimeraiteracionconA6 8 11 3 0 3 4 63 2553
SolucionN=1N=2N=3N=4N=5N=6N=7N=8N=9N=10N=11::50TotalR Veces 77 55 31 24SegundaiteracionconA6 10 11 4 1 3 4 66 2705
SolucionN=1N=2N=3N=4N=5N=6N=7N=8N=9N=10N=11::50TotalR Veces 80 48 22 11PrimeraiteracionconA7 11 10 3 4 7 3 38 2865
SolucionN=1N=2N=3N=4N=5N=6N=7N=8N=9N=10N=11::50TotalR Veces 87 56 19 16SegundaiteracionconA7 11 12 3 3 3 5 34 2373
Tabla8.4:Numero<strong>de</strong>vecesqueseencuentraunasimplicacioncorrecta,encadauna<strong>de</strong>las50soluciones,en laprimerayultimaiteracionconlosbloquesA2,A3,A4,A5,A6yA7.
2493

134Lasegundaversion<strong>de</strong>lmo<strong>de</strong>loparalatareaMGEO,proporcionadoporelexpertohumano(es CAPITULO8.SIMPLIFICACIONDELLENGUAJENATURAL
<strong>de</strong>cir,elmismomo<strong>de</strong>loqueusamosenelaprendizaje).Ena<strong>de</strong>lante,le<strong>de</strong>nominaremosF1. Nosquedamosconlaestructura<strong>de</strong>F1y<strong>de</strong>spreciamoslasprobabilida<strong>de</strong>squejoelexperto.RealizamosunaestimacionporViterbi[27]<strong>de</strong>lasprobabilida<strong>de</strong>s<strong>de</strong>estemo<strong>de</strong>loestructural,utilizando Concadauno<strong>de</strong>estosdosmo<strong>de</strong>losusamosloscuatromo<strong>de</strong>los<strong>de</strong>errorindicadosacontinuacion(vease adicionalobtuvimoselmo<strong>de</strong>lonal,alque<strong>de</strong>nominaremosF2. laparte<strong>de</strong>entradaalcanal(lasfrasessimplicadas)<strong>de</strong>T(1:665frases).Trasunsimplesuavizado
elcaptulo4),obteniendosenalmenteochocombinacionesdistintasaevaluar:
I<strong>de</strong>m,mas5iteracionesadicionalestipo\Viterbi",traslaconvergencia<strong>de</strong>lE-M7(EMP+5V). EstimacionmedianteE-Mutilizandoinicializacionequiprobable<strong>de</strong>todoslosparametros(EMP).
I<strong>de</strong>m,mas5iteracionesadicionalestipo\Viterbi",traslaconvergencia<strong>de</strong>lE-M(EML+5V). (EML). EstimacionmedianteE-Mutilizandolainicializaciontipo\Levenshtein"explicadaenelcaptulo4
consi<strong>de</strong>radolaposicionocupadaporlaprimerasimplicaciona<strong>de</strong>cuada,entrelas50obtenidas(nose hantenidoencuentalasrepeticiones).Enlaultimacolumna(consi<strong>de</strong>randolas50mejoressoluciones <strong>de</strong>vueltasporel<strong>de</strong>scodicador)semuestra,entreparentesis,laposicionenlaqueseencontronalmente <strong>de</strong>solucionespedidasal<strong>de</strong>scodicador)comprendidosentre1y50.Enlaevaluacionsolamenteseha Losresultadosobtenidossemuestranenlatabla8.5,consi<strong>de</strong>randodistintosvalores<strong>de</strong>N(numero
lasimplicaciona<strong>de</strong>cuada.Lasegundacolumna,etiquetada\PP",muestralaperplejidadobtenidasobre puntuacion<strong>de</strong>laprimerasolucion).EnelapendiceBsemuestranejemplos<strong>de</strong>algunassimplicaciones Eporcadauno<strong>de</strong>losmo<strong>de</strong>losutilizados(enelcalculo<strong>de</strong>laperplejidadsolamentesetieneencuentala obtenidas,tantoconelconjunto<strong>de</strong>aprendizajeA,comoconelconjunto<strong>de</strong>evaluacionE.
F1-EMP F1-EML Mo<strong>de</strong>los 26,6273,0876,9280,2981,7382,6982,6983,6584,6285,1085,1088,94(39) 26,6171,1577,4080,2981,7382,2183,1783,1784,1384,1384,1390,38(46) PPN=1N=2N=3N=4N=5N=6N=7N=8N=9N=10N=50 Tasa<strong>de</strong>acierto(%)enlasimplicacionconsi<strong>de</strong>randolasNprimerassoluciones
F1-EMP+5V19,6979,8181,2583,6584,6286,5487,0287,5087,9887,9887,9891,83(37)
F2-EMP+5V16,9082,6983,1784,6285,5887,5088,4689,4289,4289,9089,9093,27(40) F1-EML+5V19,3477,8880,7782,2182,6983,6584,1384,6285,1085,5886,0691,83(50)
F2-EML+5V16,6182,2182,6984,1385,1087,0287,9888,9488,9488,9488,9493,27(44) F2-EMP F2-EML 22,4774,5276,9280,2982,2184,6285,5886,5487,5087,9888,4692,79(47)
Tabla8.5:Resultadosnalesconlas208frases<strong>de</strong>evaluacion<strong>de</strong>latareaMGEO. 22,4373,5677,4081,2584,1387,0287,0287,5087,9889,4289,4293,27(37)
lacomplejidad<strong>de</strong>estatarea.Complejidadque,porotraparte,noviene<strong>de</strong>terminada,precisamente, porsu\magnitud",niporsu\extenso"lexico(masbienalcontrario),sinoporlaenormevariabilidad 7Para<strong>de</strong>tenerelproceso<strong>de</strong>reestimacion<strong>de</strong>lE-Msejaronlosmismoscriteriosqueenaprendizaje,estoes,mismovalor Losresultadosobtenidossonbastantebuenos.Cualquiersistemaconvencionalseestrellaraante
<strong>de</strong>verosimilitu<strong>de</strong>ntredositeracionesconsecutivasy,encualquiercaso,nomas<strong>de</strong>45iteraciones.

8.6.CONCLUSIONES sintacticaquepue<strong>de</strong>llegarareejarseenlasfrasesquesepue<strong>de</strong>nelaboraryporsunaturalezaaltamente 135
\espontanea".Aunas,queremosresaltarquelatasa<strong>de</strong>aciertopodrahabersidounpar<strong>de</strong>puntos po<strong>de</strong>mosextraeralavista<strong>de</strong>estosresultadossonlassiguientes: maselevada,porlomenosenlas\primeras"posiciones,<strong>de</strong>noserporlacantidad<strong>de</strong>construccionesno gramaticalespermitidasenlaestructuraconstruidaporelexpertohumano8.Latabla8.6muestra,en resumen,losresultadosobtenidosconelpeoryelmejor<strong>de</strong>losmo<strong>de</strong>losevaluados.Lasconclusionesque
F2-EMP+5V16,9082,6983,1784,6285,5887,5088,4689,4289,4289,9089,9093,27(40) F1-EMP Mo<strong>de</strong>los 26,6273,0876,9280,2981,7382,6982,6983,6584,6285,1085,1088,94(39) PPN=1N=2N=3N=4N=5N=6N=7N=8N=9N=10N=50 Tasa<strong>de</strong>acierto(%)enlasimplicacionconsi<strong>de</strong>randolasNprimerassoluciones
Lainicializacion<strong>de</strong>losparametros<strong>de</strong>errorquehemosutilizadoenelproceso<strong>de</strong>E-M,apenas Tabla8.6:Resultadosobtenidosconelpeoryelmejor<strong>de</strong>losdistintosmo<strong>de</strong>losevaluados.
Comoelmo<strong>de</strong>loqueutilizamosnoescapaz<strong>de</strong>resolverestassituaciones,obtienealineamientos suboptimosque,muchasveces,comportanlasustitucion<strong>de</strong>unapalabra,noporsmisma(que mo<strong>de</strong>lo<strong>de</strong>errorseveobligadoahacer.Inclusosehan<strong>de</strong>tectadocasosenlosquelasimplicacion a<strong>de</strong>cuada,obligaraa<strong>de</strong>shacercrucesenloqueseraelalineamientooptimo(veasecaptulo5). tieneinuenciaenlosresultados.Estose<strong>de</strong>bealas,aveces,complicadassimplicacionesqueel
seralomasnatural),sinoporotradistinta.
pensandoenquelasfrasesnogramaticalesrecibiranunaprobabilidadaunmasbaja). que,pormuyexpertoqueseaelhumano,esmuydifcilestablecermanualmentelasprobabilida<strong>de</strong>s9. laestructura<strong>de</strong>lmo<strong>de</strong>lo<strong>de</strong>estadosnitos,obtuviesemosresultadosalgomejores(porlomenos, Esprobableque,sidispusiesemos<strong>de</strong>masdatosparaestimara<strong>de</strong>cuadamentelasprobabilida<strong>de</strong>s<strong>de</strong> F2ofrecemejoresresultadosqueF1(entre1;5y4puntosmas<strong>de</strong>acierto).Estoesrazonableya
probabilidad,tantoenF1comoenF2,<strong>de</strong>lasmejoressimplicaciones. areforzarlasmejoresestimaciones<strong>de</strong>losparametros<strong>de</strong>dichomo<strong>de</strong>loy,portanto,asubirla efectuadastras<strong>de</strong>tenerelprocesoE-Menelentrenamiento<strong>de</strong>lmo<strong>de</strong>lo<strong>de</strong>error.Estascontribuyen Lamejoramasnotable,engeneral,viene<strong>de</strong>lamano<strong>de</strong>las5iteracionesadicionalestipo\Viterbi",
8.6 errorespue<strong>de</strong>nrealizara<strong>de</strong>cuadamenteelproceso<strong>de</strong>simplicacion<strong>de</strong>llenguaje,explicadoenlaintro- Laconclusionmasrelevantequepo<strong>de</strong>mosextraeresque,realmente,last<strong>ecnicas</strong><strong>de</strong>correccion<strong>de</strong> Conclusiones
lapractica,asistemas<strong>de</strong>estetipobasadosenmo<strong>de</strong>los<strong>de</strong>estadosnitos. utilizadasenestecaptulopue<strong>de</strong>nsuponerunasoluciona<strong>de</strong>cuada,paradotar<strong>de</strong>larobusteznecesariaen procesamiento<strong>de</strong>llenguajeconentradanaturaly\espontanea"(noacotada).Pensamosquelast<strong>ecnicas</strong> muchosqueseestableceentreeldominiosemanticoyeldominiosintactico,paramuchasaplicaciones<strong>de</strong> duccionaestecaptulo.Unmo<strong>de</strong>lo<strong>de</strong>errorbienentrenado,escapaz<strong>de</strong>representarlarelacionunoa
enlautilizacion<strong>de</strong>traductoressubsecuenciales.Finalmente,hemos<strong>de</strong>sarrollado<strong>de</strong>s<strong>de</strong>elcomienzoun 9Unacosaessegura:requieregran<strong>de</strong>sdosis<strong>de</strong>imaginacion.
8Obviamente,lasfrasesnogramaticalesnosehanconsi<strong>de</strong>radocomosimplicacionesa<strong>de</strong>cuadas. Hemospresentadoexperimentospreliminaresutilizandounsistema<strong>de</strong>traduccionautomatica,basado

136 sistema<strong>de</strong>procesamiento<strong>de</strong>peticiones,expresadasenlenguajenaturalnorestringidosintacticamente, CAPITULO8.SIMPLIFICACIONDELLENGUAJENATURAL
aunsistema<strong>de</strong>informaciongeograca,utilizandot<strong>ecnicas</strong><strong>de</strong>bootstrapping.Lasprestacionesnales obtenidasporelsistemafueronbastantebuenas. <strong>de</strong>errormasrobustos(conmasparametros),capaces<strong>de</strong>captarcomplicadasvariacionessintacticasque implicancrucesenloquesereerealalineamientooptimoconsusimplicaciona<strong>de</strong>cuada.Eneste sentido,elmo<strong>de</strong>loMAMOEpresentadoenelcaptulo5,surgecomounaprometedoraalternativa. Noobstante,todavaquedatrabajoporhacer,sobretodoenloquesereereal<strong>de</strong>sarrollo<strong>de</strong>mo<strong>de</strong>los
<strong>de</strong>sarrolladosenelcaptulo3yutilizadosenlaexperimentacionqueacabamos<strong>de</strong><strong>de</strong>tallar,parasu utilizacionconmo<strong>de</strong>losgramaticales<strong>de</strong>mayorpotenciaexpresiva(porejemplo,mo<strong>de</strong>losincontextuales).
Otralnea<strong>de</strong>trabajoatenerencuenta,seraelexten<strong>de</strong>rlosecientesalgoritmos<strong>de</strong><strong>de</strong>scodicacion,

NUEVE CAPITULO
Experimentos<strong>de</strong>Traduccion
buttightlyholdupsilentlymyhands andinmyeyesyoursmile. ButIdon'tsee andIdon'tfeel, beforemyfadingeyes TheverylastthingbeforeIgo:::
Contenidos<strong>de</strong>lCaptulo-\ThesameDeepWaterasYou",Disintegration,1989,FictionRec.-
RobertSmith(TheCure)
9.1Introduccion
9.5Conclusiones 9.2Descripcion<strong>de</strong>lProtocoloExperimental 9.4ResultadosconlaTarea<strong>de</strong>lTurista 9.3ResultadosconlaTareaMLA
ponemos(todava)<strong>de</strong>unmetodoecienteparapo<strong>de</strong>refectuarlabusqueda<strong>de</strong>lalineamiento(eneste 9.1Enestecaptulopresentamosexperimentos<strong>de</strong>traduccionconelmo<strong>de</strong>loMAMOE.Aunquenodis Introduccion
intentarevaluar,<strong>de</strong>algunamanera,lasprestaciones<strong>de</strong>estemo<strong>de</strong>loestocastico<strong>de</strong>error(oalineamiento, segunsepreera). parametros<strong>de</strong>lMAMOE,sobreunmo<strong>de</strong>lo<strong>de</strong>lenguaje(<strong>de</strong>estadosnitos),hemoscredoconveniente caso,traduccion)masprobable,dadaunafrase<strong>de</strong>entradaydadaunaestimacion<strong>de</strong>losvalores<strong>de</strong>los
tesishicimosenlaseccion2.3,quenohemos<strong>de</strong>sarrolladoel<strong>de</strong>scodicadorDparaestemo<strong>de</strong>lo<strong>de</strong>canal Estosignica,teniendoencuentala<strong>de</strong>nicionformalque<strong>de</strong>lproblemacentralqueabordamosenesta 137

138 ruidoso.Sinembargo,utilizandolast<strong>ecnicas</strong><strong>de</strong>scritasenelcaptulo5,ssomoscapaces<strong>de</strong>realizaruna CAPITULO9.EXPERIMENTOSDETRADUCCION
<strong>de</strong>frases,segunelMAMOE.Utilizaremosestainformacionpararealizarunaevaluacion\informal"<strong>de</strong>l estimacion<strong>de</strong>losparametros<strong>de</strong>C.Esmas,utilizandoelalgoritmotipo\Viterbi"<strong>de</strong>scritoenesemismo captulo,somoscapaces<strong>de</strong><strong>de</strong>terminarcualeslasecuencia<strong>de</strong>operacionesque,conmayorprobabilidad, metodo(evaluando,manualmente,la\calidad"<strong>de</strong>losalineamientosmasprobables). tuvoquehacerelcanalparaconvertirlafrasequelellegocomoentrada,enlafrasequenalmente produjocomosalida.Estoquiere<strong>de</strong>cirquepo<strong>de</strong>moscalcularlosalineamientosmasprobablesentrepares
MLAy<strong>de</strong>latarea<strong>de</strong>lTurista.Ambastareashansido<strong>de</strong>scritasencaptulosanteriores(concretamente sondostareasqueconocemosbien,es<strong>de</strong>cirparalascualespo<strong>de</strong>mosevaluar,sintemoraequivocarnos, enloscaptulos6y7,respectivamente),conlocualnorealizaremosninguncomentariomasalrespecto. Aunquelosdatosqueparaambastareastenemosnosonnaturales,hemos<strong>de</strong>cididousarlospuestoque Paralarealizacion<strong>de</strong>losexperimentos<strong>de</strong>traduccion1conelMAMOEhemosutilizadodatos<strong>de</strong>latarea
subvencionadoporlaUnionEuropea. estosdatosfueronlosutilizadosparalaevaluacionformal<strong>de</strong>laprimerafase<strong>de</strong>lproyectoEuTrans, tarea<strong>de</strong>lTurista,<strong>de</strong>bidoasunaturaleza,sonmuchomas\complejos"y,portanto,mascercanosala realidad(encuantoacomplejidad<strong>de</strong>latarea<strong>de</strong>traduccionsereere)quelos<strong>de</strong>latareaMLA.A<strong>de</strong>mas, lacalidad<strong>de</strong>losalineamientosobtenidosporelMAMOE.Noobstante,<strong>de</strong>benotarsequelosdatos<strong>de</strong>la
mo<strong>de</strong>lo,erasucapacidadparacaptar<strong>de</strong>pen<strong>de</strong>ncias<strong>de</strong>largoalcanceyelpo<strong>de</strong>r<strong>de</strong>terminar,siuntama~no atractivaparaevaluarlasprestaciones<strong>de</strong>lMAMOE.Uno<strong>de</strong>losaspectosquemasnospreocupabaeneste <strong>de</strong>crucesy,fundamentalmente,alalejana<strong>de</strong>losmismos(<strong>de</strong>pen<strong>de</strong>ncias<strong>de</strong>largoalcance),quelahacen a~nadiroeliminarobjetos<strong>de</strong>laescena),presentaciertascaractersticas,enloquesereerealacantidad EncuantoalatareaMLA,ensuversionextendida(estoes,consi<strong>de</strong>randoeluso<strong>de</strong>lavozpasivapara
<strong>de</strong>memoriarazonable(relativamentepeque~no)podrabastarlepararealizarbuenasestimaciones.
macionesrealizadasporelMAMOE(y,efectivamente,queramoscomprobarestehechoenlapractica).losdossentidos,puesesmuyposibleque,segunelsentido<strong>de</strong>latraduccion,resultenmejoreslasestimentehemoshechoexperimentoscastellano-ingles,ingles-castellano.Decidimoshacerexperimentoseningles,ingles-castellano,castellano-alemanyaleman-castellano,mientrasqueparalatareaMLAsolaFinalmente,indicaremosqueenelcaso<strong>de</strong>latarea<strong>de</strong>lTuristahemoshechoexperimentoscastellano- smbolos<strong>de</strong>lafrase<strong>de</strong>entrada(veaseelcaptulo5). Estecomportamientose<strong>de</strong>bealhecho<strong>de</strong>que,enlamemoria<strong>de</strong>lcanal,solamentepue<strong>de</strong>nintroducirse
9.2 usandolosparametros<strong>de</strong>lMAMOE,tuvimosquetomarla<strong>de</strong>cision<strong>de</strong>limitarlalongitud<strong>de</strong>lasfrasesque Debidoalelevadocostequetienenlosalgoritmosquecalculanlaprobabilidad<strong>de</strong>unalineamiento Descripcion<strong>de</strong>lProtocoloExperimental
utilizaramosparasuestimacion.EstotambienlesucedioaJuanMiguelVilarconsumo<strong>de</strong>loMAR[78]. mismosconjuntos<strong>de</strong>datosutilizadosen[78].Elparrafosiguientehasidoextrado<strong>de</strong>[78]. Comotambienelhizoexperimentoscondatos<strong>de</strong>latarea<strong>de</strong>lTurista,<strong>de</strong>cidimosutilizarexactamentelos
dossubconjuntos<strong>de</strong>datos:castellano-ingles,con293:481pares<strong>de</strong>frases;ycastellano-aleman,con286:267 <strong>de</strong>frases<strong>de</strong>loscorpusocialescastellano-inglesycastellano-aleman<strong>de</strong>latarea<strong>de</strong>lTurista(veasela seccion7.1.1),cuyasfrasescomponentestuvierandiezpalabrasomenos.Deestemodo,seobtuvieron pares.Traseliminarlosparesrepetidos,quedaron32:588paresconsalidaeninglesy30:916consalida La<strong>de</strong>cisionquetomamosfuela<strong>de</strong>escoger,comoconjuntos<strong>de</strong>datos<strong>de</strong>aprendizaje,aquellospares
1Talvezseramejor<strong>de</strong>cir\<strong>de</strong>alineamiento".

9.2.DESCRIPCIONDELPROTOCOLOEXPERIMENTAL Castellano Castellano 139
Numero<strong>de</strong>frasesdistintas Talla<strong>de</strong>lvocabulario<strong>de</strong>entrada Numero<strong>de</strong>frasesenelcorpus 293:481 32:588 Ingles Aleman
Talla<strong>de</strong>lvocabulario<strong>de</strong>salida Longitudmedia<strong>de</strong>lasfrases<strong>de</strong>entrada: 662 508 286:267 30:916 651
Longitudmedia<strong>de</strong>lasfrases<strong>de</strong>salida Incluyendorepeticiones Sinincluirrepeticiones 7;22 8;10 7;17 8;45 543
Tabla9.1:Algunascaractersticas<strong>de</strong>loscorpora<strong>de</strong>entrenamiento<strong>de</strong>la(sub)tarea<strong>de</strong>lTurista(extrada<strong>de</strong>[78]). Incluyendorepeticiones Sinincluirrepeticiones 7;54 8;67 6;83 7;46
1:000 2:000 N CastellanoCastellano
4:000 514410 571453 600473 Ingles 500431 567478 596499 Aleman
16:000 8:000 624486 651502 619514
Tabla9.2:Vocabulariovistoenlasmuestras<strong>de</strong>entrenamiento<strong>de</strong>la(sub)tarea<strong>de</strong>lTurista(extrada<strong>de</strong>[78]). 30:000 32:000 662507 634528 651543
enaleman.Finalmente,optamosporutilizarcomoconjuntos<strong>de</strong>datos<strong>de</strong>entrenamiento,32:000pares
caso,<strong>de</strong>pendiendo<strong>de</strong>sialemanoingles,respectivamente).Enlatabla9.2pue<strong>de</strong>apreciarseeltama~no enelcaso<strong>de</strong>linglesy30:000enel<strong>de</strong>laleman.Eltama~no<strong>de</strong>lvocabulario<strong>de</strong>estosconjuntos<strong>de</strong>datos, divididosensubconjuntos<strong>de</strong>tallascrecientes,<strong>de</strong>modoquecadaunoinclualasfrases<strong>de</strong>losanteriores. Lostama~noselegidosfueron:1:000,2:000,4:000,8:000,16:000y30:000o32:000pares(enesteultimo <strong>de</strong>lvocabularioquehayencadauno<strong>de</strong>estossubconjuntos. ascomootrascaractersticas,pue<strong>de</strong>nverseenlatabla9.1.Estosconjuntosfueron,posteriormente,
aprendizajea<strong>de</strong>cuados.Paraello,simplementenoslimitamos,paracadapar<strong>de</strong>losconjuntos<strong>de</strong>datos castellano-inglesycastellano-aleman,aintercambiarelor<strong>de</strong>n<strong>de</strong>lasfrasesquelocomponen. castellanoyaleman-castellano,respectivamente,necesitabamosdisponer<strong>de</strong>losconjuntos<strong>de</strong>datos<strong>de</strong>Ennuestrocaso,parapo<strong>de</strong>revaluaralineamientosenlosotrosdossentidos<strong>de</strong>latraduccion,ingles- <strong>de</strong>lamismaformaqueen[78].As<strong>de</strong>cidimos,paracadauno<strong>de</strong>los4corporautilizados,seleccionara prioridospares<strong>de</strong>cadauno<strong>de</strong>los6subconjuntosqueutilizamosenelentrenamiento.Concretamente, <strong>de</strong>cidimoselegirlosparessiguientes:paresenlasposiciones500y1:000paraelsubconjuntocompuesto enelcaso<strong>de</strong>latarea<strong>de</strong>lTurista,serealizosobreparespresentesenloscorpora<strong>de</strong>aprendizajeutilizados, Laevaluacion<strong>de</strong>lacalidad<strong>de</strong>losalineamientos<strong>de</strong>maximaprobabilidadobtenidosporelMAMOE
por1:000pares;paresenlasposiciones1:500y2:000paraelsubconjuntocompuestopor2:000pares;pares enlasposiciones3:000y4:000paraelsubconjuntocompuestopor4:000pares;paresenlasposiciones 5:000y8:000paraelsubconjuntocompuestopor8:000pares;paresenlasposiciones9:000y16:000para

140 elsubconjuntocompuestopor16:000pares;yparesenlasposiciones17:00y32:000paraelsubconjunto CAPITULO9.EXPERIMENTOSDETRADUCCION
evaluarenestossentidos<strong>de</strong>traduccioncoinci<strong>de</strong>n,respectivamente,conlos<strong>de</strong>lsentidocastellano-ingles que,porlaformaenquehemosconstruidoloscorporaingles-castellanoyaleman-castellano,losparesa losestimadosconcadauno<strong>de</strong>lossubconjuntosaloscualespertenecenlosparesaevaluar.Resultaobvio parametros<strong>de</strong>lMAMOEqueseutilizaronalahora<strong>de</strong>calcularlosalineamientosmasprobables,fueron compuestopor32:000pares(posiciones17:000y30:000enelcaso<strong>de</strong>laleman)[78].Losvalores<strong>de</strong>los
aquellosparescuyasfrasescomponentestuvierandocepalabrasomenos.Comoresultado,obtuvimos castellano-ingleseingles-castellano.Enestecaso,noslimitamosaseleccionar,<strong>de</strong>losrespectivoscorpora, ycastellano-aleman.
dosconjuntos<strong>de</strong>datos:castellano-ingles,con29:339frases;eingles-castellano,con29:339pares.Noes unacasualida<strong>de</strong>lhecho<strong>de</strong>quelosconjuntosresultantestenganelmismonumero<strong>de</strong>pares,yaquelos Enelcaso<strong>de</strong>latareaMLA,yasedispona<strong>de</strong>losdatos<strong>de</strong>aprendizajenecesariosenambossentidos:
posicion<strong>de</strong>lparensurespectivocorpus).Pararealizarlasestimaciones<strong>de</strong>losparametros<strong>de</strong>lMAMOE, <strong>de</strong>cidimosdividirlosensubconjuntos<strong>de</strong>tallascrecientes,incluyendocadaunoalosanteriores.Elegimos paresrepetidos.A<strong>de</strong>mas,entodoslossubconjuntosobtenidosseobservaelvocabulariocompleto<strong>de</strong>esta corpora<strong>de</strong>latareaMLAcontienenlosmismospares(solocambiaelor<strong>de</strong>n<strong>de</strong>lasfrasescomponentesyla
tarea:25palabraseninglesy29encastellano.Lalongitudmedia<strong>de</strong>lasfraseseningleses10;27.La longitudmedia<strong>de</strong>lasfrasesencastellanoes11;47. lostama~nos(siemprecomenzandoporelprincipio):500,1:000,2:000y4:000.Enestoscorpusnoexisten
<strong>de</strong>lprotocoloutilizadoparalatarea<strong>de</strong>lTurista.Tambien,alcontrarioqueenlatarea<strong>de</strong>lTurista, cabe<strong>de</strong>cirqueestospares,aunquepertenecenasusrespectivoscorpora<strong>de</strong>29:339frases,nosabemossi pertenecenaalguno<strong>de</strong>losconjuntos<strong>de</strong>datosnalmenteutilizadosparaaprendizaje.Nitansiquiera conlosparametrosestimadosparaelMAMOE,concadauna<strong>de</strong>las4divisionesestablecidas,adiferencia Acontinuacionseexponenlosparesqueseeligieronparalaevaluacion<strong>de</strong>losalineamientosobtenidos
<strong>de</strong>scribenunaescena.Loscuatroprimerosnosserviranparaevaluarlas<strong>de</strong>pen<strong>de</strong>ncias<strong>de</strong>largoalcance escena(vozpasiva),dospares<strong>de</strong>frasesqueeliminanunobjeto<strong>de</strong>laescena(vozpasiva)ydosparesque vocabulario<strong>de</strong>latarea.Dichosparessonlosmismosenlosdossentidos<strong>de</strong>latraduccionevaluados.El criterioutilizadoalahora<strong>de</strong>escogerlosfueelsiguiente:dospares<strong>de</strong>frasesquea~na<strong>de</strong>nunobjetoala noshemospreocupado<strong>de</strong>comprobarlo,yaqueentodoslosconjuntos<strong>de</strong>aprendizajeseobservatodoel
\alineamientooptimo"). (losdosparesqueeliminanunobjetopresentanlas<strong>de</strong>pen<strong>de</strong>ncias<strong>de</strong>mayorlejanaenloqueserael Castellano:sea~na<strong>de</strong>untriangulooscuro<strong>de</strong>bajo<strong>de</strong>ltrianguloy<strong>de</strong>lcrculooscuro Ingles: Castellano:seeliminaeltriangulopeque~noqueesta<strong>de</strong>bajo<strong>de</strong>lcrculomediano Castellano:sea~na<strong>de</strong>untriangulopeque~noyoscuromuyporencima<strong>de</strong>lcrculoclaro Ingles: adarktriangleisad<strong>de</strong>dbelowthetriangleandthedarkcircle asmalldarktriangleisad<strong>de</strong>dfarabovethelightcircle
Ingles: Castellano:seeliminaelcuadradoqueesta<strong>de</strong>bajo<strong>de</strong>lcuadradogran<strong>de</strong>yoscuro Castellano:uncrculooscurotocaauncrculoyuncrculomedianoyclaro adarkcircletouchesacircleandamediumlightcircle thesquarewhichisbelowthelargedarksquareisremoved thesmalltrianglewhichisbelowthemediumcircleisremoved
Castellano:uncrculopeque~noestamuyala<strong>de</strong>recha<strong>de</strong>uncuadradooscuro
enaprendizaje,comoenlaevaluacion),es<strong>de</strong>cirlamemoriasolopue<strong>de</strong>contener,enunmomento<strong>de</strong>ter- Entodoslosexperimentosefectuadossejoeltama~nomaximo<strong>de</strong>lamemoria<strong>de</strong>lcanala5(tanto Ingles: asmallcircleisfartotherightofadarksquare
minado,unmaximo<strong>de</strong>5smbolos.Enaprendizajeseutilizoelmetodo<strong>de</strong>reestimacion,basadoenel

9.3.RESULTADOSCONLATAREAMLA algoritmoExpectation-Maximization(E-M),<strong>de</strong>scritoenelcaptulo5.Elcriterio<strong>de</strong>paradaestablecido 141
fue<strong>de</strong>tenerelprocesocuandoladiferenciaentredositeracionesconsecutivas,paraellogaritmoenbase2 cambiado<strong>de</strong>signo<strong>de</strong>lvalor<strong>de</strong>lafuncion<strong>de</strong>verosimilitud<strong>de</strong>lamuestra<strong>de</strong>aprendizaje,fuesemenorque losalineamientosobtenidosconlospareselegidosparalaevaluacion,enambastareas. 10.Encualquiercaso,seestableciounnumeromaximo<strong>de</strong>20iteraciones.EnelapendiceCsemuestran
9.3 alcanalencastellanoylasfrases<strong>de</strong>salida<strong>de</strong>lmismoeningles,queremosindicarquelosresultados Enloquesereerealosalineamientosparalospares<strong>de</strong>evaluacion,consi<strong>de</strong>randolasfrases<strong>de</strong>entrada ResultadosconlaTareaMLA
apartir<strong>de</strong>loscorpus<strong>de</strong>aprendizajecompuestos<strong>de</strong>500,1:000,2:000y4:000pares<strong>de</strong>frases.Realmente lasestimacionesnalmenteobtenidasfueronmuysimilaresenloscuatrocasos.Estoquiere<strong>de</strong>cirque, paraapren<strong>de</strong>relfuncionamiento<strong>de</strong>C,segunlasoperacionespermitidasporelMAMOEylasrestricciones obtenidosfueroni<strong>de</strong>nticosparaloscuatroconjuntosdistintos<strong>de</strong>parametrosestimados,respectivamente, impuestas(tama~nomaximo<strong>de</strong>memorialimitadoa5smbolos),nosbastaconutilizarelcorpuscompuesto por500pares.
alasfrasesquea~na<strong>de</strong>nunobjetoalaescena,sontambienbastantebuenos,exceptoporelcasoque,a continuacion,<strong>de</strong>scribimos.Enestecaso,nosinteresabacomprobarsilaexpresionsea~na<strong>de</strong>sealineaba amientoscorrespondientesalasfrasesque<strong>de</strong>scribenunaescena,sontotalmentecorrectos,enelsentido <strong>de</strong>quecoinci<strong>de</strong>nconloquecabraesperarse.Enloquerespectaalosalineamientoscorrespondientes LosseisalineamientosobtenidossemuestranenelapendiceC.Enellosseobservaquelosdosaline-
correctamenteconlaexpresionisad<strong>de</strong>d.Lacorrespon<strong>de</strong>nciaexactaesseconisya~na<strong>de</strong>conad<strong>de</strong>d. llegueacaptarseporelmo<strong>de</strong>lo. Sinembargo,elmo<strong>de</strong>lopreereborrarseysustituira~na<strong>de</strong>poris.Noparece,pues,queesta<strong>de</strong>pen<strong>de</strong>ncia
yborrarse.Unavezelmo<strong>de</strong>lo<strong>de</strong>ci<strong>de</strong>queseseborraconunaaltaprobabilidad(practicamente1),uno aprendizajeseobservaque,siemprequeapareceelimina,aparecetheyque,siemprequeapareceque, apareceremoved,porloqueparaelmo<strong>de</strong>loterminaresultandomascomodorealizarestassustituciones queelmo<strong>de</strong>lopudiesediscriminarenelcaso<strong>de</strong>sea~na<strong>de</strong>eisad<strong>de</strong>d.Desgraciadamenteenelcorpus<strong>de</strong> Enestecaso,laexpresionseeliminaysucorrespondienteeninglesisremoved,<strong>de</strong>beranservirpara
<strong>de</strong>losdosisoad<strong>de</strong>d<strong>de</strong>beraserinsertadooelegidocomosustitucion<strong>de</strong>otrapalabra.Enestecaso, el\elegido"resultoad<strong>de</strong>d,elcualenuncasoseinsertayenelotrosustituyeamuy.Portanto,cabe <strong>de</strong>stacarquelasustitucion<strong>de</strong>a~na<strong>de</strong>poris,noestanmalacomopudieramospensarasimplevista,
ysustituciones<strong>de</strong>eliminaporthey<strong>de</strong>queporremoved).Creemosqueelprincipalcausante<strong>de</strong>este acabamos<strong>de</strong><strong>de</strong>scribirenelparrafoanterior(borrado<strong>de</strong>se,elcualtraeconsigolainsercion<strong>de</strong>is, <strong>de</strong>mostrandoqueelmo<strong>de</strong>loescapaz<strong>de</strong>\captar"<strong>de</strong>pen<strong>de</strong>ncias<strong>de</strong>alcancemedio.
peque~no\<strong>de</strong>saguisado"eselcorpus<strong>de</strong>aprendizaje.Simplemente,noselehadadooportunidadalmo<strong>de</strong>lo <strong>de</strong><strong>de</strong>mostrarsiescapaz<strong>de</strong>\captar"la<strong>de</strong>pen<strong>de</strong>ncias<strong>de</strong>largoalcanceentreseeisyeliminayremoved. Enloquesereerealasdosfrasesqueeliminanunobjeto<strong>de</strong>laescena,elunico\fallo"eselque
aprendizajeutilizados,diremosquenoseapreciarondiferenciassignicativasenloquesereerealos pondientestraduccionesencastellanocomolasalida<strong>de</strong>lmismo,tenemosque<strong>de</strong>cirlosiguiente. Encuantoalascuatroestimaciones<strong>de</strong>losparametrosobtenidasapartir<strong>de</strong>loscuatrocorpus<strong>de</strong> Siconsi<strong>de</strong>ramoslasfraseseningles<strong>de</strong>estosparescomolaentradaalcanaly,portanto,suscorres-
conjuntoscompuestospor1:000,2:000y4:000pares<strong>de</strong>frases.Dehechoseobtuvieronalineamientos i<strong>de</strong>nticosenestostrescasos.DichosalineamientossemuestranenelapendiceC.Conrespectoalas

142 estimacionesobtenidasapartir<strong>de</strong>lconjuntocompuestopor500pares,sseobservaronalgunasdiferencias. CAPITULO9.EXPERIMENTOSDETRADUCCION
eliminanunobjeto<strong>de</strong>laescena.Puestoqueestosalineamientossonpeoresquelosmostradosenel apendiceC,noabundaremosmaseneltema. Estasdiferenciasprovocaronqueseobtuvieranalineamientosdistintos,solamente,paralasdosfrasesque
difcilparaelMAMOE.Estose<strong>de</strong>bealhecho<strong>de</strong>que,estemo<strong>de</strong>lo,solamenteconsi<strong>de</strong>ralaintroduccion <strong>de</strong>smbolos<strong>de</strong>lafrase<strong>de</strong>entradaensumemoria.Enestecaso,parapo<strong>de</strong>rcapturarlasustitucion<strong>de</strong>is porsey<strong>de</strong>removedporelimina,elmo<strong>de</strong>lotendraqueintroducirensumemoriatodoslossmbolos<strong>de</strong> lafrase<strong>de</strong>entrada,locualesimposiblepueshemoslimitadosutama~noa5smbolos.Esporesto,yporel Realmenteestehechoreejaqueestesentido<strong>de</strong>losalineamientos(ingles-castellano)resultamas
quegestionara,<strong>de</strong>lamismamanera,lossmbolos<strong>de</strong>salida. extendieramoselmo<strong>de</strong>loparatrabajarcondosmemorias:laquegestionalossmbolos<strong>de</strong>entradayotra sustitucion),quelosalineamientos<strong>de</strong>lasfrasesqueeliminanunobjeto<strong>de</strong>laescenanosonmuybuenos hecho<strong>de</strong>que,enelcorpus,siemprequeaparecethe,apareceelimina(conlocualelmo<strong>de</strong>lorealizaesta precisamente.Elproblemaqueacabamos<strong>de</strong><strong>de</strong>scribirconlamemoria<strong>de</strong>lcanal,podrasolucionarsesi
estamuy\ansioso"(es<strong>de</strong>cir,tieneunaelevadaprobabilidad)porsacar<strong>de</strong>lamemorialossmbolosque aparecenantes<strong>de</strong>isad<strong>de</strong>dysustituirlosporsuscorrespondientestraduccionesencastellano,porloque correspon<strong>de</strong>nciaentreisad<strong>de</strong>dysea~na<strong>de</strong>.Noobstanteelmo<strong>de</strong>lopreereborrarenuncasoeinsertar enelotro.Pensamosqueaqusepone<strong>de</strong>relieveotra<strong>de</strong>ciencia<strong>de</strong>lmo<strong>de</strong>lo.Elproblemaesqueelmo<strong>de</strong>lo Sinembargo,eltama~nojadoparalamemoria,s<strong>de</strong>berabastarlealMAMOEparacapturarla
estossmbolos.Estotraecomoconsecuenciaquelossmbolosisyad<strong>de</strong>dque,enotrocaso,seran sustituidosrespectivamenteporseya~na<strong>de</strong>,terminenborrandose. nopue<strong>de</strong>esperarseameterenlamemorialaspalabrascorrespondientesasea~na<strong>de</strong>ypreereinsertar
unmomento<strong>de</strong>terminado,ocupandodichamemoria.Deestaforma,podramosdisminuirlaprobabilidad antes.Tansolonosrestasignicarquelosalineamientos<strong>de</strong>lasfrasesmeramente<strong>de</strong>scriptivas,son (\ansia")quetienenuestromo<strong>de</strong>lo<strong>de</strong>canal<strong>de</strong>(por)empezarasacarsmbolos<strong>de</strong>lamemoriacuanto palabraquepuedaintroducirseenlamemoria<strong>de</strong>lcanal,condicionadaalresto<strong>de</strong>palabrasqueesten,en Esteproblemapodrasolucionarse<strong>de</strong>niendoenelmo<strong>de</strong>lo,unaprobabilidad<strong>de</strong>extraccionparacada
absolutamentecorrectos. 9.4 tarea<strong>de</strong>lTurista.Enprimerlugarcomentaremoslossentidoscastellano-ingleseingles-castellano.Los Pasamosacontinuacion,acomentarlosresultados<strong>de</strong>losalineamientosobtenidosconlospares<strong>de</strong>la ResultadosconlaTarea<strong>de</strong>lTurista
paresalineadospue<strong>de</strong>nverseenelapendiceC.
conyouprovocaqueusseinserteenelsentidocastellano-inglesyseborreenelotro.Sinembargo, lassustitucionesentre<strong>de</strong>seoyI,queywant,nosyyouyupya.Elhecho<strong>de</strong>quenosseasocie en<strong>de</strong>scarga<strong>de</strong>lmo<strong>de</strong>lo,cabe<strong>de</strong>cirqueenelcorpus<strong>de</strong>aprendizajecorrespondiente,siempreque apareceIwantyou,aparece<strong>de</strong>seoyquesiempreaparecelaexpresionwakeupconelhecho<strong>de</strong> Enelparnumero500seobservanlosmismosalineamientosenlosdossentidos.Parecenerroneas
ser<strong>de</strong>spertadoaunahora<strong>de</strong>terminada.Posiblemente,estosproblemaspodransolucionarsesiel MAMOEfuesecapaz<strong>de</strong>trabajarcongrupos<strong>de</strong>smbolosynoconsmbolosindividualescomoesel caso. Losalineamientoscorrespondientesalpar1:000sonigualesenambossentidosysepue<strong>de</strong>nconsi<strong>de</strong>rar correctos,dadoelhecho<strong>de</strong>quesiemprequeaparece<strong>de</strong>seoapareceIwantto.

9.4.RESULTADOSCONLATAREADELTURISTA Paraelpar1:500solamenteseobservaunadiferencia.Enelsentidocastellano-ingles,<strong>de</strong>searase 143
sustituyeporwould,mientrasqueenelotrosentidoIsesustituyepor<strong>de</strong>seara.Encualquiercaso Elalineamientoingles-castellanoparaelpar2:000esabsolutamentecorrecto.Sinembargo,enel seobservaque,utilizandolasoperaciones<strong>de</strong>lmo<strong>de</strong>lo,Iwouldliketose\asocia"con<strong>de</strong>seara.
queelborrado<strong>de</strong>isque,enestecaso,resultamasprobableenelalineamientooptimo. secorrespon<strong>de</strong>conunaaltaprobabilidad<strong>de</strong>borradoenelsentidoingles-castellano,aunquemenor queestapalabratieneunaaltaprobabilidad<strong>de</strong>insercionenelsentidocastellano-ingles.Estehecho sentidocastellano-ingles,sesustituyeunporisyseinsertaa.Estose<strong>de</strong>beaque,enmuchas ocasiones,aparecelapalabraaeninglessinqueseobservelapalabraunencastellano.Esporesto,
porelhecho<strong>de</strong>que,enelcorpuscorrespondiente,todaslasapariciones<strong>de</strong>wehaveconllevanla Enelpar3:000lassustitucionesentretenemosyweyreservadayhavesepue<strong>de</strong>njusticar aparicion<strong>de</strong>tenemosreservada,tenemosreservadasyhemosreservado.Sinembargonohay
eslamismaquehemosofrecidoanteriormenteparaelpar2:000. entreunaywantqueconllevalainsercionoelborrado<strong>de</strong>a,esincorrecta.Laexplicacionparaesto Losalineamientosparaelpar4:000,i<strong>de</strong>nticosenambossentidos,soncasicorrectos.Lasustitucion explicacionparalassustitucionesentrehabitacionyayroomynombre.
Losalineamientosparaelpar5:000sontambiencasicorrectos.Loserroresse<strong>de</strong>benalassustitucionesentrereservadoyhaveyunaybooked(estaultimaconllevalainsercionoelborrado<strong>de</strong> a).Laexplicacion<strong>de</strong>estefenomenolahemosdadoenlospares2:000y3:000. consi<strong>de</strong>rarbastantecorrectos.Tengaseencuentaque,enamboscasos,se\asocia"podramos Enelpar8:000nuevamenteseobservanlosmismosalineamientosenlosdossentidos,pudiendose concouldwe,aunquelomasa<strong>de</strong>cuadoserarealizarlaoperacion<strong>de</strong>sustitucionentrepodramos ycheck,lashemosasumidocomocorrectaspuestoque,enelcorpus,seobservaquesiempreque aparececheques<strong>de</strong>viaje,aparecetravelercheck. Elunicoerrorqueseobservaenelpar9:000eslasustitucionentrelaynumber.Elmo<strong>de</strong>lo ycouldylainsercionoelborrado<strong>de</strong>ywe.Lassustitucionesentrechequesytraveleryviaje
correctamente\asocia"(mediantelasoperaciones<strong>de</strong>edicioncorrespondientes)subanconsendup ydiezcononeoh. Enlosalineamientosparaelpar16:000seproducensustitucioneserroneasentreunayma<strong>de</strong>,reserva <strong>de</strong>ambasfrases. Losalineamientosparaelpar17:000soncorrectosenambossentidos,teniendoencuentaelcontexto yaynombreyreservation.
Finalmente,enlosalineamientosparaelpar32:000seproducensustitucioneserroneasentrereserve
aleman-castellano. Porultimo,comentamoslosresultadosparalosalineamientosenlossentidoscastellano-alemany yI,unaybooked,habitacionyaynombreyroom.
Lospares1:500y3:000sonmuysimilares(<strong>de</strong>hechosolocambiaelnombre<strong>de</strong>quienhahechola correctosdadoelcontexto<strong>de</strong>lasfrasesquecomponen,respectivamente,cadapar. reserva)ysusalineamientossonigualesenambossentidos.Enellosseobservacomoerrormas
Losalineamientosparalospares500,1:000y2:000soni<strong>de</strong>nticosenambossentidos,consi<strong>de</strong>randose

144graveelhecho<strong>de</strong>quehechoseasocieconhabey,consecuentemente,seborregemachtenelsentido CAPITULO9.EXPERIMENTOSDETRADUCCION
lassustitucionesentrereservayeine(estasconllevanelborradooinsercion<strong>de</strong>una,lacualsera lasustituciona<strong>de</strong>cuadaparaeine)yayReservierung,sejustican,enparte,porelhecho<strong>de</strong> don<strong>de</strong>tambienlohacereservaa. aleman-castellano(enelsentidocastellano-alemangemachtsiempresustituyea<strong>de</strong>).Encuantoa
Losalineamientosparaelpar4:000soni<strong>de</strong>nticosenambossentidos.Enellos,wur<strong>de</strong>npodra que,enelcorpus,lagranmayora<strong>de</strong>lasvecesqueapareceeineReservierung,lohaceenpares interpretarsecorrectamentecomoelsigno<strong>de</strong>apertura<strong>de</strong>interrogacion,.Sinembargoexisteun pue<strong>de</strong>ySie,cuandolocorrectoserasustituirkonnenporpue<strong>de</strong>einsertaroborrar,segunelcaso, error:lasustitucionentrenosySie,yaqueSiees\usted"enaleman. Paraelpar5:000seobservan,enambossentidos,lassustitucioneserroneasentreykonneny
(por)mas<strong>de</strong>unapalabra.Enelcaso<strong>de</strong>lprimererror,hayque<strong>de</strong>cirquetambienseobservauna inuencia<strong>de</strong>lcorpus,enelsentido<strong>de</strong>quelapalabracastellana\usted"aparecemuypocasveces, <strong>de</strong>weckenes\<strong>de</strong>spertar",mientrasqueunsesel\nos"<strong>de</strong><strong>de</strong>spertarnos.Esteerrorparte<strong>de</strong>una <strong>de</strong>cienciaclara<strong>de</strong>lmo<strong>de</strong>lo,enelsentido<strong>de</strong>queunapalabranopue<strong>de</strong>sustituir(sersustituida)a ySie.Tambiensonerroneaslassustitucionesentreyyhalbymediaywecken.Latraduccion
konnenypue<strong>de</strong>.Enelsentidoinversoaparecenerroresmasgraves.Concretamente,lasesustituye Paraelalineamientoaleman-castellano<strong>de</strong>lpar8:000elunicoerrorqueseobservasonlassustitucio- porlocualelmo<strong>de</strong>lonopue<strong>de</strong>\asociarla"correctamenteaSie. nes<strong>de</strong>konntenpory<strong>de</strong>Sieporpodra.Esteesunerrorsimilaralproducidoenelpar5:000con
<strong>de</strong>lamemoriaprepararnosparasustituirloporausstellen,quenopue<strong>de</strong>esperarseaintroducir por,yfacturasesustituyeporbitte,produciendoseenconsecuencialasinserciones<strong>de</strong>diey ysea~na<strong>de</strong>enlaevaluacion<strong>de</strong>lospares<strong>de</strong>latareaMLA.Elmo<strong>de</strong>loestatan\ansioso"<strong>de</strong>sacar lafacturaenlamisma.Lasolucionaesteproblemapodrapasarpor<strong>de</strong>nirunaprobabilidad <strong>de</strong>extraccion,talcualsecomentoenlaseccionanterior. Rechnung.Estose<strong>de</strong>beauna<strong>de</strong>ciencia<strong>de</strong>lmo<strong>de</strong>lo,lacualexplicabamosparaelcasoisad<strong>de</strong>d
lainsercionoelborrado<strong>de</strong>unay<strong>de</strong>Zimmer). Losalineamientosparaelpar16:000presentanelerror<strong>de</strong>lassustitucionesentrehabitaciony Enlosalineamientosparaelpar9:000seobservansustitucioneserroneasentrereservarymochten (queconllevanlainsercionoelborrado<strong>de</strong>reservieren)yentrehabitacionyein(queconllevan
Losalineamientosparaelpar17:000presentanlossiguienteserrores:sustitucionesentreyhat, ein,lascualestraenaparejadaslainsercionoelborrado<strong>de</strong>unay<strong>de</strong>Zimmer.
palabras(enelsentidocastellano-alemansustituyedaporwegfahren). tieneydaseinsercionesyborrados,segunelcaso,<strong>de</strong>Zimmerylahabitacion. sustituirirporwegfahrenyviceversa.Elmo<strong>de</strong>lopreereinsertaroborrar(segunelcaso)estas Elunicoerrorqueseobservaenlosalineamientoscorrespondientesalpar30:000,eselhecho<strong>de</strong>no
9.5 aprendizajeutilizados,parececlaroqueelMAMOEpresentaalgunascarenciasqueconvienesubsanar. Aunquealgunos<strong>de</strong>loserroresobservadosenlosalineamientosevaluados,se<strong>de</strong>benaloscorpora<strong>de</strong> Conclusiones
Noobstante,entresusvirtu<strong>de</strong>s,merece<strong>de</strong>stacarseelhecho<strong>de</strong>queelmo<strong>de</strong>loseacapaztanto<strong>de</strong><strong>de</strong>shacer crucesenloqueseraelalineamientooptimo,como<strong>de</strong>\captar"las<strong>de</strong>pen<strong>de</strong>ncias<strong>de</strong>cortoymedioalcance

9.5.CONCLUSIONES entresmbolos.Estohacequetengamayor\potencia"queelmo<strong>de</strong>loclasicoquehemosutilizadoenel 145
resolversuslimitacionesson: resto<strong>de</strong>latesis.Lasprincipaleslneas<strong>de</strong>trabajoquenosplanteamosllevaracabo,paratratar<strong>de</strong> Las<strong>de</strong>pen<strong>de</strong>ncias<strong>de</strong>largoalcancenoseestablecena<strong>de</strong>cuadamente.Ellose<strong>de</strong>benosoloalhecho<strong>de</strong>
unmomento<strong>de</strong>terminado,ocupandodichamemoria.Enestesentido,tambienpareceimportante asacarsmbolos<strong>de</strong>lamisma,pararealizarunaovariassustituciones<strong>de</strong>altaprobabilidad.Para solucionaresteproblemaproponemos<strong>de</strong>nirunaprobabilidad<strong>de</strong>extraccion,paracadapalabra quepuedaintroducirseenlamemoria<strong>de</strong>lcanal,condicionadaalresto<strong>de</strong>palabrasqueesten,en tenerunaunicamemoria(<strong>de</strong>tama~nolimitado),sinotambienalaten<strong>de</strong>ncia<strong>de</strong>lmo<strong>de</strong>loaempezar
exten<strong>de</strong>relmo<strong>de</strong>loparaqueseacapaz<strong>de</strong>trabajarcondosmemorias:unaparalossmbolos<strong>de</strong>la frase<strong>de</strong>entradayotraparalossmbolos<strong>de</strong>lafrase<strong>de</strong>salida.Lagestion<strong>de</strong>ambasserai<strong>de</strong>ntica. sobregrupos<strong>de</strong>smbolos,enlugar<strong>de</strong>smbolosindividuales,talcomohemosconsi<strong>de</strong>radoenesta tesis[54].Estocontribuiraadotar<strong>de</strong>mayorcapacidadalmo<strong>de</strong>lo,altiempoqueresolveraalgunos Exten<strong>de</strong>relmo<strong>de</strong>loparaqueseacapaz<strong>de</strong>utilizaroperaciones(posiblemente<strong>de</strong>edicion)queactuen <strong>de</strong>losproblemasquehemosobservado,enlosexperimentosrealizadoscondatos<strong>de</strong>latarea<strong>de</strong>l Turista.

146 CAPITULO9.EXPERIMENTOSDETRADUCCION

ParteIII
ConclusionesFinalesyBibliografa
147

CAPITULO DIEZ
ConclusionesFinales
:::Justiedwithemptywords, thepartyjustgetsbetterandbetter. CatchmeifIfall,
Iwentawayalone I'mlosinghold.
withnothingleft Ican'tjustcarryonthisway:::
butfaith.
Contenidos<strong>de</strong>lCaptulo -\Faith",Faith,1981,FictionRec.- RobertSmith(TheCure)
10.2LneasFuturas<strong>de</strong>Investigacion 10.3PublicacionesRelacionadasconlaTesis 10.1Aportaciones<strong>de</strong>laTesis
terminos: 10.1 Elproblemacentralquehemosabordadoenestatesis,fueformuladoenelcaptulo2enlossiguientes Aportaciones<strong>de</strong>laTesis
uncanal,C.Lasca<strong>de</strong>nasquecontienenlosmensajesquepue<strong>de</strong>enviarE,songeneradas utilizandola<strong>de</strong>scripcion<strong>de</strong>llenguajefuente,F.SupongamosqueEenvaunmensajea \Seaunsistema,S,don<strong>de</strong>unemisor,E,envamensajesaunreceptor,R,pormedio<strong>de</strong> R,contenidoenlaca<strong>de</strong>nay,atraves<strong>de</strong>C.Sinembargo,laca<strong>de</strong>naquerecibeResla ca<strong>de</strong>nax,posiblementedistintaay.Seha<strong>de</strong>dise~narun<strong>de</strong>scodicadorDelcual,apartir <strong>de</strong>x,obtengaunaestimacion<strong>de</strong>lmensajeoriginalmenteenviado,teniendoencuentanosolo la<strong>de</strong>scripcionF(lacualesconocidaporR),sinotambienlascaractersticas<strong>de</strong>lruidoo distorsionque,posiblemente,puedaintroducirC." 149

150Vistoslosresultadosexpuestosenloscaptulos6,7y8,po<strong>de</strong>mosconsi<strong>de</strong>rarresueltoelproblema, CAPITULO10.CONCLUSIONESFINALES
<strong>de</strong>edicion(inserciones,sustitucionesyborrados).Paralograrnuestroobjetivo: odistorsionqueintroduceelcanalCsepue<strong>de</strong>,aproximadamente,representarmediantelasoperaciones asumiendoqueFsepue<strong>de</strong>representarfehacientementeporunmo<strong>de</strong>lo<strong>de</strong>estadosnitosyqueelruido
haz(veanseloscaptulos3y6).Estatecnicaresulta<strong>de</strong>vitalimportanciaalahora<strong>de</strong>conseguir tiempos<strong>de</strong>respuestaa<strong>de</strong>cuados,enmuchasaplicacionespracticas<strong>de</strong>interes. plementanDennuestrosistemaS,todoselloscompatiblesconlautilizacion<strong>de</strong>labusquedaenHemos<strong>de</strong>sarrolladoecientesalgoritmos<strong>de</strong>analisissintacticocorrector<strong>de</strong>errores,loscualesimalgoritmoExpectation-Maximization,nopue<strong>de</strong>consi<strong>de</strong>rarseensunaaportacion,puesyahasidopublicadoen[67].Noobstante,quisieramos<strong>de</strong>stacarquenuestro<strong>de</strong>sarrollofuein<strong>de</strong>pendiente,tamiento<strong>de</strong>C,enelcasoenelquenuestromo<strong>de</strong>lo<strong>de</strong>canalruidososeaestocastico.Elesquema presentadoenlaseccion4.2esunaaportacion<strong>de</strong>latesis.Elotro,basadoenlautilizacion<strong>de</strong>l Hemosplanteadodosesquemasdistintosparalaestimacion<strong>de</strong>losparametrosquerigenelcompor-
comenzandoloantes<strong>de</strong>quetuviesemosnoticia<strong>de</strong>ltrabajo<strong>de</strong>RistadyYianilos.Porotraparte, existendiferenciassignicativasentreambos<strong>de</strong>sarrollos,lascualesfueronexpuestasenlassecciones4.3y4.4.Tambienhemosplanteadosolucionesparaelsuavizado<strong>de</strong>dichosparametros,locual esunaaportacionoriginal<strong>de</strong>estatesis. Hemospresentadoexperimentosque<strong>de</strong>muestranquet<strong>ecnicas</strong>basadasenlavalidacioncruzadayel
Last<strong>ecnicas</strong><strong>de</strong>correccion<strong>de</strong>erroreshansidoconsi<strong>de</strong>radas,tradicionalmente,comopropias<strong>de</strong>lrecono- quesedisponepararealizarlasestimaciones<strong>de</strong>losparametros<strong>de</strong>C(veanseloscaptulos7y8). bootstrapping,soncapaces<strong>de</strong>obtenerunbuen\rendimiento"<strong>de</strong>los,aveces,escasosdatos<strong>de</strong>los
enelcaptulo6.Enestatesisygracias,fundamentalmente,alasherramientas<strong>de</strong>sarrolladasparala cimientosintactico<strong>de</strong>formas.Describimosunaaplicacionconcreta(reconocimientooptico<strong>de</strong>caracteres) estimacion<strong>de</strong>losparametros<strong>de</strong>C,hemos<strong>de</strong>mostrado,a<strong>de</strong>mas,suutilida<strong>de</strong>n:
Eltratamiento<strong>de</strong>llenguajenatural.Enparticular,enelproceso<strong>de</strong>\simplicacion"<strong>de</strong>llenguaje Elsuavizado<strong>de</strong>mo<strong>de</strong>los<strong>de</strong>lenguajeytraduccionbasadosenlautilizacion<strong>de</strong>mo<strong>de</strong>los<strong>de</strong>estados <strong>de</strong>scritoenelcaptulo8. nitos(veaseelcaptulo7).
que,a<strong>de</strong>mas,conllevanuncambio<strong>de</strong>or<strong>de</strong>nentrelossmbolosimplicadosenlaoperacion.Esporello aplicacionentareas<strong>de</strong>traduccionautomatica.Elmo<strong>de</strong>loMAMOEsebasaenlautilizacion<strong>de</strong>las operaciones<strong>de</strong>edicion,consi<strong>de</strong>randolosresultadosobtenidoslosucientementeprometedores,como paracontinuarinvestigandoenestalnea.Engeneral,estemetodoescapaz<strong>de</strong>consi<strong>de</strong>rarsustituciones Finalmente,hemos<strong>de</strong>sarrolladounnuevomo<strong>de</strong>loestocastico<strong>de</strong>correccion<strong>de</strong>errores,<strong>de</strong>potencial
principalmente,enestatesis. quetambienpue<strong>de</strong>resultar<strong>de</strong>utilida<strong>de</strong>nelproceso<strong>de</strong>\simplicacion"<strong>de</strong>llenguajenatural,explicado enelcaptulo8,yaqueconstituyeunmo<strong>de</strong>lo<strong>de</strong>errormaspotentequeelmo<strong>de</strong>loclasicoutilizado,
enlassiguientes:
10.2 Lasprincipaleslneas<strong>de</strong>investigacionqueseabrentraslarealizacion<strong>de</strong>estatesissepue<strong>de</strong>nresumir LneasFuturas<strong>de</strong>Investigacion

10.2.LINEASFUTURASDEINVESTIGACION Exten<strong>de</strong>rlosalgoritmos<strong>de</strong>analisissintacticocorrector<strong>de</strong>errores,presentadosenelcaptulo3, 151
clasicamenteempleados,conestetipo<strong>de</strong>gramaticas. laaproximacionpropuestaen[33],coneln<strong>de</strong>reducirlacomplejidad<strong>de</strong>losalgoritmos<strong>de</strong>analisis, paratrabajarcongramaticasincontextuales.Enestesentido,pue<strong>de</strong>resultarconvenienteemplear
arbol,realizandounapodaestrictaencadaetapa<strong>de</strong>ltrellis,coneln<strong>de</strong>seleccionarunconjunto peque~no<strong>de</strong>candidatos.Lastransiciones<strong>de</strong>error(masconcretamente,las<strong>de</strong>insercionysustitucion) <strong>de</strong>lhabla.Enestecaso,parecenecesarioutilizart<strong>ecnicas</strong><strong>de</strong>representacion<strong>de</strong>llexicoenforma<strong>de</strong> tambienconvendraadaptarlosconvenientementeparasuutilizacionenreconocimientoautomatico Dadoslosbuenosresultadosobtenidosenlosexperimentospresentadosenloscaptulos7y8,
seexpandiran,enlabusqueda,unicamentesobreesteconjunto<strong>de</strong>palabras\candidatas".Tambien
para<strong>de</strong>scribirsufuncionamiento,oincluso,incluyendonuevasoperaciones.Enestesentido,las Utilizarnuevosmo<strong>de</strong>losparaC(mas\potentes"),extendiendoelconjunto<strong>de</strong>parametrosutilizado parecenecesariorepresentar,<strong>de</strong>unaformaprecisayecaz,elconcepto<strong>de</strong>palabra<strong>de</strong>sconocida.
treslneas<strong>de</strong>investigacionquesecontemplan(aparte<strong>de</strong>lmo<strong>de</strong>loMAMOE)son: {Utilizarunpeso,porcadaestado<strong>de</strong>F,parainterpolarelvalor<strong>de</strong>lastransiciones<strong>de</strong>error
{Utilizarpesoscomplementariosque<strong>de</strong>terminenelnumero<strong>de</strong>operaciones<strong>de</strong>edicionconsecu- conel<strong>de</strong>lastransicionespropias<strong>de</strong>F.Estopue<strong>de</strong>ayudarareducirlaperplejidad<strong>de</strong>lmo<strong>de</strong>lo
tivaspermitidasenelcanal.Aesterespectoconvendratenerencuenta[54,49]. integradoentareas<strong>de</strong>suavizado<strong>de</strong>mo<strong>de</strong>los<strong>de</strong>estadosnitos(veaseelcaptulo7).
{Utilizaroperaciones<strong>de</strong>edicionqueactuensobregrupos<strong>de</strong>smbolos,enlugar<strong>de</strong>smbolos
EnloquesereerealMAMOE,lasprincipaleslneas<strong>de</strong>trabajoqueseabrenson: individuales,talcomohemosconsi<strong>de</strong>radoenestatesis[54].Estamejoratambienpodra aplicarsealmo<strong>de</strong>loMAMOE.
<strong>de</strong>smbolosquepue<strong>de</strong>naparecerjuntosenlamemoriaencadamomento.Porotraparte,cabra consi<strong>de</strong>rarlaposibilidad<strong>de</strong>evitarlaexistencia<strong>de</strong>smbolosrepetidosendichamemoria. Reducirelcostetemporal<strong>de</strong>losalgoritmosquecalculanlaprobabilidad<strong>de</strong>lalineamientoentreun estasolamentepudiese\pasar"porunosestados<strong>de</strong>terminados.Estosestados<strong>de</strong>niranelconjunto par<strong>de</strong>frases.Paraelloseraconvenienterevisarelconcepto<strong>de</strong>memoria<strong>de</strong>lcanal,permitiendoque
MAMOE.Paraellopodramosusart<strong>ecnicas</strong>similaresalasempleadasen[40]. Desarrollarunalgoritmoecienteparalabusqueda<strong>de</strong>lamejortraduccionsobreunmo<strong>de</strong>lo<strong>de</strong>
A~nadirnuevosparametrosalMAMOE,<strong>de</strong>talformaquepuedasercapaz<strong>de</strong>\captar"sustituciones estadosnitosF.Es<strong>de</strong>cir,encontrarunalgoritmoecienteparaD,utilizandolosparametros<strong>de</strong>l
traccion,paracadapalabraquepuedaintroducirseenlamemoria<strong>de</strong>lcanal,condicionadaalresto entresmbolos,cuyasposicionesrelativasenlafraseenlaqueaparecenestenmuyalejadasentre s(<strong>de</strong>pen<strong>de</strong>ncias<strong>de</strong>largoalcance).Seguramente,estopasarapor<strong>de</strong>nirunaprobabilidad<strong>de</strong>ex- <strong>de</strong>palabrasqueesten,enunmomento<strong>de</strong>terminado,ocupandodichamemoria.Enestesentido, tambienpareceimportanteexten<strong>de</strong>relmo<strong>de</strong>loparaqueseacapaz<strong>de</strong>trabajarcondosmemorias: una<strong>de</strong>entradayotra<strong>de</strong>salida.

152 10.3 PublicacionesRelacionadasconlaTesis CAPITULO10.CONCLUSIONESFINALES
cuatroa~nos<strong>de</strong>trabajo. ambitonacionaleinternacional(incluyendorevistasyuncaptulo<strong>de</strong>libro).Tambiensehanescrito diversosinformestecnicos<strong>de</strong>investigacion,evaluandolosprogresosrealizadosalolargo<strong>de</strong>estosultimos Granparte<strong>de</strong>lasi<strong>de</strong>as<strong>de</strong>sarrolladasenestatesishansidopresentadasendiversaspublicaciones<strong>de</strong>
rrolladosenlosdosprimerosa~nos[9,12]incluyendolaimplementacion<strong>de</strong>t<strong>ecnicas</strong><strong>de</strong>busquedaen haz[10].Estast<strong>ecnicas</strong>resultan<strong>de</strong>vitalimportanciaparalogrartiempos<strong>de</strong>respuestaasumibles Losalgoritmos<strong>de</strong>analisissintacticocorrector<strong>de</strong>errores,presentadosenelcaptulo3fueron<strong>de</strong>sa- enaplicacionespracticas<strong>de</strong>interes.Suimplementacionnoresultosencillaenelcasoparticular<strong>de</strong>l IEEETransactionsonPatternAnalysisandMachineIntelligence[13]. ennuestromo<strong>de</strong>loestocastico<strong>de</strong>canalruidoso,<strong>de</strong>scritaenelcaptulo4,enlaseccion4.2,fue Latecnicaparalaestimacion<strong>de</strong>losparametros,referentesainserciones,sustitucionesyborrados algoritmoEV3.Todoestetrabajoha<strong>de</strong>sembocado,recientemente,enunapublicacionenlarevista
presentadaen[11,14].Endichostrabajosseavanzaroni<strong>de</strong>asparasuutilizacionenelsuavizado
Estaultimapublicacionconstituyeunapresentacion<strong>de</strong>lcaptulo<strong>de</strong>llibroExten<strong>de</strong>dFiniteState traduccionautomaticabasadosenmo<strong>de</strong>los<strong>de</strong>estadosnitos,fueronpublicadasen[82,83,79]. <strong>de</strong>mo<strong>de</strong>los<strong>de</strong>lenguaje(captulo7)ylasimplicacion<strong>de</strong>llenguajenatural(captulo8).
Mo<strong>de</strong>lsofLanguage[80]. Laaplicacion<strong>de</strong>t<strong>ecnicas</strong><strong>de</strong>correccion<strong>de</strong>errores,paramejorarlasprestaciones<strong>de</strong>sistemas<strong>de</strong>
EnloquesereerealproyectoEuTrans,elcualpresentamosenelcaptulo7,hemosparticipado <strong>de</strong>scritaen[4].Suaplicacionenlatraduccion<strong>de</strong>frasesespontaneasexpresadasenlenguajenatural enlageneracion<strong>de</strong>loscorpora<strong>de</strong>latarea<strong>de</strong>lTurista(<strong>de</strong>scritaenesemismocaptulo)[7].La aplicacion<strong>de</strong>t<strong>ecnicas</strong><strong>de</strong>correccion<strong>de</strong>erroresenelsistema<strong>de</strong>traduccionconentradatextual,fue
laestimacion<strong>de</strong>losparametros<strong>de</strong>Cpormedio<strong>de</strong>unsistemacapaz<strong>de</strong>proporcionarlasNmejores Todavanosehapublicadonadareferentealaaplicacion<strong>de</strong>last<strong>ecnicas</strong><strong>de</strong>bootstrapping,guiando (siguiendolai<strong>de</strong>a<strong>de</strong>la\simplicacion"),sepresentoen[5].
recientemente,siendouno<strong>de</strong>losmotivosqueha<strong>de</strong>moradolaescritura<strong>de</strong>estatesis. <strong>de</strong>scodicacionesconcorreccion<strong>de</strong>errores,talcualse<strong>de</strong>scribioenelcaptulo8.Estetrabajoconcluyo (y<strong>de</strong>sarrollo)duranteelultimoa~no,aproximadamente.Solamentehemosobtenidoalgunosresultados recientemente,loscualessehanconsi<strong>de</strong>radolosucientementeprometedorescomoparaocuparunlugar ennuestratesis.Portanto,todavanosehapublicadonadaalrespecto.
Elotromotivo,elmo<strong>de</strong>loMAMOE,haocupadobuenaparte<strong>de</strong>nuestrotrabajo<strong>de</strong>investigacion

Bibliografa
[2]A.V.Aho,J.E.HopcroftyJ.D.Ullman.TheDesignandAnalysisofComputerAlgorithms. [1]A.V.Aho.AlgorithmsforFindingPatternsinStrings.EnJ.V.Leeuwen,editor,Algorithmsand Complexity,volumenA<strong>de</strong>HandbookofTheoreticalComputerScience,paginas255{300.Elsevier SciencePublishers(MITPressco-publisherforUSA,CanadaandJapan),1990.
[3]A.V.Aho,J.E.HopcroftyJ.D.Ullman.DataStructuresandAlgorithms.Addison-Wesley PublishingCompany,1983. Addison-WesleyPublishingCompany,1974.
[4]J.C.Amengual,J.M.Bened,F.Casacuberta,A.Casta~no,A.Castellanos,V.M. Jimenez,D.Llorens,A.Marzal,F.Prat,H.Rulot,E.Vidal,J.M.Vilar,C.De-
[5]J.C.Amengual,J.M.Bened,F.Casacuberta,A.Casta~no,A.Castellanos,D.Llorens, BasedUn<strong>de</strong>rstandingandTranslationSystems.First-PhaseProjectOverview.InformeTecnicoD4, EuTrans(IT-LTR-OS-20268),Septiembre1996.(restringido). logu,A.DiCarlo,H.Ney,S.Vogel,J.M.EspejoyJ.R.Freixenet.EuTrans:Example-A.Marzal,F.Prat,E.VidalyJ.M.Vilar.ErrorCorrectingParsingforText-to-textMa[6]J.C.Amengual,J.M.Bened,F.Casacuberta,A.Casta~no,A.Castellanos,D.LlochineTranslationusingFiniteStateMo<strong>de</strong>ls.EnProceedingsofthe7thInternationalConferenceon
TheoreticalandMethodologicalIssuesinMachineTranslation,paginas135{142,St.John'sCollege, rens,A.Marzal,F.Prat,E.VidalyJ.M.Vilar.UsingCategoriesintheEuTransSystem. SantaFe,NewMexico(EEUU),Julio1997.
[7]J.C.Amengual,J.M.Bened,A.Casta~no,A.Marzal,F.Prat,E.Vidal,J.M.Vilar, kenLanguageTranslationWorkshop,paginas44{53,Madrid(Espa~na),Julio1997.Associationof ComputationalLinguistics. EnS.Krauwer,D.Arnold,W.Kasper,M.RayneryH.Somers,editores,ProceedingsoftheSpo-
[8]J.C.AmengualyE.Vidal.Unaextension<strong>de</strong>lAlgoritmo<strong>de</strong>ViterbiparaelAnalisisSintactico C.Delogu,A.DiCarlo,H.NeyyS.Vogel.DenitionofaMachineTranslationTaskand GenerationofCorpora.InformeTecnicoD1,EuTrans(IT-LTR-OS-20268),Mayo1996.(restringido).
[9]J.C.AmengualyE.Vidal.FastViterbiDecodingwithErrorCorrection.EnA.Calvoy DSIC-II/3/94,Departamento<strong>de</strong>SistemasInformaticosyComputacion,UniversidadPolitecnica<strong>de</strong> Valencia,Valencia(Espa~na),1994. Corrector<strong>de</strong>Errores(ASCE)sobreGramaticasECGImedianteBusquedaenHaz.InformeTecnico
R.Medina,editores,PreprintsoftheVISpanishSymposiumonPatternRecognitionandImage Analysis,paginas218{226.Cordoba(Espa~na),Abril1995. 153

154 [10]J.C.AmengualyE.Vidal.DierentApproachesforEcientError-CorrectingViterbiParsing: BIBLIOGRAFIA
[11]J.C.AmengualyE.Vidal.Error-CorrectingTechniquesforSimplifyingSpontaneousLangua- AnExperimentalComparison.InformeTecnicoDSIC-II/32/96,Depto.<strong>de</strong>SistemasInformaticosy Computacion,UniversidadPolitecnica<strong>de</strong>Valencia,Valencia(Espa~na),1996.
[12]J.C.AmengualyE.Vidal.TwoDierentApproachesforCost-ecientViterbiParsingwith ge.EnProceedingsoftheSPINWorkshoponMultilingualSpontaneousSpeechRecognitioninReal Environments,Nancy(France),Junio1996.
[13]J.C.AmengualyE.Vidal.EcientError-CorrectingViterbiParsing.IEEETrans.onPattern SyntacticPatternRecognition,volumen1121<strong>de</strong>LNCS,paginas30{39.Springer-Verlag,1996. AnalysisandMachineIntelligence,PAMI-20(10):1109{1116,Octubre1998. ErrorCorrection.EnP.Perner,P.WangyA.Rosenfeld,editores,AdvancesinStructuraland
[15]D.AngluinyC.H.Smith.InductiveInference:TheoryandMethods.ComputingSurveys, [14]J.C.Amengual,E.VidalyJ.M.Bened.SimplifyingLanguagethroughError-CorrectingDecoding.EnProceedingsoftheICSLP96(IVInternationalConferenceonSpokenLanguageProcessing), paginas841{844,Phila<strong>de</strong>lphia,PA.(EEUU),Octubre1996.
[16]L.BahlyF.Jelinek.DecodingforChannelswithInsertions,DeletionsandSubstitutionswith ApplicationstoSpeechRecognition.IEEETrans.onInformationTheory,21(4):404{411,Julio1975. 15(3):46{62,1983.
[17]L.E.Baum.AnInequalityandAssociatedMaximizationTechniqueinStatisticalEstimationfor [18]L.E.BaumyJ.A.Eagon.AnInequalitywithApplicationstoStatisticalEstimationforProbabi- ProbabilisticFunctionsofMarkovProcesses.EnInequalities,volumen3,paginas1{8,1971.
[19]L.E.BaumyG.R.Sell.GrowthTransformationsforFunctionsonManifolds.PacicJournalof Society,73:360{363,Mayo1967. listicFunctionsofMarkovProcessesandtoaMo<strong>de</strong>lforEcology.BulletinAmericanMathematical
[20]A.L.Berger,P.F.Brown,S.A.DellaPietra,V.J.DellaPietra,J.R.Guillet,J.D. Mathematics,27(2):211{227,1968.
[21]G.Bor<strong>de</strong>l.Aprendizajeautomatico<strong>de</strong>mo<strong>de</strong>losK-ExplorablesestocasticosenReconocimiento Lafferty,R.L.Mercer,H.PrintzyL.Ures.TheCandi<strong>de</strong>SystemforMachineTranslation.
Ciencias,Universidad<strong>de</strong>lPasVasco,Leioa(Espa~na),1996. Automatico<strong>de</strong>lHabla.Tesisdoctoral,Departamento<strong>de</strong>ElectricidadyElectronica,Facultad<strong>de</strong> EnARPAHumanLanguageTechnologyWorkshop,paginas157{162,1994.
[23]P.F.Brown,J.Cocke,S.A.DellaPietra,V.J.DellaPietra,F.Jelinek,J.D.Lafferty, [22]A.Bouloutas,G.W.HartyM.Schwartz.TwoExtensionsoftheViterbiAlgorithm.IEEE R.L.MerceryP.S.Roossin.AStatisticalApproachtoMachineTranslation.Computational Trans.onInformationTheory,IT-37(2):430{436,Marzo1991.
[24]P.F.Brown,S.A.DellaPietra,V.J.DellaPietrayR.L.Mercer.TheMathematicsof Linguistics,16(2):79{85,Junio1990. StatisticalMachineTranslation:ParameterEstimation.ComputationalLinguistics,19(2):263{311, Junio1993.

BIBLIOGRAFIA [25]R.C.CarrascoyJ.Oncina.LearningStochasticRegularGrammarsbyMeansofaStateMerging 155
[26]F.Casacuberta.SomeRelationsAmongStochasticFiniteStateNetworksUsedinAutomatic Method.EnR.C.CarrascoyJ.Oncina,editores,GrammaticalInferenceandApplications,volumen 862<strong>de</strong>LNAI,paginas139{152.Springer-Verlag,1994.
[27]F.Casacuberta.GrowthTransformationsforProbabilisticFunctionsofStochasticGrammars. SpeechRecognition.IEEETrans.onPatternAnalysisandMachineIntelligence,PAMI-12(7):691{ 695,Julio1990.
[28]A.Castellanos,E.Vidal,J.OncinayM.A.Varo.LanguageUn<strong>de</strong>rstandingandSubsequentialTransducerLearning.ComputerSpeechandLanguage,1999.Pendiente<strong>de</strong>publicacion. InternationalJournalofPatternRecognitionandArticialIntelligence,10(3):183{201,1996.
[30]M.H.DeGroot.ProbabilidadyEstadstica.Addison-WesleyIberoamericana,segundaedicion, [29]C.ChirathamjareeyM.H.Ackroyd.AMethodfortheInferenceofNon-recursiveContext-free Grammars.Int.JournalMan-MachineStudies,12:379{387,1980.
[31]A.P.Dempster,N.M.LairdyD.B.Rubin.MaximumLikelihoodfromIncompleteDataviathe 1988.
[32]J.E.Daz-Ver<strong>de</strong>jo,A.M.Peinado,A.J.Rubio,E.Segarra,N.PrietoyF.Casacuber- EMAlgorithm.RoyalStatisticalSociety,39(1):1{38,1977.
[33]P.Dupont.DynamicUseofSyntacticalKnowledgeinContinuousSpeechRecognition.EnProceta.ALBAYZIN:aTask-OrientedSpanishSpeechCorpus.EnFirstInternationalConferenceon LanguageResourcesandEvaluation,paginas497{501,Granada(Espa~na),Mayo1998.
[34]P.DupontyL.Chase.UsingSymbolClusteringtoImproveProbabilisticAutomatonInference. edingsoftheEuroSpeech,paginas1959{1962.ESCA,1993.
[35]P.DupontyR.Rosenfeld.Latticebasedlanguagemo<strong>de</strong>ls.InformeTecnicoCMU-CS-97-173, 232{243.Springer-Verlag,1998. SchoolofComputerScience.CarnegieMellonUniversity,Pittsburgh,PA15213,Septiembre1997. EnV.HonavaryG.Slutzki,editores,GrammaticalInference,volumen1433<strong>de</strong>LNAI,paginas
[37]G.D.Forney.TheViterbialgorithm.ProceedingsIEEE,61:268{278,1973. [36]J.A.Feldman,G.Lakoff,A.StolckeyS.H.Weber.MiniatureLanguageAcquisition: Institute,Berkeley,California,Abril1990. Atouchstoneforcognitivescience.InformeTecnicoTR-90-009,InternationalComputerScience
[38]K.S.Fu.SyntacticPatternRecognitionandApplications.PrenticeHall,1982.
[40]I.Garca-Varea,F.CasacubertayH.Ney.AnIterativeDP-basedSearchforStatisticalMa- [39]P.GarcayE.Vidal.InferenceofK-testableLanguagesintheStrictSenseandApplicationto SyntacticPatternRecognition.IEEETrans.onPatternAnalysisandMachineIntelligence,PAMI- 12(9):920{925,Septiembre1990.
[41]E.M.Gold.LanguageI<strong>de</strong>nticationintheLimit.InformationandControl,10:447{474,1967.
chineTranslation.EnProceedingsoftheICSLP98(VInternationalConferenceonSpokenLanguage Processing),volumen4,paginas1135{1138,Sydney,Australia,Diciembre1998.

156 [42]R.C.GonzalezyM.G.Thomason.SyntacticPatternRecognition.AnIntroduction.Addison- BIBLIOGRAFIA
[43]J.Gregor.Data-DrivenInductiveInferenceofFinite-StateAutomata.InternationalJournalof Wesley,Reading,Massachusetts,1978.
[44]J.GregoryR.S.Harris.StringMatchingwithLeft-to-rightNetworks.PatternRecognition PatternRecognitionandArticialIntelligence,8(1):305{322,1994.
[45]Y.S.Han,C.R.P.HartmannyC.Chen.EcientPriority-FirstSearchMaximum-Likelihood Letters,16:213{218,Febrero1995.
[46]G.W.HartyA.Bouloutas.CorrectingDepen<strong>de</strong>ntErrorsinSequencesGeneratedbyFinite- Soft-DecisionDecodingofLinearBlockCo<strong>de</strong>s.IEEETrans.onInformationTheory,IT-39(5):1514{ StateProcesses.IEEETrans.onInformationTheory,IT-39(4):1249{1260,Julio1993. 1523,Septiembre1993.
[47]L.Hirschman.Multi-sitedatacollectionforaspokenlanguagecorpus.EnProceedingsofDARPA [48]J.E.HopcroftyJ.D.Ullman.IntroductiontoAutomataTheory,LanguagesandComputation. SpeechandNaturalLanguageWorkshop,paginas7{14,1992.
[49]X.Huang.AContextDepen<strong>de</strong>ntMethodforComparingSequences.EnM.CrochemoreyD.Gus- Addison-Wesley,Reading,Massachusetts,1979.
[50]M.J.Hunt.Evaluatingtheperformanceofconnected-wordspeechrecognitionsystems.EnProcee- Verlag,1994. dingsofthe1988InternationalConferenceonAcoustics,SpeechandSignalProcessing(ICASSP'88),eld,editores,CombinatorialPatternMatching,volumen807<strong>de</strong>LNCS,paginas54{63.Springer- [51]W.J.HutchinsyH.L.Somers.AnIntroductiontoMachineTranslation.Aca<strong>de</strong>micPress,New paginas457{460,1988.
[52]F.Jelinek.StatisticalMethodsforSpeechRecognition.Language,SpeechandCommunication. TheMITPress,1997. York,1992.
[54]J.B.KruskalyD.Sankoff.AnAnthologyofAlgorithmsandConceptsforSequenceComparison. [53]J.B.Kruskal.AnOverviewofSequenceComparison.EnD.SankoyJ.B.Kruskal,editores, TimeWarps,StringEdits,andMacromolecules:theTheoryandPracticeofSequenceComparison,
andPracticeofSequenceComparison,paginas265{310.Addison-Wesley,Reading,Massachusetts, EnD.SankoyJ.B.Kruskal,editores,TimeWarps,StringEdits,andMacromolecules:theTheory paginas1{44.Addison-Wesley,Reading,Massachusetts,1983.
[55]K.F.Lee.Large-vocabularyspeaker-in<strong>de</strong>pen<strong>de</strong>ntcontinuousspeechrecognition:TheSphinxsystem. Tesisdoctoral,CarnegieMellonUniversity,EEUU,1988. 1983.
[57]S.Lucas,E.Vidal,A.Amiri,S.HanlonyJ.C.Amengual.AComparisonofSyntactic [56]B.T.Lowerre.TheHarpySpeechRecognitionSystem.Informetecnico,Carnegie-MellonUniver- andStatisticalTechniquesforO-LineOCR.EnR.C.CarrascoyJ.Oncina,editores,Grammatical InferenceandApplications,volumen862<strong>de</strong>LNAI,paginas168{179.Springer-Verlag,1994.
sity,1976.

BIBLIOGRAFIA [58]A.Marzal.Calculo<strong>de</strong>lasKMejoresSolucionesaProblemas<strong>de</strong>ProgramacionDinamica.Te- 157
[59]R.J.McEliece.OntheBCJRTrellisforLinearBlockCo<strong>de</strong>s.IEEETrans.onInformationTheory, IT-42(4):1072{1092,Julio1996. sisdoctoral,Departamento<strong>de</strong>SistemasInformaticosyComputacion,UniversidadPolitecnica<strong>de</strong> Valencia,Valencia(Espa~na),Septiembre1993.
[61]T.K.Moon.TheExpectation-MaximizationAlgorithm.IEEESignalProcessingMagazine,paginas [60]L.Miclet.GrammaticalInference.EnH.BunkeyA.Sanfeliu,editores,SyntacticandStructural 47{60,Noviembre1996. PatternRecognitionandApplications,paginas237{290.WorldScientic,1990.
[62]J.Oncina.Aprendizaje<strong>de</strong>LenguajesRegularesyFuncionesSubsecuenciales.Tesisdoctoral,De- [63]J.Oncina,P.GarcayE.Vidal.LearningSubsequentialTransducersforPatternRecognition partamento<strong>de</strong>SistemasInformaticosyComputacion,UniversidadPolitecnica<strong>de</strong>Valencia,Valencia (Espa~na),1991.
[64]J.OncinayM.A.Varo.UsingDomainInformationDuringtheLearningofaSubsequential 1993. InterpretationTasks.IEEETrans.onPatternAnalysisandMachineIntelligence,PAMI-15:448{458,
[65]N.PrietoyE.Vidal.LearningLanguagemo<strong>de</strong>lsthroughtheECGImethod.SpeechCommunication,11:299{309,Junio1992. Transducer.EnL.MicletyC.DeLaHiguera,editores,GrammaticalInference:LearningSyntax fromSentences,volumen1147<strong>de</strong>LNAI,paginas301{312.Springer-Verlag,1996.
[67]E.S.RistadyP.N.Yianilos.LearningStringEditDistance.InformeTecnicoCS-TR-532- [66]S.J.RaudysyA.K.Jain.SmallSampleEectsinStatisticalPatternRecognition:RecomendationsforPractitionersandOpenProblems.IEEETrans.onPatternAnalysisandMachineIntelli (EEUU),1996. 96,DepartmentofComputerScience,PrincetonUniversity,35Ol<strong>de</strong>nStreet,Princeton,NJ08544 gence,PAMI-13(3):252{263,1991.
[69]D.SankoyJ.B.Kruskal,editores.TimeWarps,StringEditsandMacromolecules:TheTheory [68]H.Rulot.ECGI.Unalgoritmo<strong>de</strong>InferenciaGramaticalmediante<strong>Correcci</strong>on<strong>de</strong>Errores.Tesis andPracticeofSequenceComparison.Addison-Wesley,Reading,Massachusetts,1983. doctoral,Universidad<strong>de</strong>Valencia,Valencia(Espa~na),1992.
[70]M.G.Thomason.ErrorsinRegularLanguages.IEEETransactionsonComputers,23(6):597{602, [71]M.G.Thomason,E.GranumyR.E.Blake.ExperimentsinDynamicProgrammingInference Junio1974.
[72]R.A.Thompson.LanguageCorrectionUsingProbabilisticGrammars.IEEETransactionson 1986. ofMarkovNetworkswithStringsRepresentingSpeechData.PatternRecognition,19(5):343{351,
[73]F.Torro,E.VidalyH.Rulot.FastandAccurateSpeakerIn<strong>de</strong>pen<strong>de</strong>ntSpeechRecognition Computers,25(3):275{286,Marzo1976. UsingStructuralMo<strong>de</strong>lsLearntbytheECGI.EnL.Torres,E.MasgravyM.A.Lagunas,editores, SignalProcessingV:TheoriesandApplications,paginas1267{1270.ElsevierScience,1990.

158 [74]E.Vidal.Finite-StateSpeech-to-SpeechTranslation.EnProceedingsofthe1997International BIBLIOGRAFIA
[75]E.Vidal,F.CasacubertayP.Garca.GrammaticalInferenceandAutomaticSpeechRecog- ConferenceonAcoustics,SpeechandSignalProcessing(ICASSP'97),volumen1,paginas111{114, Munich(Germany),1997.
[76]E.Vidal,H.Rulot,J.M.ValienteyG.Andreu.Font-In<strong>de</strong>pen<strong>de</strong>ntMixed-SizeDigitRecog- Trends,paginas174{191.Springer-Verlag,1995. nitionthroughError-CorrectingGrammaticalInference(ECGI).EnProceedingsoftheInternationalnition.EnA.J.RubioyJ.M.Lopez,editores,SpeechRecognitionandCoding,NewAdvancesand[77]E.Vidal,H.Rulot,J.M.ValienteyG.Andreu.ApplicationoftheError-CorrectingGram- ConferenceonPatternRecognition(ICPR'92),paginas334{337.IEEE,1992.
[78]J.M.Vilar.Aprendizaje<strong>de</strong>TraductoresSubsecuencialesparasuempleoentareas<strong>de</strong>dominio ternationalColloquiumonGrammaticalInference(ICGI'93),paginas24/1{24/10.InstitutionofmaticalInferenceAlgorithm(ECGI)toPlanarShapeRecognition.EnProceedingsofthe1stIn Politecnica<strong>de</strong>Valencia,Valencia(Espa~na),1998. restringido.Tesisdoctoral,Departamento<strong>de</strong>SistemasInformaticosyComputacion,Universidad ElectricalEngineers(IEE),1993.
[80]J.M.Vilar,V.M.Jimenez,J.C.Amengual,A.Castellanos,D.LlorensyE.Vidal.Text [79]J.M.Vilar,V.M.Jimenez,J.C.Amengual,A.Castellanos,D.LlorensyE.Vidal.Text andSpeechTranslationbymeansofSubsequentialTransducers.NaturalLanguageEngineering, 2(4):351{354,Diciembre1996.
[81]J.M.Vilar,A.MarzalyE.Vidal.LearningLanguageTranslationinLimitedDomainsUsing UniversityPress,1998.Seanunciasupublicacionparafebrero<strong>de</strong>1999. FiniteStateMo<strong>de</strong>lsofLanguage,StudiesinNaturalLanguageProcessing,captulo12.Cambridge andSpeechTranslationbymeansofSubsequentialTransducers.EnAndrasKornai,editor,Exten<strong>de</strong>d
[82]J.M.Vilar,E.VidalyJ.C.Amengual.LearningExten<strong>de</strong>dFiniteStateMo<strong>de</strong>lsforLanguage Translation.EnA.Kornai,editor,Exten<strong>de</strong>dFiniteStateMo<strong>de</strong>lsofLanguage.Proceedingsofthe 1231{1234,Madrid(Espa~na),1995.ESCA. Finite-StateMo<strong>de</strong>ls:SomeExtensionsandImprovements.EnProceedingsoftheEuroSpeech,paginas
[83]J.M.Vilar,E.VidalyJ.C.Amengual.LearningFiniteStateMo<strong>de</strong>lsforLanguageTranslation ECAI'96Workshop,paginas92{96,BudapestUniversityofEconomicSciences,Hungra,Agosto 1996.
[84]R.A.Wagner.OntheComplexityoftheExten<strong>de</strong>dString-to-StringCorrectionProblem.En Applications.InformeTecnicoDSIC-II/37/96,Depto.<strong>de</strong>SistemasInformaticosyComputacion,
andPracticeofSequenceComparison,paginas215{235.Addison-Wesley,Reading,Massachusetts, D.SankoyJ.B.Kruskal,editores,TimeWarps,StringEdits,andMacromolecules:theTheory UniversidadPolitecnica<strong>de</strong>Valencia,Valencia(Espa~na),1996.
[85]R.A.WagneryM.J.Fischer.TheString-to-StringCorrectionProblem.JournaloftheACM, 1983.
[86]C.F.JeffWu.OntheConvergencePropertiesoftheEMAlgorithm.TheAnnalsofStatistics, 21(1):168{173,Enero1974. 11(1):95{103,1983.

ParteIV
Apendices
159

APENDICEA
Resultados<strong>de</strong>lSuavizado<strong>de</strong> TraductoresSubsecuenciales
<strong>de</strong>reducirelnumero<strong>de</strong>muestrasnecesarioparalainferencia<strong>de</strong>traductoressubsecuencialesa<strong>de</strong>cuados. Enellasseindicalatasa<strong>de</strong>errorparafrases(TEF)ylatasa<strong>de</strong>errorparapalabras(TEP),entrelas experimentosqueserealizaronconeln<strong>de</strong>evaluarelimpacto<strong>de</strong>lacorreccion<strong>de</strong>errores,alahora traduccionesobtenidasylasesperadasencadaconjunto<strong>de</strong>evaluacion.Sepue<strong>de</strong>apreciarcomolos LastablasA.1,A.2,A.3,A.4,A.5yA.6muestran,numericamente,losresultadosobtenidosenlos
resultadosparaloscuatromo<strong>de</strong>los<strong>de</strong>errorutilizados,sonmuysimilares.Precisamenteestehechofue elquemotivolautilizacion<strong>de</strong>latecnica<strong>de</strong>validacioncruzada,<strong>de</strong>scritaenlaseccion7.2,enposteriores experimentos<strong>de</strong>suavizado<strong>de</strong>mo<strong>de</strong>los<strong>de</strong>estadosnitos(veaseelcaptulo7). Conj.Apr./No.paresdif.TEFTEPTEFTEPTEFTEPTEFTEPTEFTEP Ingles(P1) 10:000=5:935 20:000=9:905 ConvencionalLevenshteinViterbi 42,7132,6740,3611,9340,1911,8640,2611,9240,6212,17 28,5120,8027,217,4627,117,4527,137,5227,097,53 EM EM+5vit.
160:000=39:735 320:000=60:421 40:000=16:170 80:000=25:611 19,0213,2518,134,6417,874,6318,074,7217,764,69
490:000=77:494 11,107,3710,572,4010,342,3710,422,4210,092,36 5,573,425,281,195,281,165,311,155,171,16 1,981,241,850,401,780,411,820,421,850,41
Realmente,lasdiferenciasenloquesereerealaTEFsonmarginales(esos,siempreafavor<strong>de</strong> TablaA.1:TEF(%)yTEP(%)obtenidaenlosexperimentoscastellano-ingles,usandoP1. 1,170,871,060,181,030,171,030,181,060,19
Levenshteinocualquierotrametricaa<strong>de</strong>cuada).Estosignicaque<strong>de</strong>beraesperarseunamayorreduccion enlaTEFyenlaTEP,cuandoutilicemosdatos<strong>de</strong>aprendizajea<strong>de</strong>cuadosparaestimarlosparametros sonbastantesuperioresalasobtenidasconASCEnoestocastico(porejemplo,utilizandodistancia<strong>de</strong> Finalmente,queremosresaltarque,normalmente,lasprestacionesqueseobtienenconASCEestocastico lacorreccion<strong>de</strong>errores).Noobstante,sexistendiferenciassustancialesenloquesereerealaTEP.
<strong>de</strong>lmo<strong>de</strong>lo<strong>de</strong>error.
161

162APENDICEA.RESULTADOSDELSUAVIZADODETRADUCTORESSUBSECUENCIALES
Conj.Apr./No.paresdif.TEFTEPTEFTEPTEFTEPTEFTEPTEFTEP Ingles(P2) 10:000=5:964 20:000=9:981 ConvencionalLevenshteinViterbi 42,4830,5140,4811,5640,2711,6040,5211,7840,4111,89 31,2722,4629,787,9330,207,9830,248,0529,828,34 EM EM+5vit.
160:000=39:747 40:000=16:207 80:000=25:665 19,1013,7017,874,2717,804,3617,914,3717,944,53 11,067,7410,372,2310,982,4811,062,489,932,33
TablaA.2:TEF(%)yTEP(%)obtenidaenlosexperimentoscastellano-ingles,usandoP2. 320:000=60:401 490:000=77:499 5,393,714,941,085,061,084,971,084,651,05 2,101,421,830,401,930,441,960,421,790,41 1,170,741,100,171,030,190,990,181,030,19
Conj.Apr./No.paresdif.TEFTEPTEFTEPTEFTEPTEFTEPTEFTEP Aleman(P1) 10:000=5:781 20:000=9:599 ConvencionalLevenshteinViterbi 47,8034,9845,3813,5544,2313,0143,9612,9644,5313,26 35,7423,7834,269,6033,718,9033,678,8534,029,22 EM EM+5vit.
160:000=38:593 40:000=15:352 80:000=24:547 25,8715,8725,326,6024,646,1124,516,1524,626,38 16,7510,2816,273,9116,323,6816,293,7815,703,78
TablaA.3:TEF(%)yTEP(%)obtenidaenlosexperimentoscastellano-aleman,usandoP1. 320:000=59:491 490:000=77:099 9,864,899,621,999,451,809,451,799,541,97 4,762,414,690,874,720,794,760,804,620,81 3,241,783,200,523,090,523,130,553,090,58
Conj.Apr./No.paresdif.TEFTEPTEFTEPTEFTEPTEFTEPTEFTEP Aleman(P2) 10:000=5:746 20:000=9:535 ConvencionalLevenshteinViterbi 48,2335,2145,4314,1644,8313,9344,9914,0645,4314,09 35,8723,4134,6710,0134,219,8234,059,8434,5310,23 EM EM+5vit.
160:000=38:656 40:000=15:425 80:000=24:580 25,9516,0625,476,6324,856,3424,856,4025,136,45 17,069,8516,434,0216,333,7416,413,8016,223,77
TablaA.4:TEF(%)yTEP(%)obtenidaenlosexperimentoscastellano-aleman,usandoP2. 320:000=59:510 490:000=77:053 9,475,179,121,789,211,849,241,799,061,85 5,012,554,710,854,780,834,740,844,540,84 3,461,233,310,603,420,553,420,563,310,57
Conj.Apr./No.paresdif.TEFTEPTEFTEPTEFTEPTEFTEPTEFTEP Italiano(P1) 10:000=5:841 20:000=9:686 ConvencionalLevenshteinViterbi 42,9433,5940,8613,4240,3213,1040,3213,1740,8413,66 31,7323,6030,149,7929,729,0329,829,2530,189,76 EM EM+5vit.
160:000=39:304 40:000=15:780 80:000=25:135 22,8315,5421,356,3521,316,0821,516,3121,716,44 17,9411,8117,074,2316,853,9417,004,0217,354,07
TablaA.5:TEF(%)yTEP(%)obtenidaenlosexperimentoscastellano-italiano,usandoP1.
320:000=60:276 490:000=77:892 11,846,0410,682,6111,292,4211,402,4411,582,47 7,993,297,321,688,091,658,091,658,121,66 7,572,656,811,387,821,357,821,367,751,36

Conj.Apr./No.paresdif.TEFTEPTEFTEPTEFTEPTEFTEPTEFTEP Italiano(P2) 10:000=5:795 20:000=9:716 ConvencionalLevenshteinViterbi 40,5430,0438,6113,3737,8012,4237,8212,5438,3713,06 31,2622,4830,149,7129,488,9529,449,1529,929,71 EM EM+5vit.
160:000=39:281 40:000=15:741 80:000=25:119 21,8314,4921,276,5520,635,9720,776,0020,816,11 13,907,9313,463,6713,383,4913,493,4813,383,55
TablaA.6:TEF(%)yTEP(%)obtenidaenlosexperimentoscastellano-italiano,usandoP2.
320:000=60:286 490:000=77:877 9,314,999,102,338,891,979,012,018,982,01 8,203,427,391,778,171,628,201,618,101,59 7,742,906,911,497,961,497,891,467,781,46
163

164APENDICEA.RESULTADOSDELSUAVIZADODETRADUCTORESSUBSECUENCIALES

APENDICEB
Ejemplos<strong>de</strong>Simpli Lenguaje cacion<strong>de</strong>l
B.1 Enesteapendice,mostramosalgunosejemplosilustrativos<strong>de</strong>lproceso<strong>de</strong>simplicacion<strong>de</strong>llenguaje Introduccion
natural,expuestoenelcaptulo8.Comorecordaraellector,dichoprocesoconsistaenconsi<strong>de</strong>rar cadafrase\compleja"<strong>de</strong>entrada,comounaversiondistorsionadaporelcanalruidosoC,<strong>de</strong>unafrase nuestromo<strong>de</strong>lo<strong>de</strong>\transmision"<strong>de</strong>mensajes(veaselaseccion2.3). pertenecienteallenguaje,L(F),<strong>de</strong>lmo<strong>de</strong>lo<strong>de</strong>estadosnitosque<strong>de</strong>scribeellenguajefuente,F,en
variabilidadsintacticaquepue<strong>de</strong>nexhibirlasfrases<strong>de</strong>entradayeldominiosemanticomo<strong>de</strong>ladoporla sintaxis<strong>de</strong>F. querepresentaneldominiosemantico(restringido)<strong>de</strong>latareaquepreten<strong>de</strong>mosabordar.Elobjetivoque sepersigueesqueseaelmo<strong>de</strong>lo<strong>de</strong>error(susparametros),losqueestablezcanlarelacionentrela Nuestromo<strong>de</strong>loFcontieneellexicorepresentativoylasconstruccionessintacticascanonicas(basicas),
seencontrounasimplicaciona<strong>de</strong>cuada(yque,portanto,po<strong>de</strong>mos,enciertaforma,consi<strong>de</strong>rarcomo y<strong>de</strong>latareaMGEO.Esteapendicepreten<strong>de</strong>completar,<strong>de</strong>algunaforma,losresultadosallmostrados, ofreciendoallectoralgunosejemplos<strong>de</strong>simplicaciones,ascomofrases<strong>de</strong>entradaparalascualesno rechazadas). Enestesentido,enelcaptulo8,presentamosexperimentosrealizadoscondatos<strong>de</strong>latarea<strong>de</strong>lTurista
<strong>de</strong>neen[53].Dadasdosfrases,una<strong>de</strong>entradaalsistema(E),xylaresultante<strong>de</strong>lproceso<strong>de</strong>analisis conseguirlassimplicacionesmostradasenlosejemplos,eselconocidocomoalineamiento,talcualse matrizcompuestapordoslas.Lalasuperiorcontienelossmbolos<strong>de</strong>x(enor<strong>de</strong>n<strong>de</strong>aparicion)con, corrector<strong>de</strong>erroresefectuadoporelmismo(S),y,<strong>de</strong>nimosunalineamientoentrexeycomouna Elformatoelegidoparamostrarelanalisis<strong>de</strong>lasoperacionesefectuadasporelmo<strong>de</strong>lo<strong>de</strong>error,para
<strong>de</strong>ycon,posiblemente,algunossmbolosnulos.A~nadiendolossmbolosnulosnecesarios,seconsigueque posiblemente,algunasposicionesocupadasporelsmbolonulo(\).Lalainferiorcontienelossmbolos ambaslastenganelmismonumero<strong>de</strong>smbolos(columnas). Unacolumna<strong>de</strong>ltipoan,indicaqueelsmboloafueinsertadoporelcanaly,portanto,seborraen 165

166 laca<strong>de</strong>na<strong>de</strong>salida.Inversamente,unacolumna<strong>de</strong>ltipona,indicaqueelsmboloafueborradoporel APENDICEB.EJEMPLOSDESIMPLIFICACIONDELLENGUAJE
ca<strong>de</strong>na<strong>de</strong>salida.Enesteultimocaso,sia=b,setrata<strong>de</strong>unaoperacion<strong>de</strong>acierto. elsmboloafuesustituidoporbporelcanaly,portanto,serealizalasustitucioninversa(bpora)enla canaly,portanto,seinsertaenlaca<strong>de</strong>na<strong>de</strong>salida.Finalmente,lascolumnas<strong>de</strong>ltipo[ba],indicanque
error(sustitucion<strong>de</strong>unsmboloporsmismo).A<strong>de</strong>mas,enelcaso<strong>de</strong>losejemplos<strong>de</strong>latarea<strong>de</strong>lTurista, hemosmostradoenlalaetiquetadacomoT,latraduccionasociadaalafrasesimplicadaobtenida. Enestecaso,lalacorrespondientealatraduccionnollevasmbolosnulosintercalados,presentandose lasoperaciones<strong>de</strong>error(inserciones,sustitucionesyborrados),paradistinguirlas<strong>de</strong>lasoperaciones<strong>de</strong>no Coneln<strong>de</strong>facilitarallectorlacomprension<strong>de</strong>losejemplos,noshemostomadolalicencia<strong>de</strong>enfatizar
simplementetalcual.
B.2.1Ejemplos<strong>de</strong>SimplicacionesCorrectas B.2 Ejemplos<strong>de</strong>laTarea<strong>de</strong>lTurista
S:\Querraqueme<strong>de</strong>spiertenalassiete<strong>de</strong>lama~nana\\\\. T:Iwouldlikeyoutowakemeupatseveninthemorning. E:Megustaraquemeavisasenalassiete<strong>de</strong>lama~nanaparair<strong>de</strong>excursion.
T:Wouldyoucallataxiforme,please? S:Lasllaves<strong>de</strong>latrescientoscuarentaysiete? S:Porfavor,>mequerranllamar\auntaxi? E:Porfavor,>seratanamable<strong>de</strong>pedirmeuntaxi?
T:Thekeystoroomnumberthreefourseven? E:>Medalatrescientoscuarentaysiete? E:>Letengoquermarenellibro<strong>de</strong>registro? E:Dejareelhotelma~nanaalasochomenoscuarto. S:>\Tengoquermar\lahoja<strong>de</strong>registro? T:ShouldIsigntheregistrationform? S:Voyamarcharmema~nanaalasochomenoscuarto.
T:Ihavema<strong>de</strong>areservationforasingleroomforFernandoCutillas. E:Mepodradarlallave<strong>de</strong>mihabitacion? E:>Me\dalallave<strong>de</strong>mihabitacion? E:Quisieraqueme<strong>de</strong>spertaranalasdiez. T:Thekeystoroomnumbernineve,please.
S:Quisieraqueme<strong>de</strong>spertaranalasdiez. T:Iwouldlikeyoutowakemeupatten.

B.3.EJEMPLOSDELATAREAMGEO B.2.2Ejemplos<strong>de</strong>SimplicacionesAproximadas 167
S:>Haraelfavor<strong>de</strong>cambiarmeaotra\habitacion\conmenosruido? E:Ruegoquemecambien<strong>de</strong>habitacion. E:Desearaquemecambiasen<strong>de</strong>habitacionporotramasgran<strong>de</strong>yconmenosruido. S:Nosgustara\cambiarnos<strong>de</strong>habitacion.
E:Voya<strong>de</strong>jarmihabitacionma~nanaaprimerahora. T:Wewouldliketochangerooms. T:Wouldyoumindmovingmetoaquieterroom? S:Voyamarcharme\\ma~nanaalauna.
T:Ima<strong>de</strong>areservationforaquiet,singleroomwithagoodview,atv,aviewofthemountain. S:Hicelareserva<strong>de</strong>unahabitacionsencillatranquilaquetengaunabuenavista,tele,vistasalamonta~na. E:Hiceunareservalasemana\pasadaindicandoquequeraunahabitacionexterior,que\diesealas T:Iamleavingtomorrowatone. monta~nas.
B.2.3Ejemplos<strong>de</strong>SimplicacionesErroneas
T:Ithinkthatthereisaprobleminthebill. S:Meparecequehayunproblemaenlacuenta. E:Megustaraque\\meprepararalacuenta.
T:Couldyougiveusthekeytomyroom? S:>Podradarnoslallave<strong>de</strong>mihabitacion? S:Hehecholareserva<strong>de</strong>unahabitacionindividualconaseohastaeldiez<strong>de</strong>agosto. E:>Podraprepararmelacuenta<strong>de</strong>mihabitacion? E:Quisierahacerunareserva<strong>de</strong>unahabitacionindividual<strong>de</strong>lcincoal\diez<strong>de</strong>agosto.
B.3 T:Ihavema<strong>de</strong>areservationforasingleroomwithabathuntilAugustthetenth.
paralarealizacion<strong>de</strong>lexperimentocuyosresultadossemuestranenelcaptulo8.Establecimosdos Elcorpus<strong>de</strong>MGEOconsta<strong>de</strong>untotal<strong>de</strong>908frases,lascualesfueronor<strong>de</strong>nadasaleatoriamente Ejemplos<strong>de</strong>laTareaMGEO
conjuntos,unoparaaprendizaje,A,compuestoporlas700primerasfrases<strong>de</strong>lcorpusbarajadoyotropara evaluacion,E,compuestoporlasultimas208frases(portanto,in<strong>de</strong>pendiente).Hicimosunaparticionen sietebloques<strong>de</strong>lmismotama~no(100frases)enA<strong>de</strong>lasiguientemanera:frases1{100paraelbloqueA1, frases101{200paraelbloqueA2,frases201{300paraelbloqueA3,:::yfrases601{700paraelbloque A7.Concadauno<strong>de</strong>lossietebloques<strong>de</strong>A,realizamoselproceso<strong>de</strong>bootstrapping<strong>de</strong>scritoendicho captulo.Acontinuacionmostramosejemplos<strong>de</strong>simplicacionesy<strong>de</strong>frasesrechazadas(nosimplicadas correctamente),tantoparaAcomoparaE.
<strong>de</strong>A.Elprimertabularsecorrespon<strong>de</strong>conejemplos<strong>de</strong>lbloqueA1,elsegundoconejemplos<strong>de</strong>lbloque B.3.1Ejemplos<strong>de</strong>Simplicaciones<strong>de</strong>lConjunto<strong>de</strong>Aprendizaje
A2,:::,elseptimoconejemplos<strong>de</strong>lbloqueA7.
Mostramostresejemplos,agrupadosenunentornotabular<strong>de</strong>LATEX,paracadauno<strong>de</strong>lossietebloques

168 S:\querosatraviesanlacomunidad<strong>de</strong>COM E:>querospasan\porCanarias? APENDICEB.EJEMPLOSDESIMPLIFICACIONDELLENGUAJE
E:\\\nombre<strong>de</strong>losrosque<strong>de</strong>sembocanenelmarMediterraneo. E:>\\cualessonlosros\conuncaudalsuperiora400m3/sy\unalongitudinferiora100km? S:cualeselnombre<strong>de</strong>losrosque<strong>de</strong>sembocanenelmarMAR\ S:cualeselnombre<strong>de</strong>losrosquetienenuncaudalmayor<strong>de</strong>NUMm3/sytienenunalongitudmenor<strong>de</strong>
S:\quecomunida<strong>de</strong>s\ba~naelmarMAR\ E:>quecomunida<strong>de</strong>sautonomasba~naelmarMediterraneo? NUMkm\
S:\enquecomunidad\naceelRIO\ E:\\\nombre<strong>de</strong>losros<strong>de</strong>\longitudmayorqueelEbro. E:>enquecomunidadautonomanaceelTuria? S:cualeselnombre<strong>de</strong>losrosconunalongitudmayorquela<strong>de</strong>lRIO
S:\queroatraviesa\mas\comunida<strong>de</strong>s\\ S:\cuantascomunida<strong>de</strong>s\ba~naelmarMAR\ E:>queroatraviesamayornumero<strong>de</strong>comunida<strong>de</strong>sautonomas?
S:\enquemar\\<strong>de</strong>sembocaelroRIO\ E:>cuantascomunida<strong>de</strong>sautonomasba~naelmarMediterraneo? E:>aquemarvaa<strong>de</strong>sembocarelroSil?
S:cualeselnombre<strong>de</strong>losrosque<strong>de</strong>sembocanenelmarMAR S:quecomunida<strong>de</strong>s\ba~nanmares\ E:dgame\losnombres<strong>de</strong>losrosque<strong>de</strong>sembocanenelMediterraneo.
S:cuales\laextension<strong>de</strong>COM\ E:\comunida<strong>de</strong>sautonomasconcosta. E:>cualeslaextension<strong>de</strong>Galicia?
S:\cuantosrosatraviesanlacomunidad<strong>de</strong>COM S:cualeselnombre<strong>de</strong>lascomunida<strong>de</strong>squeba~na\elmarMAR\ E:>cuantosrospasanporAndaluca\? E:>cuales\\sonlascomunida<strong>de</strong>sautonomasba~nadasporelmarCantabrico? E:nombres\\\<strong>de</strong>\rosque<strong>de</strong>sembocanenlacomunidadautonoma<strong>de</strong>Catalu~na. E:nombre\\\<strong>de</strong>lroquepasapormayornumero<strong>de</strong>comunida<strong>de</strong>sautonomas. S:cualeselnombre<strong>de</strong>losrosque<strong>de</strong>sembocanenlacomunidad\<strong>de</strong>COM\
S:cualeselnombre<strong>de</strong>lroquetienemaximocaudalyatraviesala\comunidad<strong>de</strong>COM E:nombrar\elcaudal<strong>de</strong>todoslosros. E:>cual\eselro\mascaudaloso\quepasaporelPasVasco\? S:cualeselcaudal<strong>de</strong>\losros\ S:cualeselnombre<strong>de</strong>lroqueatraviesa\\mas\comunida<strong>de</strong>s\\
S:cualeselnombre<strong>de</strong>lacomunidadquetienemaximaextension\ S:quecomunidad\\\\atraviesanmasros\ E:>cual\es\lacomunidadautonomaconmayorextension?
S:cualeslalongitud<strong>de</strong>lroRIO\
E:\comunidadautonomaporlaquepasenmasros. E:>\cuantomi<strong>de</strong>elroDuero?

B.3.EJEMPLOSDELATAREAMGEO B.3.2Frases<strong>de</strong>lConjunto<strong>de</strong>AprendizajenoSimplicadas 169
duranteelproceso<strong>de</strong>bootstrappingall<strong>de</strong>scrito.Acontinuacion,presentamosallectorlas26frasesque nopudieronsera<strong>de</strong>cuadamentesimplicadas,paraquepuedaexaminarlascon<strong>de</strong>tenimiento. <strong>de</strong>aprendizajeA(700entotal),paralascualesnosehabaencontradounasimplicaciona<strong>de</strong>cuada Enelcaptulo8,concretamenteenlaseccion8.5,secomentoquehabauntotal<strong>de</strong>26frases<strong>de</strong>lcorpus
dimelosrosquemuerenenlosmaresqueba~nanCatalu~na. nombreycaudal<strong>de</strong>losros<strong>de</strong>mas<strong>de</strong>100km nombreynumero<strong>de</strong>rosquenaceny<strong>de</strong>sembocanenlacomunidadValenciana. rosquenacenenunacomunidadba~nadaporelmary<strong>de</strong>sembocanenotracomunidad. nombreynumero<strong>de</strong>rosque<strong>de</strong>sembocanenlacomunidadValenciana.
obtenerelro<strong>de</strong>mayoryelro<strong>de</strong>menorcaudal. obtenerelnombre<strong>de</strong>losrosquetienenmas<strong>de</strong>200ymenos<strong>de</strong>1.000km<strong>de</strong>longitud. ros<strong>de</strong>lavertienteMediterranea. rosespa~noles<strong>de</strong>longitudcomprendidaentre100y200km. obtenerelnumerototal<strong>de</strong>rosquepasanporlacomunidadValenciana. enumeralosrosysumar<strong>de</strong><strong>de</strong>sembocadura. >querosnacenenlascomunida<strong>de</strong>sautonomasba~nadasporelmarCantabrico?
quisieraconocerquerospue<strong>de</strong>nllevarentre100y200m3/s<strong>de</strong>agua. comunida<strong>de</strong>sentre5.000y10.000km2?
quierolosrosmascaudalososqueelGuadalquivir. comunidadautonomadon<strong>de</strong>nacey<strong>de</strong>sembocaelroTuria. >enquemaryenquecomunidad<strong>de</strong>sembocaelEbro? lugardon<strong>de</strong><strong>de</strong>sembocaelJucarysucaudalmaximo. obtenerlosrosquenaceny<strong>de</strong>sembocanencomunida<strong>de</strong>sautonomasdistintasyquesdanalmar.
longitud<strong>de</strong>lrocuyocaudalesteentre100y200m3/s. nombre<strong>de</strong>lacomunida<strong>de</strong>nlacualnaceelGuadianaynombre<strong>de</strong>lacomunida<strong>de</strong>nlaque<strong>de</strong>semboca. <strong>de</strong>losrosque<strong>de</strong>sembocanenelMediterraneo,>cualesel<strong>de</strong>mayorcaudal? >querostienenunalongitu<strong>de</strong>ntre100y200km? nombres<strong>de</strong>comunida<strong>de</strong>sautonomascuyaextensionseencuentraentre2.000y5.000km2.
>cuantosrossobrepasanlos200kmenCastillaLaMancha? >enquecomunida<strong>de</strong>snacey<strong>de</strong>sembocaelroEbro?
B.3.3Ejemplos<strong>de</strong>Simplicaciones<strong>de</strong>lConjunto<strong>de</strong>Evaluacion
mejoresresultadosofreca(engeneral),es<strong>de</strong>cirelmo<strong>de</strong>loF2-EMP+5V(veaseelcaptulo8).
<strong>de</strong>evaluacionE(compuestopor208frases).Estassimplicacioneshansidorealizadasporelmo<strong>de</strong>loque Acontinuacionpresentamosdiezejemplos<strong>de</strong>simplicaciones,correspondientesafrases<strong>de</strong>lconjunto

170 E:damelos\nombres<strong>de</strong>losrosquepasanporLaRioja? S:cualeselnombre<strong>de</strong>losrosqueatraviesan\COM\ APENDICEB.EJEMPLOSDESIMPLIFICACIONDELLENGUAJE
S:cualeselnombre<strong>de</strong>lacomunidadquetienemaximaextension\ E:>cual\es\lacomunidadautonoma<strong>de</strong>mayorextension?
S:cuales\elcaudal<strong>de</strong>lroRIO\ E:\\\\\mardon<strong>de</strong><strong>de</strong>sembocaelroPisuerga. E:>cualeselcaudal<strong>de</strong>lroSil? E:\\\caudal<strong>de</strong>lro<strong>de</strong>mayorlongitud. S:cualeselcaudal<strong>de</strong>lroconmaximalongitud\ S:cualeselnombre<strong>de</strong>lmarque<strong>de</strong>sembocaelroRIO\
S:cualeselnombre<strong>de</strong>losrosquetienencaudalmayorqueel<strong>de</strong>lroRIO\ S:\cuantosros<strong>de</strong>sembocanenelMAR\ E:nombre\\\<strong>de</strong>losros\cuyocaudalsupere\el<strong>de</strong>lroTajo. E:>cuantosros<strong>de</strong>sembocanenelMediterraneo? E:>cual\eselro\mascaudaloso\\<strong>de</strong>lacomunidadcatalana?
S:\cuantosrosnacenenlacomunidad\<strong>de</strong>COM\ S:\\quecomunida<strong>de</strong>s\atraviesaelroRIO\ E:>porquecomunida<strong>de</strong>sautonomaspasaelroEbro? E:>cuantosroshayenlacomunidadautonoma<strong>de</strong>CastillaLeon? S:cualeselnombre<strong>de</strong>lroqueconmaximocaudalnaceenlacomunidad<strong>de</strong>COM
B.3.4Frases<strong>de</strong>lConjunto<strong>de</strong>EvaluacionnoSimplicadas
nuevefrasesquefueronsistematicamenterechazadas,es<strong>de</strong>cir,noa<strong>de</strong>cuadamentesimplicadas,portodos Lasfrases<strong>de</strong>Equenofueronnalmentesimplicadasvaran<strong>de</strong>unmo<strong>de</strong>loaotro.Estassonlasunicas ochodiferentesmo<strong>de</strong>los.Consi<strong>de</strong>randolas50solucionespedidasal<strong>de</strong>scodicador,elmo<strong>de</strong>loquemenos frasessimplico<strong>de</strong>jo23sinsimplicar,mientrasquelosquemassimplicaron<strong>de</strong>jaron14sinsimplicar. Talcomoseexplicoenelcaptulo8,sehicieronpruebasconelconjunto<strong>de</strong>evaluacion,E,utilizando
losmo<strong>de</strong>losutilizados. >cual<strong>de</strong>losrosque<strong>de</strong>sembocanenelmarMediterraneoeselmascaudaloso? >cualeselnombre<strong>de</strong>lmarMediterraneo? >cualeselnombreylaextension<strong>de</strong>lamayorcomunidadautonoma? >cualeselrogallegomaslargo? comunida<strong>de</strong>sautonomasymaresdon<strong>de</strong><strong>de</strong>sembocanros. maryautonomadon<strong>de</strong><strong>de</strong>sembocaelTuria.
>cualeslaextensionmnima<strong>de</strong>unacomunidadautonoma? comunida<strong>de</strong>sautonomasquesonnacimiento<strong>de</strong>almenosunro. >queextensiontienenlascomunida<strong>de</strong>s<strong>de</strong>MadridyValencia?

APENDICEC
Ejemplos<strong>de</strong>Alineamientos ObtenidosconelMAMOE
C.1 tareaMLAy<strong>de</strong>latarea<strong>de</strong>lTurista,talcomocomentamosenelcaptulo9. Paraintentarevaluarelfuncionamiento<strong>de</strong>lMAMOE,hemosrealizadoexperimentoscondatos<strong>de</strong>la Introduccion
hemosutilizadolosseispares<strong>de</strong>frasesexpuestosenelcaptulo9.Deestosseispares,dosa~na<strong>de</strong>nun objetoalaescena,doseliminanunobjeto<strong>de</strong>laescena(estoscuatroutilizanlavozpasiva)ylosdos ultimosselimitana<strong>de</strong>scribirunaescena. Enelcaso<strong>de</strong>latareaMLA,don<strong>de</strong>vamosaevaluaralineamientoscastellano-ingleseingles-castellano,
(veaseelcaptulo9). castellano,castellano-alemanyaleman-castellano,hemoselegidolospares<strong>de</strong>frasesqueseencontrabanen ciertasposiciones,previamente<strong>de</strong>terminadas,<strong>de</strong>ntro<strong>de</strong>loscorrespondientesconjuntos<strong>de</strong>entrenamiento Enelcaso<strong>de</strong>latarea<strong>de</strong>lTurista,don<strong>de</strong>vamosaevaluaralineamientoscastellano-ingles,ingles-
realizadasporelcanalC(enor<strong>de</strong>n),sinotambienlaevolucion(eneltiempo)<strong>de</strong>laentrada,<strong>de</strong>lasalida y<strong>de</strong>lamemoria<strong>de</strong>lcanal.Elobjetivoquehemosperseguidoesque,<strong>de</strong>estaforma,ellectorpueda tenertodalainformaciondisponibleparajuzgarporsmismolacalidad<strong>de</strong>losalineamientosmaximo exponeen[53](utilizadoenelcaptulo5).Enesteformatosemuestrannosololassucesivasoperaciones Elformatoquehemosutilizadoparamostrarlosejemplosessimilaralconcepto<strong>de</strong>listado,talcomose
verosmilesobtenidos.Acontinuacionmostramosunsencilloejemploilustrativo<strong>de</strong>esteformato.Eneste sersustituidos. ejemplo,vemoscomolostressmbolosimplicadosseintroducenenlamemoria<strong>de</strong>lcanal,yaquevana
habitacion individual EntradaSalida una a fhabitacion,individualgintroducirenmemoria\individual" fhabitaciong Memoria funag ; introducirenmemoria\una" sustituir\una"por\a" introducirenmemoria\habitacion" Operacion
single room fhabitaciong ; 171
sustituir\individual"por\single" sustituir\habitacion"por\room"

172 C.2 Ejemplos<strong>de</strong>laTareaMLA APENDICEC.EJEMPLOSDEALINEAMIENTOSOBTENIDOSCONELMAMOE
Salida: Entrada:sea~na<strong>de</strong>untriangulooscuro<strong>de</strong>bajo<strong>de</strong>ltrianguloy<strong>de</strong>lcrculooscuro adarktriangleisad<strong>de</strong>dbelowthetriangleandthedarkcircle
EntradaSalida a~na<strong>de</strong> un se a fa~na<strong>de</strong>,ung Memoria fa~na<strong>de</strong>g ; borrar\se" introducirenmemoria\a~na<strong>de</strong>" sustituir\un"por\a" introducirenmemoria\un" Operacion
triangulo oscuro dark fa~na<strong>de</strong>,triangulo,oscurogintroducirenmemoria\oscuro" fa~na<strong>de</strong>,triangulog introducirenmemoria\triangulo"
<strong>de</strong>bajo triangle ad<strong>de</strong>d is f<strong>de</strong>bajog fa~na<strong>de</strong>g ; sustituir\oscuro"por\dark" sustituir\triangulo"por\triangle" sustituir\a~na<strong>de</strong>"por\is" insertar\ad<strong>de</strong>d"
triangulo <strong>de</strong>l below the f<strong>de</strong>lg ; introducirenmemoria\<strong>de</strong>bajo" sustituir\<strong>de</strong>bajo"por\below"
y triangle ftriangulog fyg ; introducirenmemoria\<strong>de</strong>l" sustituir\<strong>de</strong>l"por\the" introducirenmemoria\triangulo" sustituir\triangulo"por\triangle"
crculo <strong>de</strong>l and f<strong>de</strong>lg ; introducirenmemoria\y"
oscuro the fcrculog ; sustituir\y"por\and" introducirenmemoria\<strong>de</strong>l"
circle dark fcrculo,oscurog fcrculog ; sustituir\<strong>de</strong>l"por\the" introducirenmemoria\crculo" introducirenmemoria\oscuro" sustituir\oscuro"por\dark" sustituir\crculo"por\circle"

C.2.EJEMPLOSDELATAREAMLA 173
Entrada:adarktriangleisad<strong>de</strong>dbelowthetriangleandthedarkcircle
Salida: sea~na<strong>de</strong>untriangulooscuro<strong>de</strong>bajo<strong>de</strong>ltrianguloy<strong>de</strong>lcrculooscuro
Entrada a Salida a~na<strong>de</strong> un se Memoria fag ; introducirenmemoria\a" sustituir\a"por\un" insertar\a~na<strong>de</strong>" insertar\se" Operacion
triangle dark triangulofdark,trianglegintroducirenmemoria\triangle" fdarkg introducirenmemoria\dark"
ad<strong>de</strong>d below is oscuro fbelowg ; introducirenmemoria\below" sustituir\dark"por\oscuro" borrar\is" borrar\ad<strong>de</strong>d" sustituir\triangle"por\triangulo"
triangle the <strong>de</strong>bajo <strong>de</strong>l ftheg ; sustituir\below"por\<strong>de</strong>bajo"
and triangulo ftriangleg ; introducirenmemoria\the" sustituir\the"por\<strong>de</strong>l"
the y fandg ; introducirenmemoria\and" sustituir\and"por\y" introducirenmemoria\triangle"
<strong>de</strong>l ftheg ; introducirenmemoria\the" sustituir\the"por\<strong>de</strong>l" sustituir\triangle"por\triangulo"
circle dark crculo oscuro fdark,circleg fdarkg ; introducirenmemoria\dark" introducirenmemoria\circle" sustituir\circle"por\crculo" sustituir\dark"por\oscuro"

174 APENDICEC.EJEMPLOSDEALINEAMIENTOSOBTENIDOSCONELMAMOE
Entrada:sea~na<strong>de</strong>untriangulopeque~noyoscuromuyporencima<strong>de</strong>lcrculoclaro
Salida: asmalldarktriangleisad<strong>de</strong>dfarabovethelightcircle
EntradaSalida a~na<strong>de</strong> un se a fa~na<strong>de</strong>,ung Memoria fa~na<strong>de</strong>g ; borrar\se" introducirenmemoria\a~na<strong>de</strong>" introducirenmemoria\un" sustituir\un"por\a" Operacion
triangulo peque~no oscuro y small fa~na<strong>de</strong>,triangulo,peque~nogintroducirenmemoria\peque~no" fa~na<strong>de</strong>,triangulo,oscurog fa~na<strong>de</strong>,triangulog introducirenmemoria\oscuro" sustituir\peque~no"por\small" borrar\y" introducirenmemoria\triangulo"
muy triangle dark is fa~na<strong>de</strong>,triangulog fa~na<strong>de</strong>g fmuyg ; sustituir\oscuro"por\dark" sustituir\triangulo"por\triangle" sustituir\a~na<strong>de</strong>"por\is"
encima por ad<strong>de</strong>d far fencimag fporg ; introducirenmemoria\muy" sustituir\muy"por\ad<strong>de</strong>d" introducirenmemoria\por" sustituir\por"por\far"
crculo <strong>de</strong>l above f<strong>de</strong>lg ; introducirenmemoria\encima"
claro the fcrculog ; sustituir\encima"por\above" introducirenmemoria\<strong>de</strong>l"
circle light fcrculo,clarog fcrculog ; sustituir\<strong>de</strong>l"por\the" introducirenmemoria\crculo" introducirenmemoria\claro" sustituir\claro"por\light" sustituir\crculo"por\circle"

C.2.EJEMPLOSDELATAREAMLA 175
Entrada:asmalldarktriangleisad<strong>de</strong>dfarabovethelightcircle
Salida: sea~na<strong>de</strong>untriangulopeque~noyoscuromuyporencima<strong>de</strong>lcrculoclaro
Entrada a Salida a~na<strong>de</strong> un se Memoria fag ; introducirenmemoria\a" sustituir\a"por\un" insertar\a~na<strong>de</strong>" insertar\se" Operacion
triangle small dark triangulo peque~nofsmall,dark,trianglegintroducirenmemoria\triangle" fsmall,darkg fsmallg sustituir\triangle"por\triangulo" introducirenmemoria\small"
y fdarkg sustituir\small"por\peque~no" introducirenmemoria\dark"
ad<strong>de</strong>d is oscuro fad<strong>de</strong>dg ; sustituir\dark"por\oscuro" insertar\y" borrar\is"
above far muy ffarg ; introducirenmemoria\ad<strong>de</strong>d"
encima por faboveg ; sustituir\ad<strong>de</strong>d"por\muy" introducirenmemoria\far" sustituir\far"por\por" introducirenmemoria\above"
circle light the <strong>de</strong>l flight,circleg flightg ftheg ; introducirenmemoria\the" sustituir\the"por\<strong>de</strong>l" introducirenmemoria\light" introducirenmemoria\circle" sustituir\above"por\encima"
crculo claro flightg ; sustituir\circle"por\crculo" sustituir\light"por\claro"

176 APENDICEC.EJEMPLOSDEALINEAMIENTOSOBTENIDOSCONELMAMOE
Entrada:seeliminaeltriangulopeque~noqueesta<strong>de</strong>bajo<strong>de</strong>lcrculomediano
Salida: thesmalltrianglewhichisbelowthemediumcircleisremoved
EntradaSalida elimina se el the feliminag Memoria felg ; borrar\se" introducirenmemoria\elimina" sustituir\elimina"por\the" introducirenmemoria\el" Operacion
triangulo peque~no triangle which small fel,triangulo,peque~nogintroducirenmemoria\peque~no" fel,triangulog felg ; introducirenmemoria\triangulo" sustituir\peque~no"por\small" sustituir\triangulo"por\triangle"
<strong>de</strong>bajo esta que fque,estag fqueg sustituir\el"por\which"
below is fque,<strong>de</strong>bajog fqueg introducirenmemoria\que" introducirenmemoria\esta" sustituir\esta"por\is" introducirenmemoria\<strong>de</strong>bajo"
mediano crculo <strong>de</strong>l the fque,<strong>de</strong>lg fqueg sustituir\<strong>de</strong>bajo"por\below"
mediumfque,crculo,medianogintroducirenmemoria\mediano" fque,crculog introducirenmemoria\<strong>de</strong>l" sustituir\<strong>de</strong>l"por\the" introducirenmemoria\crculo"
removed circle is fqueg ; sustituir\mediano"por\medium" sustituir\crculo"por\circle" insertar\is" sustituir\que"por\removed"

C.2.EJEMPLOSDELATAREAMLA 177
Entrada:thesmalltrianglewhichisbelowthemediumcircleisremoved
Salida: seeliminaeltriangulopeque~noqueesta<strong>de</strong>bajo<strong>de</strong>lcrculomediano
Entrada the elimina Salida se el Memoria ftheg ; insertar\se" introducirenmemoria\the" sustituir\the"por\elimina" insertar\el" Operacion
triangle which small triangulo peque~no fsmall,trianglegintroducirenmemoria\triangle" fwhichg fsmallg ; introducirenmemoria\small" sustituir\triangle"por\triangulo" sustituir\small"por\peque~no"
below is esta que fbelowg fisg ; introducirenmemoria\which" sustituir\which"por\que" introducirenmemoria\is" sustituir\is"por\esta"
medium the <strong>de</strong>bajo ftheg ; introducirenmemoria\below"
circle <strong>de</strong>l ; sustituir\below"por\<strong>de</strong>bajo"
crculo fmedium,circlegintroducirenmemoria\circle" fmediumg introducirenmemoria\the" sustituir\the"por\<strong>de</strong>l" introducirenmemoria\medium"
removed is mediano ; sustituir\circle"por\crculo" sustituir\medium"por\mediano" borrar\is" borrar\removed"

178 APENDICEC.EJEMPLOSDEALINEAMIENTOSOBTENIDOSCONELMAMOE
Entrada:seeliminaelcuadradoqueesta<strong>de</strong>bajo<strong>de</strong>lcuadradogran<strong>de</strong>yoscuro
Salida: thesquarewhichisbelowthelargedarksquareisremoved
EntradaSalida elimina se el the feliminag Memoria felg ; borrar\se" introducirenmemoria\elimina" sustituir\elimina"por\the" introducirenmemoria\el" Operacion
cuadrado square which fel,cuadradog felg ; introducirenmemoria\cuadrado" sustituir\cuadrado"por\square"
<strong>de</strong>bajo esta que fque,estag fqueg sustituir\el"por\which"
below is fque,<strong>de</strong>bajog fqueg introducirenmemoria\<strong>de</strong>bajo" introducirenmemoria\que" introducirenmemoria\esta" sustituir\esta"por\is"
cuadrado gran<strong>de</strong> <strong>de</strong>l the fque,cuadradog fque,<strong>de</strong>lg fqueg sustituir\<strong>de</strong>bajo"por\below" introducirenmemoria\<strong>de</strong>l"
oscuro y fque,cuadrado,gran<strong>de</strong>g sustituir\<strong>de</strong>l"por\the"
large fque,cuadrado,gran<strong>de</strong>,oscurogintroducirenmemoria\oscuro" fque,cuadrado,gran<strong>de</strong>g fque,cuadrado,oscurog introducirenmemoria\cuadrado" introducirenmemoria\gran<strong>de</strong>" borrar\y"
removed square dark is fque,cuadradog fqueg ; sustituir\gran<strong>de</strong>"por\large" sustituir\oscuro"por\dark" sustituir\cuadrado"por\square" insertar\is" sustituir\que"por\removed"

C.2.EJEMPLOSDELATAREAMLA 179
Entrada:thesquarewhichisbelowthelargedarksquareisremoved
Salida: seeliminaelcuadradoqueesta<strong>de</strong>bajo<strong>de</strong>lcuadradogran<strong>de</strong>yoscuro
Entrada the elimina Salida se el Memoria ftheg ; introducirenmemoria\the" sustituir\the"por\elimina" insertar\el" insertar\se" Operacion
square which is cuadrado que fsquareg fwhichg ; sustituir\which"por\que" introducirenmemoria\which" introducirenmemoria\square"
esta fisg ; introducirenmemoria\is" sustituir\square"por\cuadrado"
below fbelowg sustituir\is"por\esta"
large the <strong>de</strong>bajo <strong>de</strong>l flargeg ftheg ; introducirenmemoria\below" sustituir\below"por\<strong>de</strong>bajo" introducirenmemoria\the" sustituir\the"por\<strong>de</strong>l"
removed square dark is flarge,dark,squaregintroducirenmemoria\square" flarge,dark,squaregborrar\is" flarge,darkg introducirenmemoria\large"
cuadradoflarge,dark,squaregborrar\removed" flarge,darkg introducirenmemoria\dark"
gran<strong>de</strong> oscuro y fdarkg ; sustituir\square"por\cuadrado" sustituir\large"por\gran<strong>de</strong>" sustituir\dark"por\oscuro"
insertar\y"

180 APENDICEC.EJEMPLOSDEALINEAMIENTOSOBTENIDOSCONELMAMOE
Entrada:uncrculooscurotocaauncrculoyuncrculomedianoyclaro
Salida: adarkcircletouchesacircleandamediumlightcircle
EntradaSalida crculo oscuro un a fcrculo,oscurog fcrculog Memoria fung ; introducirenmemoria\un" sustituir\un"por\a" introducirenmemoria\crculo" introducirenmemoria\oscuro" Operacion
toca touches circle dark fcrculog ftocag ; sustituir\oscuro"por\dark" sustituir\crculo"por\circle" introducirenmemoria\toca"
crculo un a a fcrculog fung ; borrar\a" introducirenmemoria\un" sustituir\un"por\a" introducirenmemoria\crculo" sustituir\toca"por\touches"
y circle and fyg ; sustituir\crculo"por\circle" introducirenmemoria\y"
mediano crculo un a fcrculog fung ; sustituir\y"por\and" introducirenmemoria\un"
claro y fcrculo,medianog sustituir\un"por\a"
mediumfcrculo,mediano,clarogintroducirenmemoria\claro" fcrculo,medianog introducirenmemoria\crculo" introducirenmemoria\mediano"
circle light fcrculo,clarog fcrculog ; borrar\y" sustituir\claro"por\light" sustituir\crculo"por\circle"
sustituir\mediano"por\medium"

C.2.EJEMPLOSDELATAREAMLA 181
Entrada:adarkcircletouchesacircleandamediumlightcircle
Salida: uncrculooscurotocaauncrculoyuncrculomedianoyclaro
Entrada circle dark a Salida un fdark,circleg Memoria fdarkg fag ; introducirenmemoria\a" sustituir\a"por\un" introducirenmemoria\dark" introducirenmemoria\circle" Operacion
touches crculo oscuro toca ftouchesg fdarkg ; sustituir\circle"por\crculo" sustituir\dark"por\oscuro" introducirenmemoria\touches"
circle a un a fag ; sustituir\touches"por\toca" insertar\a"
and crculo fcircleg fandg ; introducirenmemoria\a" sustituir\a"por\un" introducirenmemoria\circle" sustituir\circle"por\crculo"
medium a un y fag ; introducirenmemoria\and" sustituir\and"por\y"
circle light fmedium,lightg fmediumg introducirenmemoria\a" sustituir\a"por\un"
mediano crculo fmedium,light,circlegintroducirenmemoria\circle" fmedium,lightg introducirenmemoria\medium" introducirenmemoria\light"
claro y flightg ; sustituir\circle"por\crculo" sustituir\medium"por\mediano" insertar\y" sustituir\light"por\claro"

182 APENDICEC.EJEMPLOSDEALINEAMIENTOSOBTENIDOSCONELMAMOE
Entrada:uncrculopeque~noestamuyala<strong>de</strong>recha<strong>de</strong>uncuadradooscuro
Salida: asmallcircleisfartotherightofadarksquare
EntradaSalida peque~no crculo un a fcrculo,peque~nogintroducirenmemoria\peque~no" fcrculog Memoria fung ; introducirenmemoria\un" sustituir\un"por\a" introducirenmemoria\crculo" Operacion
muy esta circle small is fcrculog festag ; sustituir\peque~no"por\small" sustituir\crculo"por\circle"
a far fmuyg fag ; introducirenmemoria\esta" sustituir\esta"por\is" introducirenmemoria\muy" sustituir\muy"por\far"
<strong>de</strong>recha la the to flag ; introducirenmemoria\a" sustituir\a"por\to"
<strong>de</strong> right f<strong>de</strong>rechag ; introducirenmemoria\<strong>de</strong>recha" sustituir\<strong>de</strong>recha"por\right" introducirenmemoria\la"
of f<strong>de</strong>g ; introducirenmemoria\<strong>de</strong>" sustituir\<strong>de</strong>"por\of" sustituir\la"por\the"
cuadrado oscuro un a fcuadradog fung ; introducirenmemoria\cuadrado" introducirenmemoria\un"
square dark fcuadrado,oscurogintroducirenmemoria\oscuro" fcuadradog ; sustituir\oscuro"por\dark" sustituir\un"por\a" sustituir\cuadrado"por\square"

C.2.EJEMPLOSDELATAREAMLA 183
Entrada:asmallcircleisfartotherightofadarksquare
Salida: uncrculopeque~noestamuyala<strong>de</strong>recha<strong>de</strong>uncuadradooscuro
Entrada small circle a Salida un fsmall,circlegintroducirenmemoria\circle" Memoria fsmallg fag ; introducirenmemoria\a" sustituir\a"por\un" introducirenmemoria\small" Operacion
far is peque~no crculo esta fsmallg fisg ; sustituir\circle"por\crculo" sustituir\small"por\peque~no"
to muy ffarg ftog ; introducirenmemoria\is" sustituir\is"por\esta" introducirenmemoria\far" sustituir\far"por\muy"
right the la a ftheg ; introducirenmemoria\to" sustituir\to"por\a"
of <strong>de</strong>recha frightg introducirenmemoria\the"
<strong>de</strong> fofg ; sustituir\the"por\la" introducirenmemoria\right" sustituir\right"por\<strong>de</strong>recha" introducirenmemoria\of"
square dark a un fag ; sustituir\of"por\<strong>de</strong>"
cuadrado fdarkg introducirenmemoria\a"
oscuro fdark,squaregintroducirenmemoria\square" fdarkg ; sustituir\a"por\un" introducirenmemoria\dark" sustituir\square"por\cuadrado" sustituir\dark"por\oscuro"

184 C.3 Ejemplos<strong>de</strong>laTarea<strong>de</strong>lTurista:Castellano-InglesyVice- APENDICEC.EJEMPLOSDEALINEAMIENTOSOBTENIDOSCONELMAMOE
Parnumero500 versa
EntradaSalida: Entrada:<strong>de</strong>seoquenos<strong>de</strong>spiertenma~nanaalauna.
<strong>de</strong>seo SalidaIwantyoutowakeusuptomorrowatone. que want I Memoria f<strong>de</strong>seog fqueg ; sustituir\<strong>de</strong>seo"por\I" sustituir\que"por\want" introducirenmemoria\<strong>de</strong>seo" introducirenmemoria\que" Operacion
<strong>de</strong>spierten nos you to fnosg ; introducirenmemoria\nos" sustituir\nos"por\you"
ma~nana wake us f<strong>de</strong>spiertengintroducirenmemoria\<strong>de</strong>spierten" ; insertar\to"
a up fma~nana,agintroducirenmemoria\a" fma~nanag sustituir\<strong>de</strong>spierten"por\wake" insertar\us" introducirenmemoria\ma~nana"
una la tomorrow at flag ; sustituir\a"por\up" sustituir\ma~nana"por\tomorrow"
. one funag introducirenmemoria\la"
. f.g ; sustituir\la"por\at" introducirenmemoria\una" sustituir\una"por\one" introducirenmemoria\."
Salida: Entrada:Iwantyoutowakeusuptomorrowatone. <strong>de</strong>seoquenos<strong>de</strong>spiertenma~nanaalauna. sustituir\."por\."
Entrada want I Salida <strong>de</strong>seo que Memoria fwantg fIg ; introducirenmemoria\I" sustituir\I"por\<strong>de</strong>seo" introducirenmemoria\want" sustituir\want"por\que" Operacion
wake you to nos fwakeg fyoug ; introducirenmemoria\you" sustituir\you"por\nos" borrar\to"
tomorrow up us <strong>de</strong>spierten ; introducirenmemoria\wake"
ma~nana fup,tomorrowgintroducirenmemoria\tomorrow" fupg sustituir\wake"por\<strong>de</strong>spierten" introducirenmemoria\up" borrar\us"
one at la a fatg ; sustituir\tomorrow"por\ma~nana" sustituir\up"por\a"
. una foneg introducirenmemoria\at"
. f.g ; sustituir\at"por\la" introducirenmemoria\one" sustituir\one"por\una" introducirenmemoria\." sustituir\."por\."

C.3.EJEMPLOSDELATAREADELTURISTA:CASTELLANO-INGLESYVICEVERSA Parnumero1.000 185
Entrada:<strong>de</strong>seoreservardoshabitacionesparatresdas.
Entrada Salida: SalidaIwanttobooktworoomsforthreedays. <strong>de</strong>seo want to I Memoria f<strong>de</strong>seog ; introducirenmemoria\<strong>de</strong>seo" sustituir\<strong>de</strong>seo"por\I" insertar\want" insertar\to" Operacion
habitaciones reservar dos book two freservarg fdosg ; introducirenmemoria\reservar" sustituir\reservar"por\book"
para rooms fhabitacionesgintroducirenmemoria\habitaciones" fparag ; introducirenmemoria\dos" sustituir\dos"por\two" sustituir\habitaciones"por\rooms"
das tres three for ftresg ; introducirenmemoria\para" sustituir\para"por\for"
. days fdasg f.g ; introducirenmemoria\tres" sustituir\tres"por\three" sustituir\das"por\days" introducirenmemoria\das"
Entrada:Iwanttobooktworoomsforthreedays. . ; introducirenmemoria\." sustituir\."por\."
Entrada Salida: Salida<strong>de</strong>seoreservardoshabitacionesparatresdas. want to I <strong>de</strong>seo Memoria fIg ; introducirenmemoria\I" sustituir\I"por\<strong>de</strong>seo" borrar\want" borrar\to" Operacion
rooms book two reservar fbookg ftwog ; introducirenmemoria\book"
habitaciones dos froomsgintroducirenmemoria\rooms" ; sustituir\book"por\reservar" introducirenmemoria\two" sustituir\two"por\dos"
three for para fforg ; sustituir\rooms"por\habitaciones"
days tres fthreegintroducirenmemoria\three" ; introducirenmemoria\for" sustituir\for"por\para"
. das . fdaysg f.g ; sustituir\three"por\tres" introducirenmemoria\days" sustituir\days"por\das" introducirenmemoria\." sustituir\."por\."

186 Parnumero1.500 APENDICEC.EJEMPLOSDEALINEAMIENTOSOBTENIDOSCONELMAMOE
EntradaSalida Entrada:<strong>de</strong>searareservarunahabitacionindividualcontelevision. Salida: Iwouldliketobookasingleroomwithatv.
<strong>de</strong>seara would like I f<strong>de</strong>searag Memoria ; introducirenmemoria\<strong>de</strong>seara" sustituir\<strong>de</strong>seara"por\would" insertar\like" insertar\I" Operacion
reservar una book to a freservarg funag ; sustituir\reservar"por\book" introducirenmemoria\una" sustituir\una"por\a" introducirenmemoria\reservar" insertar\to"
habitacion individual single room fhabitacion,individualgintroducirenmemoria\individual" fhabitaciong ; introducirenmemoria\habitacion" sustituir\individual"por\single"
television con with a fcong ; sustituir\habitacion"por\room" introducirenmemoria\con"
. tv ftelevisiong f.g ; sustituir\con"por\with" introducirenmemoria\television" sustituir\television"por\tv" insertar\a"
Entrada:Iwouldliketobookasingleroomwithatv. . ; introducirenmemoria\."
Salida: <strong>de</strong>searareservarunahabitacionindividualcontelevision. sustituir\."por\."
Entrada would like I <strong>de</strong>seara Salida Memoria fIg ; introducirenmemoria\I" sustituir\I"por\<strong>de</strong>seara" borrar\would" borrar\like" Operacion
book to fbookg ; borrar\to"
single a reservar fag ; introducirenmemoria\book"
room una fsingleg ; sustituir\book"por\reservar" introducirenmemoria\a" sustituir\a"por\una"
with habitacion individual fsingle,roomgintroducirenmemoria\room" fsingleg ; introducirenmemoria\single" sustituir\room"por\habitacion"
tv a con fwithg ; sustituir\single"por\individual" introducirenmemoria\with"
. television ftvg sustituir\with"por\con"
. f.g ; borrar\a" introducirenmemoria\tv" sustituir\tv"por\television" introducirenmemoria\." sustituir\."por\."

C.3.EJEMPLOSDELATAREADELTURISTA:CASTELLANO-INGLESYVICEVERSA Parnumero2.000 187
EntradaSalida Salida: Entrada:creoquehayunproblemaenlafactura. Ithinkthatthereisaprobleminthebill.
creo que think I Memoria fcreog fqueg ; insertar\I" introducirenmemoria\creo" sustituir\creo"por\think" introducirenmemoria\que" Operacion
hay there that fhayg ; sustituir\que"por\that" introducirenmemoria\hay"
problema un is a fung ; sustituir\hay"por\there" introducirenmemoria\un"
en problem fproblemagintroducirenmemoria\problema" feng ; sustituir\un"por\is" insertar\a" sustituir\problema"por\problem"
factura la the in flag ; introducirenmemoria\en" sustituir\en"por\in"
. bill ffacturag f.g ; introducirenmemoria\la" sustituir\la"por\the" introducirenmemoria\factura" sustituir\factura"por\bill"
Entrada:Ithinkthatthereisaprobleminthebill. . ; introducirenmemoria\."
Salida: creoquehayunproblemaenlafactura. sustituir\."por\."
Entrada think that I Salida creo Memoria fthinkg fthatg ; borrar\I" introducirenmemoria\think" sustituir\think"por\creo" introducirenmemoria\that" Operacion
there hay que fthereg ; sustituir\that"por\que" introducirenmemoria\there"
problem is a un fag ; sustituir\there"por\hay" borrar\is"
in problema fproblemgintroducirenmemoria\problem" fing ; introducirenmemoria\a" sustituir\a"por\un" sustituir\problem"por\problema"
bill the en la ftheg ; introducirenmemoria\in" sustituir\in"por\en"
. factura fbillg introducirenmemoria\the"
. f.g ; sustituir\the"por\la" introducirenmemoria\bill" sustituir\bill"por\factura" introducirenmemoria\." sustituir\."por\."

188 Parnumero3.000 APENDICEC.EJEMPLOSDEALINEAMIENTOSOBTENIDOSCONELMAMOE
Entrada:tenemosreservadaunahabitacionanombre<strong>de</strong>OscarMoya. Salida: EntradaSalida wehavebookedaroomforOscarMoya.
reservada tenemos have we freservadagintroducirenmemoria\reservada" ftenemosg Memoria ; sustituir\reservada"por\have" introducirenmemoria\tenemos" sustituir\tenemos"por\we" Operacion
habitacion una booked funag ; introducirenmemoria\una"
nombre a a fhabitaciongintroducirenmemoria\habitacion" ; sustituir\una"por\booked"
<strong>de</strong> room fnombreg sustituir\habitacion"por\a"
for f<strong>de</strong>g ; introducirenmemoria\<strong>de</strong>" sustituir\<strong>de</strong>"por\for" sustituir\nombre"por\room" introducirenmemoria\nombre" borrar\a"
Oscar Moya . Oscar Moya fOscarg fMoyag ; introducirenmemoria\Oscar"
. f.g ; sustituir\Moya"por\Moya" introducirenmemoria\." sustituir\."por\." sustituir\Oscar"por\Oscar" introducirenmemoria\Moya"
Entrada:wehavebookedaroomforOscarMoya. Salida: Entradatenemosreservadaunahabitacionanombre<strong>de</strong>OscarMoya. have we reservada tenemos Salida Memoria fhaveg fweg ; introducirenmemoria\we" sustituir\we"por\tenemos" introducirenmemoria\have" sustituir\have"por\reservada" Operacion
booked una fbookedgintroducirenmemoria\booked"
room a habitacion fag ; sustituir\booked"por\una"
nombre a froomg ; introducirenmemoria\a" sustituir\a"por\habitacion" introducirenmemoria\room" insertar\a"
Oscar for <strong>de</strong> fforg ; sustituir\room"por\nombre"
Moya Oscar fOscargintroducirenmemoria\Oscar" ; introducirenmemoria\for" sustituir\for"por\<strong>de</strong>"
. Moya . fMoyag f.g ; sustituir\Oscar"por\Oscar" introducirenmemoria\Moya" sustituir\Moya"por\Moya" introducirenmemoria\." sustituir\."por\."

C.3.EJEMPLOSDELATAREADELTURISTA:CASTELLANO-INGLESYVICEVERSA Parnumero4.000Entrada:<strong>de</strong>seounahabitacioncontelevisionparaestanoche.
189
EntradaSalida <strong>de</strong>seo Salida: Iwantaroomwithatvfortonight.
una want I Memoria f<strong>de</strong>seog funag ; sustituir\una"por\want" introducirenmemoria\<strong>de</strong>seo" sustituir\<strong>de</strong>seo"por\I" introducirenmemoria\una" Operacion
habitacion room a fhabitaciongintroducirenmemoria\habitacion" fhabitacionginsertar\a"
television con with a fcong ; sustituir\habitacion"por\room" introducirenmemoria\con"
para tv ftelevisiongintroducirenmemoria\television" ; sustituir\television"por\tv" sustituir\con"por\with"
for fparag ; introducirenmemoria\para" sustituir\para"por\for" insertar\a"
noche esta . tonight fnocheg f.g ; borrar\esta" introducirenmemoria\noche" sustituir\noche"por\tonight"
Entrada:Iwantaroomwithatvfortonight. . ; introducirenmemoria\."
Salida: <strong>de</strong>seounahabitacioncontelevisionparaestanoche. sustituir\."por\."
Entrada want I Salida <strong>de</strong>seo una Memoria fwantg fIg ; introducirenmemoria\I" sustituir\I"por\<strong>de</strong>seo" introducirenmemoria\want" sustituir\want"por\una" Operacion
room with a habitacion froomg ; borrar\a" introducirenmemoria\room"
tv a con fwithg ; sustituir\room"por\habitacion"
television ftvg ; introducirenmemoria\with" sustituir\with"por\con" borrar\a" introducirenmemoria\tv"
tonight for para esta fforg ; sustituir\tv"por\television" introducirenmemoria\for"
. noche ftonightgintroducirenmemoria\tonight" ; sustituir\for"por\para"
. f.g ; insertar\esta" sustituir\tonight"por\noche" introducirenmemoria\." sustituir\."por\."

190 Parnumero5.000 APENDICEC.EJEMPLOSDEALINEAMIENTOSOBTENIDOSCONELMAMOE
EntradaEntrada:hemosreservadounahabitacionhastaelveintinueve<strong>de</strong>septiembre. Salida: SalidawehavebookedaroomuntilSeptemberthetwenty-ninth. reservado hemos have we freservadog Memoria fhemosg ; introducirenmemoria\hemos" sustituir\hemos"por\we" introducirenmemoria\reservado" sustituir\reservado"por\have" Operacion
habitacion una booked room a fhabitaciong funag ; introducirenmemoria\una" sustituir\una"por\booked" insertar\a" introducirenmemoria\habitacion"
veintinueve hasta el until fhastag felg ; sustituir\habitacion"por\room" introducirenmemoria\hasta"
septiembre <strong>de</strong> fel,veintinueveg introducirenmemoria\el" sustituir\hasta"por\until"
September fel,veintinueve,septiembregintroducirenmemoria\septiembre" fel,veintinueveg introducirenmemoria\veintinueve" borrar\<strong>de</strong>"
. twenty-ninth the fveintinueveg f.g ; sustituir\septiembre"por\September" sustituir\el"por\the" sustituir\veintinueve"por\twenty-ninth"
Entrada:wehavebookedaroomuntilSeptemberthetwenty-ninth. . ; introducirenmemoria\."
Salida: hemosreservadounahabitacionhastaelveintinueve<strong>de</strong>septiembre. sustituir\."por\."
Entrada have we reservado Salida hemos Memoria fhaveg fweg ; introducirenmemoria\we" sustituir\we"por\hemos" introducirenmemoria\have" sustituir\have"por\reservado" Operacion
booked room a habitacion una fbookedg froomg ; ; introducirenmemoria\room" sustituir\room"por\habitacion" sustituir\booked"por\una" borrar\a" introducirenmemoria\booked"
September until the hasta el fSeptember,theg fSeptemberg funtilg ; introducirenmemoria\September" introducirenmemoria\the" sustituir\the"por\el" sustituir\until"por\hasta" introducirenmemoria\until"
twenty-ninth . veintinueve septiembre <strong>de</strong> fSeptember,twenty-ninthgintroducirenmemoria\twenty-ninth"
. fSeptemberg f.g ; sustituir\twenty-ninth"por\veintinueve" sustituir\September"por\septiembre" introducirenmemoria\." sustituir\."por\."
insertar\<strong>de</strong>"

C.3.EJEMPLOSDELATAREADELTURISTA:CASTELLANO-INGLESYVICEVERSA Parnumero8.000Entrada:>podramospagarelreciboconcheques<strong>de</strong>viaje?
191
Entrada Salida: Salida couldwepaythebillbytravelercheck?
podramos > could we fpodramosgintroducirenmemoria\podramos" Memoria f>g ; sustituir\podramos"por\we" introducirenmemoria\>" sustituir\>"por\could" Operacion
recibo pagar el pay the frecibog fpagarg felg ; introducirenmemoria\pagar" sustituir\pagar"por\pay" introducirenmemoria\el" sustituir\el"por\the"
cheques con bill by fcong ; introducirenmemoria\recibo" sustituir\recibo"por\bill" introducirenmemoria\con"
viaje <strong>de</strong> traveler fchequesg ; sustituir\cheques"por\traveler" borrar\<strong>de</strong>" sustituir\con"por\by"
check fviajeg ; introducirenmemoria\viaje" sustituir\viaje"por\check" introducirenmemoria\cheques"
? Entrada:couldwepaythebillbytravelercheck? ? f?g ; introducirenmemoria\?"
Salida: >podramospagarelreciboconcheques<strong>de</strong>viaje? sustituir\?"por\?"
Entrada could we podramos Salida > Memoria fcouldg fweg ; introducirenmemoria\could" sustituir\could"por\>" introducirenmemoria\we" sustituir\we"por\podramos" Operacion
pay the bill pagar el fpayg ftheg fbillg ; introducirenmemoria\pay" sustituir\pay"por\pagar" introducirenmemoria\the" sustituir\the"por\el"
traveler by recibo con fbyg ; introducirenmemoria\bill" sustituir\bill"por\recibo" introducirenmemoria\by"
check cheques <strong>de</strong> ftravelergintroducirenmemoria\traveler" ; sustituir\by"por\con"
? viaje fcheckg f?g ; sustituir\check"por\viaje" introducirenmemoria\?" insertar\<strong>de</strong>" introducirenmemoria\check" sustituir\traveler"por\cheques"
? ; sustituir\?"por\?"

192 Parnumero9.000Entrada:subannuestrosbultosalahabitacionseisdiez.
APENDICEC.EJEMPLOSDEALINEAMIENTOSOBTENIDOSCONELMAMOE
Entrada Salida: Salidasendupourluggagetoroomnumbersixoneoh. nuestros suban send up fnuestrosg Memoria fsubang ; insertar\send" introducirenmemoria\suban" sustituir\suban"por\up" introducirenmemoria\nuestros" Operacion
bultos luggage our fbultosg ; sustituir\nuestros"por\our" introducirenmemoria\bultos"
habitacion la a to flag fag ; sustituir\bultos"por\luggage" introducirenmemoria\a"
number room fla,habitaciongintroducirenmemoria\habitacion" flag ; sustituir\a"por\to" introducirenmemoria\la" sustituir\habitacion"por\room"
diez seis one six fseisg ; sustituir\la"por\number" introducirenmemoria\seis"
. oh fdiezg f.g ; introducirenmemoria\diez" sustituir\diez"por\oh" sustituir\seis"por\six" insertar\one"
Entrada:sendupourluggagetoroomnumbersixoneoh. . ; introducirenmemoria\."
Salida: subannuestrosbultosalahabitacionseisdiez. sustituir\."por\."
Entrada send our up Salida suban Memoria fsendg fourg ; introducirenmemoria\send" sustituir\send"por\suban" borrar\up" introducirenmemoria\our" Operacion
luggage nuestros bultos fluggageg ; sustituir\our"por\nuestros" introducirenmemoria\luggage"
number room to a ftog ; sustituir\luggage"por\bultos"
la froom,numbergintroducirenmemoria\number" froomg introducirenmemoria\to" sustituir\to"por\a" introducirenmemoria\room"
one six habitacion seis fsixg ; sustituir\room"por\habitacion" sustituir\number"por\la"
oh diez fohg ; introducirenmemoria\oh" sustituir\oh"por\diez" borrar\one" sustituir\six"por\seis" introducirenmemoria\six"
. . f.g ; introducirenmemoria\." sustituir\."por\."

C.3.EJEMPLOSDELATAREADELTURISTA:CASTELLANO-INGLESYVICEVERSA Parnumero16.000 193
Salida: Entrada:hiceunareservaanombre<strong>de</strong>lse~norPe~narroja.
Entrada SalidaIma<strong>de</strong>areservationforMrPe~narroja. hice una ma<strong>de</strong> I Memoria fhiceg funag ; introducirenmemoria\hice" sustituir\hice"por\I" introducirenmemoria\una" sustituir\una"por\ma<strong>de</strong>" Operacion
nombre reserva a a freservag ; introducirenmemoria\reserva"
<strong>de</strong>l reservation fnombreg ; introducirenmemoria\nombre" sustituir\nombre"por\reservation" sustituir\reserva"por\a"
for f<strong>de</strong>lg ; introducirenmemoria\<strong>de</strong>l" sustituir\<strong>de</strong>l"por\for" borrar\a"
Pe~narroja se~nor . Pe~narroja Mr fPe~narrojagintroducirenmemoria\Pe~narroja" fse~norg ; introducirenmemoria\se~nor"
. f.g ; sustituir\se~nor"por\Mr" sustituir\Pe~narroja"por\Pe~narroja" introducirenmemoria\."
Entrada:Ima<strong>de</strong>areservationforMrPe~narroja. sustituir\."por\."
EntradaSalida: Salidahiceunareservaanombre<strong>de</strong>lse~norPe~narroja. ma<strong>de</strong> I hice una Memoria fma<strong>de</strong>g fIg ; introducirenmemoria\I" sustituir\I"por\hice" introducirenmemoria\ma<strong>de</strong>" sustituir\ma<strong>de</strong>"por\una" Operacion
reservation a reserva a fag ; introducirenmemoria\a"
for nombre freservationgintroducirenmemoria\reservation" fforg ; sustituir\a"por\reserva" sustituir\reservation"por\nombre" insertar\a"
Pe~narroja Mr se~nor <strong>de</strong>l fMrg ; introducirenmemoria\for" sustituir\for"por\<strong>de</strong>l"
. Pe~narroja fPe~narrojagintroducirenmemoria\Pe~narroja" ; introducirenmemoria\Mr"
. f.g ; sustituir\Mr"por\se~nor" sustituir\Pe~narroja"por\Pe~narroja" introducirenmemoria\." sustituir\."por\."

194 Parnumero17.000 APENDICEC.EJEMPLOSDEALINEAMIENTOSOBTENIDOSCONELMAMOE
Entrada:mellamoFernandoGumbau. Salida: mynameisFernandoGumbau.
Entrada llamo me Salida name my Memoria fllamog fmeg ; introducirenmemoria\me" sustituir\me"por\my" introducirenmemoria\llamo" sustituir\llamo"por\name" Operacion
Fernando GumbauFernando is fFernandogintroducirenmemoria\Fernando" ; insertar\is"
. Gumbau . fGumbaugintroducirenmemoria\Gumbau" f.g ; sustituir\Fernando"por\Fernando" sustituir\Gumbau"por\Gumbau" introducirenmemoria\." sustituir\."por\."
Salida: Entrada:mynameisFernandoGumbau. mellamoFernandoGumbau.
Entrada name my Salida llamo me Memoria fnameg fmyg ; introducirenmemoria\my" sustituir\my"por\me" introducirenmemoria\name" sustituir\name"por\llamo" Operacion
Fernando Gumbau is Fernando fFernandogintroducirenmemoria\Fernando" ; borrar\is"
. Gumbau . fGumbaugintroducirenmemoria\Gumbau" f.g ; sustituir\Fernando"por\Fernando" sustituir\Gumbau"por\Gumbau" introducirenmemoria\." sustituir\."por\."

C.3.EJEMPLOSDELATAREADELTURISTA:CASTELLANO-INGLESYVICEVERSA Parnumero32.000 195
Entrada:reserveunahabitacionanombre<strong>de</strong>AliciaVazquez.
Entrada Salida: Salida IbookedaroomforAliciaVazquez.
reserve una booked I freserveg Memoria funag ; sustituir\reserve"por\I" introducirenmemoria\una" sustituir\una"por\booked" introducirenmemoria\reserve" Operacion
habitacion nombre a a fhabitaciongintroducirenmemoria\habitacion" fnombreg ; sustituir\habitacion"por\a" borrar\a"
Alicia <strong>de</strong> room for fAliciag f<strong>de</strong>g ; sustituir\nombre"por\room" introducirenmemoria\<strong>de</strong>" sustituir\<strong>de</strong>"por\for" introducirenmemoria\nombre"
Vazquez . Vazquez Alicia fVazquezg ; introducirenmemoria\Alicia"
. f.g ; sustituir\Alicia"por\Alicia" introducirenmemoria\Vazquez" sustituir\Vazquez"por\Vazquez" introducirenmemoria\."
Entrada:IbookedaroomforAliciaVazquez. sustituir\."por\."
Entrada Salida: Salida reserveunahabitacionanombre<strong>de</strong>AliciaVazquez.
booked I reserve una fbookedgintroducirenmemoria\booked" Memoria fIg ; introducirenmemoria\I" sustituir\I"por\reserve" sustituir\booked"por\una" Operacion
room a habitacion a fag ; introducirenmemoria\a"
for nombre froomg fforg ; sustituir\a"por\habitacion" insertar\a" introducirenmemoria\room" sustituir\room"por\nombre"
Vazquez Alicia Alicia <strong>de</strong> fAliciag ; introducirenmemoria\Alicia" sustituir\Alicia"por\Alicia" introducirenmemoria\for"
Vazquez fVazquezgintroducirenmemoria\Vazquez" ; sustituir\Vazquez"por\Vazquez" sustituir\for"por\<strong>de</strong>"
. . f.g ; introducirenmemoria\." sustituir\."por\."

196 C.4 Ejemplos<strong>de</strong>laTarea<strong>de</strong>lTurista:Castellano-AlemanyVi- APENDICEC.EJEMPLOSDEALINEAMIENTOSOBTENIDOSCONELMAMOE
Parnumero500 ceversa
Entrada:minombreesMo<strong>de</strong>stoOrtega. Salida: meinNameistMo<strong>de</strong>stoOrtega.
Entrada nombre mi Salida Name mein fnombregintroducirenmemoria\nombre" Memoria fmig ; sustituir\nombre"por\Name" introducirenmemoria\mi" sustituir\mi"por\mein" Operacion
Mo<strong>de</strong>sto Ortega es Mo<strong>de</strong>sto ist fMo<strong>de</strong>stogintroducirenmemoria\Mo<strong>de</strong>sto" fesg ; introducirenmemoria\es" sustituir\es"por\ist"
. Ortega . fOrtegag f.g ; sustituir\Mo<strong>de</strong>sto"por\Mo<strong>de</strong>sto" introducirenmemoria\Ortega" sustituir\Ortega"por\Ortega" introducirenmemoria\." sustituir\."por\."
Entrada:meinNameistMo<strong>de</strong>stoOrtega. Salida: minombreesMo<strong>de</strong>stoOrtega.
Entrada Name mein nombre Salida mi Memoria fNameg fmeing ; introducirenmemoria\mein" sustituir\mein"por\mi" introducirenmemoria\Name" sustituir\Name"por\nombre" Operacion
Mo<strong>de</strong>sto Ortega ist Mo<strong>de</strong>sto es fMo<strong>de</strong>stogintroducirenmemoria\Mo<strong>de</strong>sto" fistg ; introducirenmemoria\ist" sustituir\ist"por\es"
. Ortega . fOrtegag f.g ; sustituir\Mo<strong>de</strong>sto"por\Mo<strong>de</strong>sto" introducirenmemoria\Ortega" sustituir\Ortega"por\Ortega" introducirenmemoria\." sustituir\."por\."

C.4.EJEMPLOSDELATAREADELTURISTA:CASTELLANO-ALEMANYVICEVERSA Parnumero1.000 197
Salida: Entrada:mellamoTeresaCastillo. ichheisseTeresaCastillo.
EntradaSalida llamo me heisse ich Memoria fllamog fmeg ; introducirenmemoria\me" sustituir\me"por\ich" introducirenmemoria\llamo" sustituir\llamo"por\heisse" Operacion
Castillo Teresa . Castillo Teresa fCastillogintroducirenmemoria\Castillo" fTeresagintroducirenmemoria\Teresa"
. f.g ; sustituir\Teresa"por\Teresa" sustituir\Castillo"por\Castillo" introducirenmemoria\." sustituir\."por\."
Salida: Entrada:ichheisseTeresaCastillo. mellamoTeresaCastillo.
EntradaSalida heisse ich llamo me Memoria fheisseg fichg ; introducirenmemoria\heisse" sustituir\heisse"por\llamo" introducirenmemoria\ich" sustituir\ich"por\me" Operacion
Castillo Teresa . Castillo Teresa fCastillogintroducirenmemoria\Castillo" fTeresagintroducirenmemoria\Teresa"
. f.g ; sustituir\Teresa"por\Teresa" sustituir\Castillo"por\Castillo" introducirenmemoria\." sustituir\."por\."

198 Parnumero1.500 APENDICEC.EJEMPLOSDEALINEAMIENTOSOBTENIDOSCONELMAMOE
Entrada Entrada:hehechounareservaanombre<strong>de</strong>PedroMonferrer. Salida: Salida ichhabeeineReservierungfurPedroMonferrergemacht.
hecho he habe ich Memoria fhechog fheg ; introducirenmemoria\he" sustituir\he"por\ich" introducirenmemoria\hecho" sustituir\hecho"por\habe" Operacion
reserva una freservag ; borrar\una"
nombre a Reservierung eine fag ; introducirenmemoria\reserva" sustituir\reserva"por\eine"
<strong>de</strong> fur fnombreg f<strong>de</strong>g ; introducirenmemoria\a" sustituir\nombre"por\fur" sustituir\a"por\Reservierung" introducirenmemoria\nombre"
Monferrer Pedro Pedro f<strong>de</strong>,Pedrog f<strong>de</strong>g introducirenmemoria\<strong>de</strong>" introducirenmemoria\Pedro"
. Monferrer gemacht f<strong>de</strong>,Monferrergintroducirenmemoria\Monferrer" f<strong>de</strong>g ; sustituir\Pedro"por\Pedro"
. f.g ; sustituir\Monferrer"por\Monferrer" sustituir\<strong>de</strong>"por\gemacht" introducirenmemoria\."
Salida: Entrada:ichhabeeineReservierungfurPedroMonferrergemacht. hehechounareservaanombre<strong>de</strong>PedroMonferrer. sustituir\."por\."
Entrada habe ich Salida hecho he Memoria fhabeg fichg ; introducirenmemoria\ich" sustituir\ich"por\he" introducirenmemoria\habe" sustituir\habe"por\hecho" Operacion
Reservierung eine reserva una a fReservierunggintroducirenmemoria\Reservierung" feineg ; ; introducirenmemoria\eine" sustituir\eine"por\reserva" insertar\una"
fur nombre ffurg ; sustituir\Reservierung"por\a" introducirenmemoria\fur"
Monferrer Pedro Pedro <strong>de</strong> fMonferrerg fPedrog ; introducirenmemoria\Pedro" sustituir\Pedro"por\Pedro" sustituir\fur"por\nombre" insertar\<strong>de</strong>"
gemacht . Monferrer . f.g ; introducirenmemoria\Monferrer" sustituir\Monferrer"por\Monferrer" borrar\gemacht" introducirenmemoria\." sustituir\."por\."

C.4.EJEMPLOSDELATAREADELTURISTA:CASTELLANO-ALEMANYVICEVERSA Parnumero2.000 199
Salida: Entrada:mellamoCarmeloSaez. ichheisseCarmeloSaez.
Entrada llamo me Salida heisse ich Memoria fllamog fmeg ; introducirenmemoria\me" sustituir\me"por\ich" introducirenmemoria\llamo" sustituir\llamo"por\heisse" Operacion
Carmelo Saez . Carmelo Saez fCarmelogintroducirenmemoria\Carmelo"
. fSaezg f.g ; sustituir\Carmelo"por\Carmelo" sustituir\Saez"por\Saez" introducirenmemoria\Saez" introducirenmemoria\." sustituir\."por\."
Salida: Entrada:ichheisseCarmeloSaez. mellamoCarmeloSaez.
Entrada heisse ich Salida llamo me Memoria fheisseg fichg ; introducirenmemoria\ich" sustituir\ich"por\me" introducirenmemoria\heisse" sustituir\heisse"por\llamo" Operacion
Carmelo Saez . Carmelo Saez fCarmelogintroducirenmemoria\Carmelo"
. fSaezg f.g ; sustituir\Carmelo"por\Carmelo" sustituir\Saez"por\Saez" introducirenmemoria\Saez" introducirenmemoria\." sustituir\."por\."

200 Parnumero3.000Entrada:hehechounareservaanombre<strong>de</strong>RosarioDaz.
APENDICEC.EJEMPLOSDEALINEAMIENTOSOBTENIDOSCONELMAMOE
Entrada Salida: Salida ichhabeeineReservierungfurRosarioDazgemacht.
hecho he habe ich Memoria fhechog fheg ; introducirenmemoria\he" sustituir\he"por\ich" introducirenmemoria\hecho" sustituir\hecho"por\habe" Operacion
reserva una a Reservierung eine freservag fag ; sustituir\a"por\Reservierung" introducirenmemoria\reserva" sustituir\reserva"por\eine" introducirenmemoria\a" borrar\una"
Rosario nombre <strong>de</strong> Rosario fur f<strong>de</strong>,Rosariogintroducirenmemoria\Rosario" fnombreg f<strong>de</strong>g ; sustituir\nombre"por\fur" introducirenmemoria\<strong>de</strong>" introducirenmemoria\nombre"
Daz . gemacht Daz f<strong>de</strong>,Dazg f<strong>de</strong>g f.g ; sustituir\Rosario"por\Rosario" sustituir\<strong>de</strong>"por\gemacht" introducirenmemoria\Daz" sustituir\Daz"por\Daz"
Entrada:ichhabeeineReservierungfurRosarioDazgemacht. . ; sustituir\."por\." introducirenmemoria\."
Entrada Salida: Salida hehechounareservaanombre<strong>de</strong>RosarioDaz.
habe ich hecho he Memoria fhabeg fichg ; introducirenmemoria\ich" sustituir\ich"por\he" introducirenmemoria\habe" sustituir\habe"por\hecho" Operacion
Reservierung eine reserva una a fReservierunggintroducirenmemoria\Reservierung" feineg ; insertar\una" introducirenmemoria\eine" sustituir\eine"por\reserva"
Rosario fur nombre <strong>de</strong> fRosariog ffurg ; sustituir\Reservierung"por\a" introducirenmemoria\fur" sustituir\fur"por\nombre" insertar\<strong>de</strong>"
gemacht Daz Rosario fDazg ; introducirenmemoria\Rosario"
. Daz ; sustituir\Rosario"por\Rosario"
. f.g ; borrar\gemacht" introducirenmemoria\Daz" sustituir\Daz"por\Daz" introducirenmemoria\." sustituir\."por\."

C.4.EJEMPLOSDELATAREADELTURISTA:CASTELLANO-ALEMANYVICEVERSA Parnumero4.000 201
Entrada:>nosllamaanuestrotaxi,porfavor?
EntradaSalida: Salida wur<strong>de</strong>nSieunserTaxibesstellen,bitte?
nos > wur<strong>de</strong>n Sie Memoria fnosg f>g ; sustituir\>"por\wur<strong>de</strong>n" introducirenmemoria\>" introducirenmemoria\nos" sustituir\nos"por\Sie" Operacion
nuestro llama taxi a unser fllama,nuestrogintroducirenmemoria\nuestro" fllama,taxig fllamag borrar\a" sustituir\nuestro"por\unser" introducirenmemoria\llama"
besstellen Taxi fllamag ; introducirenmemoria\taxi" sustituir\taxi"por\Taxi"
favor por , , f,g ; sustituir\llama"por\besstellen" introducirenmemoria\,"
? bitte ffavorg f?g ; sustituir\,"por\," borrar\por" introducirenmemoria\favor" sustituir\favor"por\bitte"
Entrada:wur<strong>de</strong>nSieunserTaxibesstellen,bitte? ? ; introducirenmemoria\?" sustituir\?"por\?"
EntradaSalida Salida: >nosllamaanuestrotaxi,porfavor?
wur<strong>de</strong>n Sie nos > fwur<strong>de</strong>ng Memoria fSieg ; sustituir\Sie"por\nos" introducirenmemoria\Sie" introducirenmemoria\wur<strong>de</strong>n" sustituir\wur<strong>de</strong>n"por\>" Operacion
besstellen unser Taxi llama funser,Taxi,besstellengintroducirenmemoria\besstellen" funser,Taxig funserg introducirenmemoria\Taxi" introducirenmemoria\unser"
nuestro taxi a funser,Taxig fTaxig ; sustituir\besstellen"por\llama" insertar\a" sustituir\unser"por\nuestro"
bitte , , f,g ; sustituir\Taxi"por\taxi"
favor por fbitteg ; introducirenmemoria\bitte" sustituir\,"por\," insertar\por" sustituir\bitte"por\favor" introducirenmemoria\,"
? ? f?g ; introducirenmemoria\?" sustituir\?"por\?"

202 Parnumero5.000 APENDICEC.EJEMPLOSDEALINEAMIENTOSOBTENIDOSCONELMAMOE
Salida: Entrada:>pue<strong>de</strong><strong>de</strong>spertarnosalascuatroymedia?
Entrada SalidakonnenSieunsumhalbfunfwecken? pue<strong>de</strong> > konnen Sie Memoria fpue<strong>de</strong>g f>g ; sustituir\>"por\konnen" introducirenmemoria\>" introducirenmemoria\pue<strong>de</strong>" sustituir\pue<strong>de</strong>"por\Sie" Operacion
<strong>de</strong>spertarnos uns f<strong>de</strong>spertarnosgintroducirenmemoria\<strong>de</strong>spertarnos"
cuatro las a um fcuatrog fag ; sustituir\<strong>de</strong>spertarnos"por\uns" introducirenmemoria\a" sustituir\a"por\um" borrar\las"
media y halb funf fcuatro,yg fcuatrog ; introducirenmemoria\cuatro" introducirenmemoria\y"
? wecken fmediag sustituir\y"por\halb"
? f?g ; sustituir\cuatro"por\funf" sustituir\media"por\wecken" introducirenmemoria\media" introducirenmemoria\?"
Entrada:konnenSieunsumhalbfunfwecken? sustituir\?"por\?"
EntradaSalida: Salida>pue<strong>de</strong><strong>de</strong>spertarnosalascuatroymedia? konnen Sie pue<strong>de</strong> > fkonneng Memoria fSieg ; introducirenmemoria\konnen" sustituir\konnen"por\>" introducirenmemoria\Sie" sustituir\Sie"por\pue<strong>de</strong>" Operacion
uns um <strong>de</strong>spertarnos las a funsg fumg ; sustituir\um"por\a" insertar\las" sustituir\uns"por\<strong>de</strong>spertarnos" introducirenmemoria\um" introducirenmemoria\uns"
wecken halb funf cuatro y fhalb,funfgintroducirenmemoria\funf" fhalbg ; introducirenmemoria\halb"
? media fweckeng sustituir\funf"por\cuatro"
? f?g ; sustituir\halb"por\y" introducirenmemoria\wecken" sustituir\wecken"por\media" introducirenmemoria\?" sustituir\?"por\?"

C.4.EJEMPLOSDELATAREADELTURISTA:CASTELLANO-ALEMANYVICEVERSA Parnumero8.000 203
Entrada:>podraprepararnoslafactura? Salida: konntenSiedieRechnungausstellen,bitte?
Entrada podra > konnten Salida Sie Memoria fpodrag f>g ; introducirenmemoria\>" sustituir\>"por\konnten" introducirenmemoria\podra" sustituir\podra"por\Sie" Operacion
prepararnosRechnung ausstellen die fprepararnosgintroducirenmemoria\prepararnos" ; insertar\die" insertar\Rechnung"
factura la , flag ; sustituir\prepararnos"por\ausstellen"
? bitte ffacturag introducirenmemoria\la"
? f?g ; sustituir\la"por\," introducirenmemoria\factura" sustituir\factura"por\bitte" introducirenmemoria\?" sustituir\?"por\?"
Salida: Entrada:konntenSiedieRechnungausstellen,bitte? >podraprepararnoslafactura?
Entrada konnten Sie Salida podra > fkonnteng Memoria fSieg ; introducirenmemoria\konnten" sustituir\konnten"por\>" introducirenmemoria\Sie" sustituir\Sie"por\podra" Operacion
Rechnung ausstellen die prepararnos la fdie,Rechnung,ausstellengintroducirenmemoria\ausstellen" fdie,Rechnungg fRechnungg fdieg introducirenmemoria\Rechnung" sustituir\ausstellen"por\prepararnos" sustituir\die"por\la" introducirenmemoria\die"
bitte ? , factura ? f?g ; sustituir\Rechnung"por\factura" borrar\," borrar\bitte" introducirenmemoria\?" sustituir\?"por\?"

204 Parnumero9.000 APENDICEC.EJEMPLOSDEALINEAMIENTOSOBTENIDOSCONELMAMOE
Entrada:queremosreservarunahabitacionparaunasemana.
Entrada Salida: Salida wirmochteneinZimmerfureineWochereservieren.
queremos reservar mochten wir fqueremosgintroducirenmemoria\queremos" freservarg Memoria ; sustituir\reservar"por\mochten" sustituir\queremos"por\wir" introducirenmemoria\reservar" Operacion
habitacion para una Zimmer ein fhabitaciongintroducirenmemoria\habitacion" ; borrar\una"
una fur fparag ; sustituir\para"por\fur" introducirenmemoria\para" sustituir\habitacion"por\ein"
eine funag ; introducirenmemoria\una" sustituir\una"por\eine" insertar\Zimmer"
semana . reservieren Woche . fsemanag f.g ; sustituir\semana"por\Woche" insertar\reservieren" introducirenmemoria\." sustituir\."por\." introducirenmemoria\semana"
Entrada:wirmochteneinZimmerfureineWochereservieren.
Entrada Salida: Salida queremosreservarunahabitacionparaunasemana.
mochten wir queremos reservar fmochtengintroducirenmemoria\mochten" Memoria fwirg ; introducirenmemoria\wir" sustituir\wir"por\queremos" sustituir\mochten"por\reservar" Operacion
Zimmer ein habitacion una feing ; insertar\una" introducirenmemoria\ein"
eine fur para feineg ffurg ; sustituir\ein"por\habitacion" borrar\Zimmer" introducirenmemoria\fur" sustituir\fur"por\para"
reservieren Woche una fWocheg ; introducirenmemoria\eine"
. semana ; sustituir\eine"por\una"
. f.g ; introducirenmemoria\Woche" sustituir\Woche"por\semana" borrar\reservieren" introducirenmemoria\." sustituir\."por\."

C.4.EJEMPLOSDELATAREADELTURISTA:CASTELLANO-ALEMANYVICEVERSA Parnumero16.000 205
Entrada:unahabitaciontranquilaquetengaduchaytelefono.
Entrada Salida: Salida einruhigesZimmermitDuscheundTelefon.
habitacion tranquila una ein fhabitaciongintroducirenmemoria\habitacion" ftranquilagintroducirenmemoria\tranquila" Memoria ; borrar\una" sustituir\habitacion"por\ein" Operacion
Zimmer ruhiges ; sustituir\tranquila"por\ruhiges"
ducha tenga que mit fduchag ftengag ; sustituir\tenga"por\mit" introducirenmemoria\tenga" introducirenmemoria\ducha" borrar\que" insertar\Zimmer"
telefono y Dusche und fyg ; sustituir\ducha"por\Dusche"
. Telefon ftelefonog introducirenmemoria\y"
. f.g ; sustituir\y"por\und" sustituir\telefono"por\Telefon" introducirenmemoria\telefono" introducirenmemoria\."
Entrada:einruhigesZimmermitDuscheundTelefon. sustituir\."por\."
Entrada Salida: Salida unahabitaciontranquilaquetengaduchaytelefono.
ruhiges ein habitacion una fruhigesgintroducirenmemoria\ruhiges" Memoria feing ; introducirenmemoria\ein" insertar\una" sustituir\ein"por\habitacion" Operacion
Zimmer tranquila que ; sustituir\ruhiges"por\tranquila"
Dusche mit fmitg ; insertar\que"
ducha tenga fDuschegintroducirenmemoria\Dusche" ; borrar\Zimmer" introducirenmemoria\mit" sustituir\mit"por\tenga"
Telefon und y fundg ; sustituir\Dusche"por\ducha"
. telefono fTelefongintroducirenmemoria\Telefon" ; introducirenmemoria\und"
. f.g ; sustituir\und"por\y" sustituir\Telefon"por\telefono" introducirenmemoria\." sustituir\."por\."

206 Parnumero17.000Entrada:>tienetelefono,aseoytelevisionlahabitacion?
APENDICEC.EJEMPLOSDEALINEAMIENTOSOBTENIDOSCONELMAMOE
Entrada Salida: SalidahatdasZimmerTelefon,BadundFernseher? tiene > hat das Memoria ftieneg f>g ; introducirenmemoria\>" sustituir\>"por\hat" introducirenmemoria\tiene" sustituir\tiene"por\das" Operacion
telefono Zimmer ftelefonog ; insertar\Zimmer"
aseo , Telefon , f,g ; introducirenmemoria\telefono" sustituir\telefono"por\Telefon"
y Bad faseog introducirenmemoria\,"
und fyg ; sustituir\,"por\," introducirenmemoria\aseo" sustituir\aseo"por\Bad" introducirenmemoria\y"
habitacion television la Fernseher ftelevisiongintroducirenmemoria\television" ; sustituir\y"por\und"
? ? f?g ; sustituir\television"por\Fernseher" borrar\la" borrar\habitacion" introducirenmemoria\?"
Salida: Entrada:hatdasZimmerTelefon,BadundFernseher? >tienetelefono,aseoytelevisionlahabitacion? sustituir\?"por\?"
Entrada hat das Salida tiene > Memoria fhatg fdasg ; introducirenmemoria\hat" sustituir\hat"por\>" sustituir\das"por\tiene" introducirenmemoria\das" Operacion
Zimmer Telefon fTelefong ; borrar\Zimmer"
Bad , telefono , fBadg f,g ; introducirenmemoria\Telefon" sustituir\Telefon"por\telefono" introducirenmemoria\," sustituir\,"por\,"
Fernseher und aseo fundg ; introducirenmemoria\Bad"
television y fFernsehergintroducirenmemoria\Fernseher" ; sustituir\Bad"por\aseo" introducirenmemoria\und" sustituir\und"por\y"
? habitacion la ? f?g ; sustituir\Fernseher"por\television" insertar\la" insertar\habitacion" introducirenmemoria\?" sustituir\?"por\?"

C.4.EJEMPLOSDELATAREADELTURISTA:CASTELLANO-ALEMANYVICEVERSA Parnumero30.000 207
Salida: Entrada:mehe<strong>de</strong>ireldaoncenoche.
Entrada Salida ichmuam11.nachtswegfahren.
me he mu ich Memoria fmeg fheg ; introducirenmemoria\me" sustituir\me"por\ich" introducirenmemoria\he" sustituir\he"por\mu" Operacion
<strong>de</strong> el ir am felg ; borrar\<strong>de</strong>" borrar\ir" introducirenmemoria\el"
noche once da 11. fda,nochegintroducirenmemoria\noche" fda,oncegintroducirenmemoria\once" fdag sustituir\once"por\11." introducirenmemoria\da" sustituir\el"por\am"
. wegfahren nachts . fdag f.g ; sustituir\noche"por\nachts" sustituir\da"por\wegfahren" introducirenmemoria\."
Entrada:ichmuam11.nachtswegfahren. sustituir\."por\."
EntradaSalidaMemoria Salida: mehe<strong>de</strong>ireldaoncenoche.
mu ich me he fmug fichg ; introducirenmemoria\ich" sustituir\ich"por\me" introducirenmemoria\mu" sustituir\mu"por\he" Operacion
am <strong>de</strong> el ir famg ; insertar\<strong>de</strong>" insertar\ir" introducirenmemoria\am"
nachts 11. once da f11.g ; introducirenmemoria\11." sustituir\11."por\once" sustituir\am"por\el"
noche fnachtsgintroducirenmemoria\nachts" ; insertar\da"
wegfahren . . f.g ; sustituir\nachts"por\noche" borrar\wegfahren" introducirenmemoria\." sustituir\."por\."