Actas JP2011 - Universidad de La Laguna

Actas XXII Jornadas de Paralelismo (JP2011) , La Laguna, Tenerife, 7-9 septiembre 2011ques recorren la pila sin ser utilizados de nuevo ycuando se requieren ya han sido reemplazados. Porúltimo, LRU fuerza que un bloque tenga que llegarhasta la última posición para ser la víctima de reemplazo.Esto puede afectar a las prestaciones debido aque, como los resultados experimentales mostrarán,muchos bloques almacenados en L2 no vuelven a serutilizados de nuevo. Por ejemplo, en una cache de16 vías, un bloque que deja la posición MRU y novuelve a ser referenciado, no será la víctima hastaque se hayan completado quince accesos a bloquesmapeados en el mismo conjunto. Esto significa queotros bloques más útiles pueden ser elegidos comovíctima y por tanto, degradar las prestaciones. Algunostrabajos de investigación actuales han atacadoeste problema prediciendo cuando un bloque puedeser candidato a reemplazo antes de que llegue a laposición LRU [5] [6]. Otros trabajos manejan losreemplazos mediante la gestión de una cola para losbloques [7]. En estos casos, la víctima proviene de laprimera o última posición de la cola.La mayoría de bloques no se referencian otra vezcuando dejan la posición MRU. Además, la probabilidadde un bloque de ser referenciado otra vez nodepende siempre del orden que ocupa en la pila LRU.Esto significa que, en general, el orden de acceso noes importante para las aplicaciones en caches con ungran número de vías porque la probabilidad no disminuyeconforme el bloque desciende por la pila. Sinembargo, la política LRU necesita un número de bitsde estado por bloque considerable para mantener elorden de la pila.En este trabajo se define el número de periodosMRU (pMRU) de un bloque como el número de vecesque un bloque accede a la posición MRU durante sutiempo de vida. Teniendo en cuenta que la mayoríade bloques exhiben un pMRU, este trabajo proponeel algoritmo pMRU con el objetivo de explotar estecomportamiento para mejorar las prestaciones. Losbloques que muestran un pMRU serán consideradosen el reemplazo, seleccionando uno de ellos al azar.De esta manera, la complejidad del algoritmo se reducerespecto a LRU y otras propuestas recientes.También se propondrán variantes de este algoritmoque exploten la recencia de información.El algoritmo pMRU propuesto mejora las prestacionesrespecto a LRU y otros algoritmos propuestosrecientemente. La mejor versión del algoritmo entérminos de prestaciones se refiere como pMRU-b3,y consigue reducir el MPKI en un 8% y 19% comparadocon el algoritmo reciente llamado DC-Bubbley LRU, respectivamente. Para finalizar, la propuestarequiere menos bits de estado que LRU, ya que los algoritmospMRU no necesitan mantener todo el ordende la pila. Por ejemplo, para una cache de 16-vías,la versión más sencilla del algoritmo pMRU tan sólonecesita 2 bits de estado por bloque, mientras queLRU requiere 4. Además, el número de bits de estadoque se deben actualizar en el peor caso de cadapolítica es 3, 4 y 30 para pMRU, DC-Bubble y LRU,respectivamente.El resto del artículo se organiza de la siguientemanera: la Sección II muestra algunos trabajos relacionados.La Sección III discute la motivación delpresente trabajo. La Sección IV presenta el algoritmobasado en periodos MRU. La Sección V analizalos resultados experimentales. La Sección VI discutela complejidad hardware de los algoritmos estudiadosy finalmente la Sección VII presenta las conclusionesmás relevantes.II. Trabajos relacionadosExisten gran cantidad de trabajos que han centradosus esfuerzos en las políticas de ubicación yreemplazo de los bloques para mejorar las prestacionesde la jerarquía de cache. Estos trabajos lospodemos dividir en tres categorías: uso de informaciónsobre el comportamiento de los bloques encaches de L1, mejora de las prestaciones de la políticaLRU en caches de L2 y propuestas que utilizan estructurashardware diferentes a una pila para manejarla estrategia de reemplazo.En el primer grupo se encuentra la propuesta NTSde Tyson et al. [8] y la propuesta MAT de Johnsonet al. [9]. La primera propuesta marca un bloquecomo cacheable basándose en el comportamiento delmismo en el pasado, mientras que la segunda clasificalos bloques como temporales o no temporales segúnel comportamiento de los mismos durante sus tiemposde vida. Rivers et al. [10] propone explotar elcomportamiento basándose en la dirección efectivade los datos referenciados así como en el contador deprograma de la instrucción de carga.Otros trabajos se centran en mejorar las prestacionesde la política LRU, principalmente en L2. Porejemplo, el pseudo-LRU trata de reducir la complejidadhardware del LRU tradicional. Otros trabajospredicen el bloque a reemplazar en lugar delLRU. En [5], la propuesta de Lin y Reinhardt predicecuando reemplazar un bloque antes de que llegue a laposición LRU. Esto se consigue utilizando un contadorque almacena el número de accesos al mismo conjuntodurante un intervalo de acceso a una línea decache. Si el contador llega a superar un valor umbral(aprendido del comportamiento previo de la línea), lalínea asociada es candidata a ser reemplazada. Otraspropuestas mejoran las prestaciones de LRU con unalgoritmo LRU modificado [11] [12] [13] o medianteuna pila pseudo-LIFO [6].El esquema Bubble, propuesto por Zhang yXue [7], es una propuesta interesante clasificada enla última categoría. Esta propuesta hace uso de unacola en lugar de una pila. Los bloques entrantes sealojan en el final de la cola, que es la localidad querepresenta la menor frecuencia de acceso. Los bloquespromocionan hacia la cabeza de la cola conformeson referenciados. La víctima se elige del finalo la cabeza de la cola según si el acceso previo alconjunto resultó en un fallo o acierto de cache, respectivamente.Este trabajo también presenta unatécnica de divide-y-vencerás, que divide los conjuntosen grupos de bloques independientes que aplicanJP2011-558