pln-fing-udelar / covid19-qa Goto Github PK

Desde el JSON ya viene sin saltos de línea. Hay que generarlos de alguna forma.

Mostrar los logs de docker en alguna página web, así los podemos ver todos de manera fácil.

Agregué una hoja con términos y sinónimos en la planilla de preguntas sobre coronavirus que está acá:
https://docs.google.com/spreadsheets/d/1GvYE9tsQhAHwy8E53Dp8fEJaE8K3x-MGjXj5ZL5el30/edit#gid=932930953.

Separé en términos relacionados con covid y términos más generales.

Hacer que Elasticsearch siempre devuelva al menos batch_size fragmentos (aunque el tamaño de lo que se procesa no es el mismo que el fragmento; capaz determinar un número en función del batch_size tipo la mitad, o para llegar a un número de batches estimado dado). Capaz el container puede consumir la env var del docker-compose que ya se usa para qa.

Analizar salidas actuales para buscar las causas de los errores (en base a 10-20 preguntas que sabemos que tienen respuesta correcta). Para cada una, ver qué se pasa de Elasticsearch al modelo y qué devuelve el modelo (y qué se muestra en la web).

• Usar este conjunto de preguntas:
  https://docs.google.com/spreadsheets/d/16JEUMr9mKcKIsL8CH-52cbTRb_5OQyOsh_sgIcglT5w/edit#gid=0

• Evaluar diferentes configuraciones de ES:
  ** con/sin diccionario
  ** cantidad de documentos a pasarle a beto: 10, 20, 30
  ** efecto de la flexibilización de la consulta (entre las preguntas ya hay algunas variantes que van a permitir evaluar esto)

• Revisar el log para ver si el fragmento que ya tenemos identificado es recuperado por ES.

• No calcular exact match, evaluar a mano las salidas, porque ahora hay muchos documentos más y la respuesta correcta puede aparecer en diferentes textos.