noctrog / cnn_image_captioning Goto Github PK

Esciribir el bucle de entrenamiento, con la funcion de perdida y pasando el modelo por los datos de validacion por cada epoch

How to use a Makefile？I hope you can help me.Thanks

Escribir un script (ej: gen_dict.py) que lea todas las frases del archivo JSON y guarde en un archivo dos diccionarios: uno que convierta de palabras a numeros y otro que convierta de numeros a palabras.

Crear la clase que contenga a la red neuronal. Con el metodo forward y todo lo necesario para poder usarla y entrenarla.

Hacer la presentacion del proyecto

Leer todos los captions, crear un diccionario que asocie cada palabra a un numero. Guardar dicho diccionario.

Escribir un generador de Python (funcion que en vez de return tenga yield) para que cada vez que se cree el generador devuelva las fotos en orden distinto y con frases distintas. Como parametros al generador se le debe el tamaño del batch. Y debe devolver un batch de fotos (entradas) asociadas a un batch de frases (salida esperada, usada para entrenar)

Preprocesar los datos cargados:

• Imagenes: cambiar tamanio, pasar de 0 a 255 a 0 a 1, convertir en tensor, data augmentation?
• Texto: pasar frases cargadas a numeros usando el diccionario para poder pasarlas
  por la capa de embedding. Crear tensor para todo el batch.

Escribir en train.py un generador de datos que devuelva un batch de imagenes con sus frases. Las frases deben de estar en un tensor de batch_size * sequence_length. Y las imágenes deben de estar en un tensor de batch_size * 3 * 224 * 224.

Cada vez que se cree el generador, se tiene que cambiar el orden de las fotos y usar una de las 5 frases del JSON aleatoriamente.

Como ejemplo dejo uno aqui (https://gist.github.com/noctrog/e39effa1ef5dad3e87ecc144085e5842) que escribí para otro proyecto.

Escribir un script que cargue el modelo guardado, lea las fotos que se le pasen por argumento, aplique el modelo a esas fotos y devuelva las salidas.