CORE DUMPED

Probablemente estés accediendo a memoria que no pertenece al proceso.
¿Compruebas los errores en las reservas de memoria?
Saludos.

Me parece un problema de memoria, acuerdate de liberar la memoria que reserves cuando ya no la necesites, y de que quede toda libre al finalizar el programa. A ver que tal, suerte.

printf es tu amigo, cada vez que incrementas o debes reducir el tamaño del buffer saca por pantalla la cantidad de memoria que teoricamente está usando tu programa, es decir el tamaño del buffer y posteriormente por sistema operativo comprueba el tamaño real en memoria, a mi me da de todos modos que al incrementar el tamaño del buffer (imagino que lo haces con la funcion malloc), no estas pasando correctamente el tamaño (¿de la estructura?) a reservar o que quizas llegue un punto en el que estes utilizando un puntero no inicializado.

Todo esto por supuesto son suposiciones, sin ver código como que se hace complicado averiguar el motivo, un core dump me extrañaria que fuese porque no se libere memoria, quiero pensar que antes daria un error, a no ser que no estes tratando que no se disponga de memoria suficiente.