Das liegt vermutlich an der Speicherverwaltung von BibTeX. Das Programm stammt aus den 1980er Jahren, als die Computer noch keine großen Speicherkapazitäten hatten. Deshalb sollte man biber verwenden, das zur Verwendung mit dem Paket biblatex gedacht ist und keine Speicherbegrenzung hat, oder bibtex8, eine 8-bit-Variante von BibTeX, die (zumindest teilweise) eine dynamische Speicherverwaltung hat. Das reicht mit den Standardeinstellungen von bibtex8 aber noch nicht in allen Fällen aus. Eine Lösung ist, den sogenannten »Wolfgang-Switch« zu verwenden, also die Befehlszeilenoption --wolfgang, die nichts anderes macht als die Speicherkapazität von bibtex8 höher einzustellen. Manchmal reicht aber selbst das nicht aus. Bei sehr großen Dateien könnte man bibtex8 deshalb mit folgenden Optionen aufrufen:

bibtex8 --wolfgang --mcites 30000 --mentints 30000 --mentstrs 40000 --mfields 250000 --mstrings 35000 --mpool 750000 --csfile csfile.csf auxfile  

– Main.DominikWassenhoven - 01 Nov 2009