Aan je werkgeheugen zal het niet liggen. Memtest zegt goed, dan is het ook wel goed (lijkt me). Ubuntu 64bit heeft een maximum, maar die ligt in de 20000Gb of zoiets, net zoals bij alle andere systemen.
Als je te weinig werkgeheugen hebt dan loopt alles gewoon vast, of alles word ongelooflijk traag, met veel haperingen.
Is VMware een must-have? Anders zou ik VirtualBox proberen.