Имхо оперативку. Так как за нехваткой памяти видюхой, система ее берет из оперативной, плюс к тому же, пусть у тебя хот i7 6700k и 1080ti, система будет сама по себе тупить без оперативы.
Значит так:
Сначала озу 8 гб, видяха еще игры потянет.
Вообще, лучше всего купить SSD, записать туда Win x64, затем докупить оперативки, видяхи..
Ииии.. всё летать будет, если собираетесь покупать комп на будущее.. сейчас ssd не такой и дорогой+ можно использовать как оперативку)
(файл подкачки на SSD поставить на 4 гб, и будет вам счастье)