até então estava entendo que a tela gráfica não estava iniciando ou instalada, mas agora pelo que descreveu o que está querendo é aumentar a resolução, confirme se é isso mesmo, vc está com resolução de 800x600 e quer uma mais alta tipo 1024x768 é isso?
se for então tem que alterar a seção do screen do xorg.conf, por exemplo, localize a seção como no exemplo abaixo e adicione a resolução:
Section "Screen"
...
...
DefaultDepth 24
SubSection "Display"
Depth 24
Modes "1024x768" "800x600" "640x480"
EndSubSection
EndSection