Не знаю что такое GetSystemMetrics, но если вам нужно получить резрашение экрана, то это можно сделать через /dev/fb0, например так
Код
#include <stdio.h>
#include <sys/types.h>
#include <sys/stat.h>
#include <fcntl.h>
#include <sys/ioctl.h>
#include <linux/fb.h>
int main()
{
int fd;
struct fb_var_screeninfo screen_info;
fd = open("/dev/fb0", O_RDWR);
ioctl(fd, FBIOGET_VSCREENINFO, &screen_info);
printf("%d %d\n", screen_info.xres, screen_info.yres);
return 0;
}
Только запускать нужно под рутом, а то оно будет вам выдавать случайные значения.