Похоже проблема найдена. X неправильно определяет нужную частоту для данного разрешения. В смысле не сам глючит, это я ему какую-то кривую лажу пишу в конфу... Всем болшое пасибо.