А ты попробуй передать cipher в cryptsetup через командную строчку. Может быть, у тебя хидер LUKS испортился, и cryptsetup неправильный алгоритм выбирает? Например, тот, что по умолчанию. На будущее рекомендую хидер бэкапить (опция luksBackupHeader, кажется). Потом можно restore сделать, если какая авария произойдет.