Вы хотите Function.identity(), а не Function::identity:
private static Map<Rank, Integer> defaultRankOrdering = new EnumMap<>(
Arrays.stream(Rank.values()).collect(
Collectors.toMap(Function.identity(), e -> e.ordinal())));
Тип Function::identityis Supplier<Function<T,T>>, так как это ссылка метода для метода, который ничего не принимает и возвращает a Function<T,T>.
То, что вам нужно для вашей функции сопоставления ключей, - это a Function<T,T>, которая возвращается простым вызовом метода Function.identity().