В твоём коде не учитывается вариант, когда переменные a и b равны. Если такой случай произойдет, то для него нет return.

Исправление простое.

• int max(int a, int b) {
•    if (a > b) return a;
•    return b;
• }