Решим неравенство методом подбора.
1) (0; -4):
$$0^2 - 5 \cdot 0 \cdot (-4) + (-4)^2 < 11$$ $$0 - 0 + 16 < 11$$ $$16 < 11$$Неверно.
2) (5; 0):
$$5^2 - 5 \cdot 5 \cdot 0 + 0^2 < 11$$ $$25 - 0 + 0 < 11$$ $$25 < 11$$Неверно.
3) (1; -5):
$$1^2 - 5 \cdot 1 \cdot (-5) + (-5)^2 < 11$$ $$1 + 25 + 25 < 11$$ $$51 < 11$$Неверно.
4) (1; -1):
$$1^2 - 5 \cdot 1 \cdot (-1) + (-1)^2 < 11$$ $$1 + 5 + 1 < 11$$ $$7 < 11$$Верно.
Следовательно, решением неравенства является пара чисел (1; -1).
Ответ: 4) (1;(-1))