Ответ:

Четырёхугольник называют выпуклым, если он лежит по одну сторону от прямой, содержащей любую его сторону. Иначе четырёхугольник невыпуклый.

Выпуклый четырёхугольник:

ABCD

Невыпуклый четырёхугольник:

ABCD