Решение

Уравнение плоскости в общем виде: $$Ax + By + Cz + D = 0$$.

Нам даны три точки, лежащие в этой плоскости: $$P(0; 5; 11), Q(3; -1; 2), R(-1; 0; 2)$$.

Подставим координаты этих точек в уравнение плоскости, чтобы получить систему уравнений:

1. $$A(0) + B(5) + C(11) + D = 0 Rightarrow 5B + 11C + D = 0$$
2. $$A(3) + B(-1) + C(2) + D = 0 Rightarrow 3A - B + 2C + D = 0$$
3. $$A(-1) + B(0) + C(2) + D = 0 Rightarrow -A + 2C + D = 0$$

Из уравнения (3) выразим A: $$A = 2C + D$$.

Подставим A в уравнение (2):

$$3(2C + D) - B + 2C + D = 0$$

$$6C + 3D - B + 2C + D = 0$$

$$8C + 4D - B = 0 Rightarrow B = 8C + 4D$$

Подставим B в уравнение (1):

$$5(8C + 4D) + 11C + D = 0$$

$$40C + 20D + 11C + D = 0$$

$$51C + 21D = 0$$

$$51C = -21D$$

$$C = -rac{21}{51}D = -rac{7}{17}D$$

Пусть $$D = 17$$, тогда $$C = -7$$.

Теперь найдем A и B:

$$A = 2C + D = 2(-7) + 17 = -14 + 17 = 3$$

$$B = 8C + 4D = 8(-7) + 4(17) = -56 + 68 = 12$$

Уравнение плоскости:

$$3x + 12y - 7z + 17 = 0$$