Ответ:

Для любых положительных \(a,b\) имеем \(F(a,b)\leqslant\min\left(a,\frac{1}{b}\right)\).

Поскольку \(a\) и \(\frac{1}{b}\) не могут одновременно быть больше \(\sqrt{\frac{a}{b}}\), а здесь это не даёт постоянной границы, используем третье число: если \(F(a,b)\geqslant x\), то \(a\geqslant x\), \(b\leqslant\frac{1}{x}\), и \(\frac{3}{a}+b\geqslant x\). Непосредственно видно, что при \(a=2\), \(b=\frac12\) все три числа равны соответственно \(2\), \(2\), \(2\).

Покажем, что значение больше 2 невозможно. Если \(F(a,b)>2\), то \(a>2\) и \(b<\frac12\). Тогда \(\frac{3}{a}+b\) не обязано быть меньше 2, поэтому усилим оценку: для достижения минимума выше 2 требуются одновременно \(a>2\), \(b<\frac12\) и \(\frac{3}{a}+b>2\). Последнее условие выполнимо при некоторых таких значениях, например при достаточно малом \(a-2\) и \(b\) близком к \(1/2\). Следовательно, приведённая точка не доказывает максимум; проверим оптимизацию.

При заданном минимуме \(x\) необходимо \(a\ge x\), \(b\le 1/x\) и \(3/a+b\\ge x\). Так как \(3/a+b\le 3/x+1/x=4/x\), необходимо \(x\le2\). При \(a=2,b=1/2\) достигается \(x=2\). Значит, максимум равен 2.

Ответ: 2