Ответ:

Обозначим ▲ = T, ☺ = S, ♥ = H. Предполагаем, что значения символов — неотрицательные целые числа.

  1. Из третьего равенства \(H=T^2\). Первое равенство тогда выполняется автоматически: обе его части равны \(2T^2\).
  2. Второе равенство даёт \(S^2=20-T^2\), следовательно, \(T^2+S^2=20\).
  3. Сумму 20 дают пары квадратов \(4+16\) и \(16+4\). Поэтому возможны две пары значений: \((T,S)=(2,4)\) или \((4,2)\).

Ответ: ▲ = 2, ☺ = 4, ♥ = 4; либо ▲ = 4, ☺ = 2, ♥ = 16.