Ответ:

Раскроем квадрат разности (a-b)² = a² - 2ab + b².
(√13-3)²+6√13 = (√13)² - 2*3*√13 + 3² + 6√13 = 13 - 6√13 + 9 + 6√13 = 13 + 9 = 22.