Подставим значение b = -5/6 в выражение:
( -5/6 - 3 )² - (-5/6)² + 3
( -5/6 - 18/6 )² - 25/36 + 3
( -23/6 )² - 25/36 + 3
529/36 - 25/36 + 108/36
612/36 = 17