Избавиться от иррациональности!!! ПЛИИИИЗЗЗ
а) 11/((корень 3 степени из 5) + (корень 3 степени из 6))
б) 1/ ((корень 2 степени из (а)) + (корень 2 степени из (b)) + (корень 2 степени из (с))

избавиться от иррациональности в знаменателе позволяет домножение и числителя и знаменателя дроби на сопряженное выражение... это такое выражение, которое позволит в знаменателе применить формулу сокращенного умножения (обычно это ---разность квадратов...)
в Вашем случае в задании а) в знаменателе очевидно получится формула сумма кубов, если домножить на
((корень 3 степени из 25) - (корень 3 степени из 30) + (корень 3 степени из 36)) 
в числителе останется только эта скобка, т.к. в знаменателе получится 5+6=11
б))) у Вас в записи не хватает одной закрывающейся скобки ---поэтому возможны варианты... если в знаменателе вся сумма из трех слагаемых,то домножить нужно сначала на ((Va + Vb) - Vc) ---получится формула разность квадратов... потом еще раз на ((a+b-c) -2V(ab))
в знаменателе получим: a^2 + b^2 + c^2 - 2(ab + ac + bc) 
в числителе получим: Va(a-b-c) + Vb(b-a-c) + Vc(c-a-b) + 2V(abc)