как обозначаются иррациональные числа в алгебре

В алгебре нет специального общепринятного обозначения для множества иррациональных чисел. Их можно обозначать разностью (множество действительных чисел без множества рациональных). В некоторых пособиях можно встретить букву как обозначение, но оно не является официальным.