Большой англо-русский и русско-английский словарь
мат. invariant subspace
Математическая энциклопедия
представления p группы (алгебры, кольца, полугруппы) Xв векторном пространстве (соответственно в топологич. векторном пространстве) Е- векторное (соответственно замкнутое векторное) подпространство 
такое, что для любого 
и любоговыполняется 
соотношение: 
Если Р- проектор в Ена F, то Fтогда и только тогда является И. п. представления я, когда Рp(х) Р=p(х) Р для всех 
Подпространства {0} и Еявляются И. п. для любого представления в пространстве Е;. они наз. тривиальными И. п.; остальные И. п. (если они есть) наз. нетривиальными. См. также Сужение представления, Вполне приводимое множество, Неприводимое представление.
А. <И. <Штерн.
Математическая энциклопедия
допустимое подпространство, векторного пространства Vотносительно данного множества Млинейных отображений пространства Vв себя - подпространство U, удовлетворяющее условию 
для всех 
(иначе М-и нвариантное, М- допустимое подпространство).
Ю. И. Мерзляков.