СЕРИЯ МАТЕМАТИЧЕСКАЯ Том 76, № 4, 2012 УДК 517.982.25 М. Е. Широков Свойство устойчивости выпуклых множеств и его применение Дан краткий обзор результатов, связанных с понятием устойчивости выпуклых множеств, рассмотрены некоторые их приложения. Доказано одно следствие свойства устойчивости, которое позволило разработать метод аппроксимации вогнутых функций на широком классе выпуклых множеств. С помощью этого метода получены необходимые и достаточные условия локальной непрерывности вогнутых функций, рассмотрены примеры их использования. Библиография: 23 наименования. Ключевые слова: выпуклое устойчивое множество, вогнутая функция, слабая сходимость вероятностных мер, барицентрическое отображение. § 1. Введение Понятие устойчивости выпуклых множеств возникло в конце 70-х годов прошлого века в результате исследования вопроса о непрерывности выпуклых оболочек 1 непрерывных функций и вогнутых непрерывных функций, определенных на выпуклом компакте. Ключевыми в этом исследовании являются работы Дж. Вестерстрема и Р. О’Брайена. В работе [3] установлена связь указанных вопросов со свойствами открытости барицентрического отображения и высказана гипотеза о равносильности свойства непрерывности выпуклой оболочки любой непрерывной вогнутой функции (позже названного CE-свойством [4]) и свойства непрерывности выпуклой оболочки любой непрерывной функции. Эта гипотеза была доказана в работе [5], где установлена эквивалентность этих свойств свойству открытости отображения выпуклого смешивания (x, y) 7→ λx + (1 − λ)y. В дальнейшем появилась обширная литература, посвященная исследованию последнего свойства выпуклых множеств (не обязательно компактных), в которой оно названо свойством устойчивости, а выпуклые множества, обладающие этим свойством, – устойчивыми (stable convex sets) [6]. Была установлена связь свойства устойчивости с другими свойствами выпуклых множеств (см. [7]–[9, § 10.9] и библиографию в этих работах). Для произвольного некомпактного выпуклого множества указанный выше результат Вестерстрема–О’Брайена не имеет места, однако он допускает обобщение на класс так называемых µ-компактных выпуклых множеств, включающий в себя, помимо компактов, ряд важных для приложений некомпактных множеств [10]. 1 Выпуклая оболочка функции f – это максимальная выпуклая функция, не превосходящая функцию f [1], [2]. Работа выполнена при поддержке научной программы РАН “Математическая теория управления и динамических систем” и РФФИ (гранты № 10-01-00139-a, 12-01-00319-а). c ⃝ М. Е. Широков, 2012 208 М. Е. ШИРОКОВ Важным примером выпуклого µ-компактного устойчивого множества является множество квантовых состояний – операторов плотности в сепарабельном гильбертовом пространстве [11]. Свойство устойчивости этого множества является эффективным инструментом исследования аналитических свойств различных характеристик квантовых систем (см. работу [10, § 4] и приведенную в ней библиографию). В [12] показано, что множество квантовых состояний обладает свойством, которое является формальным усилением свойства устойчивости. Это свойство, названное свойством сильной устойчивости, позволило разработать метод аппроксимации вогнутых полунепрерывных снизу функций на множестве квантовых состояний, с помощью которого получен критерий локальной непрерывности энтропии фон Неймана – одной из важнейших характеристик квантового состояния. Поскольку при доказательстве свойства сильной устойчивости существенно использовалась специфическая структура множества квантовых состояний (процедура очищения), его доказательство для устойчивых множеств общего вида представляется сложной задачей, что препятствует прямому обобщению результатов из [12]. В настоящей статье установлено общее свойство устойчивых множеств (теорема 1), которое, в частности, позволяет обойти данную проблему и использовать метод аппроксимации вогнутых функций на классе µ-компактных выпуклых множеств для получения необходимых и достаточных условий локальной непрерывности таких функций (теорема 2). § 2. Предварительные сведения Везде далее будем предполагать, что A – замкнутое ограниченное выпуклое подмножество локально выпуклого пространства, которое является полным сепарабельным метрическим пространством 2 . Будем использовать следующие обозначения: extr A – множество крайних точек множества A; C(A) – множество непрерывных ограниченных функций на множестве A; cl(B), co(B), σ-co(B) и co(B) – замыкание, выпуклая оболочка, σ-выпуклая оболочка 3 и выпуклое замыкание подмножества B ⊂ A соответственно [1], [2]. Пусть M (B) – множество всех борелевских вероятностных мер на замкнутом подмножестве B ⊆ A, снабженное топологией слабой сходимости [13], [14]. Каждой мере µ ∈ M (B) можно сопоставить ее барицентр (среднее) b(µ) ∈ co(B), определяемый интегралом Петтиса (см. [15], [16]) Z b(µ) = x µ(dx). B Барицентрическое отображение M (B) ∋ µ 7→ b(µ) ∈ co(B) 2 Это означает, что топология на множестве A определяется некоторым счетным набором из семейства полунорм, определяющих топологию всего локально выпуклого пространства, и что это множество является сепарабельным и полным в метрике, порожденной этим счетным набором полунорм. 3 σ-co(B) – множество всех счетных выпуклых комбинаций точек из B. СВОЙСТВО УСТОЙЧИВОСТИ ВЫПУКЛЫХ МНОЖЕСТВ 209 является непрерывным (это нетрудно доказать, используя теорему Прохорова [13]). Пусть Mx (B) – выпуклое замкнутое подмножество множества M (B), состоящее из таких мер µ, что b(µ) = x ∈ co(B). Меру из M (A), сосредоточенную в точке x ∈ A, обозначим δ(x). Соответственно, дискретную меру с конечным или счетным числом атомов {xi } P с весами {πi }Pбудем обозначать i πi δ(xi ), или, кратко, {πi , xi }. Для такой меры b(µ) = i πi xi . Для любого (не обязательно замкнутого) подмножества B ⊆ A множество всех дискретных мер с атомами из B обозначим M a (B), а его подмножество, состоящее из мер с барицентром x, – через Mxa (B). Следуя [6], введем основное определение. Определение 1. Выпуклое множество A называется устойчивым, если отображение A × A ∋ (x, y) 7→ x+y 2 ∈ A является открытым. Нетрудно показать, что данное свойство равносильно открытости отображения A × A ∋ (x, y) 7→ λx + (1 − λ)y ∈ A при каждом λ ∈ (0, 1) [7]. В R2 любой выпуклый компакт является устойчивым, в R3 устойчивость выпуклого компакта равносильна замкнутости множества его крайних точек, а в Rn , n > 3, свойство устойчивости сильнее свойства замкнутости множества крайних точек [5]. Полная характеризация свойства устойчивости выпуклых компактов в Rn получена в [6]. В бесконечномерном случае устойчивость доказана для единичного шара в некоторых банаховых пространствах и для положительной части единичного шара в банаховых решетках, в которых единичный шар устойчив [8]. С точки зрения приложений в математической физике существенна устойчивость множества квантовых состояний – операторов плотности в сепарабельном гильбертовом пространстве [12]. Ключевой результат, связанный с понятием устойчивости, – это утверждение о равносильности следующих свойств выпуклого компактного множества A: (i) множество A устойчиво; (ii) отображение M (A) ∋ µ 7→ b(µ) ∈ A открыто; (iii) отображение M cl(extr A) ∋ µ 7→ b(µ) ∈ A открыто 4 ; (iv) выпуклая оболочка любой непрерывной функции на A непрерывна; (v) выпуклая оболочка любой вогнутой непрерывной функции на A непрерывна. Существенная часть данного утверждения была получена Дж. Вестерстремом [3], его окончательная версия доказана Р. О’Брайеном [5]. Этот результат (далее называемый теоремой Вестерстрема–О’Брайена) не имеет места для некомпактных выпуклых множеств, однако он обобщается на класс µ-компактных выпуклых множеств [10, теорема 1], который определяется следующим образом. Определение 2. Выпуклое множество A называется µ-компактным, если прообраз любого компактного подмножества множества A при отображении µ 7→ b(µ) является компактным подмножеством множества M (A). Любое компактное множество является µ-компактным, поскольку из компактности A следует компактность M (A) [14]. Свойство µ-компактности не 4 Из выполнимости (i)–(v) следует cl(extr A) = extr A. 210 М. Е. ШИРОКОВ является чисто топологическим, оно отражает определенное соотношение между топологией и структурой линейных операций выпуклого множества. Простой критерий µ-компактности, свойства и примеры µ-компактных множеств рассмотрены в [10]. Простейшие примеры некомпактных µ-компактных устойчивых выпуклых множеств – это симплекс всех распределений вероятностей со счетным числом исходов (рассматриваемый как подмножество банахова пространства ℓ1 ) и его некоммутативный аналог – множество квантовых состояний на сепарабельном гильбертовом пространстве [11]. Более общий пример – выпуклое множество борелевских вероятностных мер на любом полном сепарабельном метрическом пространстве с топологией слабой сходимости (µ-компактность и устойчивость этого множества установлены соответственно в [10, следствие 4] и [17, теорема 2.4]). Будем также использовать ослабленный вариант свойства µ-компактности. Определение 3. Выпуклое множество A называется точечно µ-компактным, если прообраз любой точки множества A при отображении µ 7→ b(µ) является компактным подмножеством множества M (A). Простейший пример точечно µ-компактного множества, которое не является µ-компактным, – это положительная часть единичного шара пространства ℓ1 , снабженная топологией пространства ℓp при p > 1 [10]. В отличие от µ-компактности, свойство точечной µ-компактности сохраняется при ослаблении топологии (при условии сохранения замкнутости множества). В случае класса выпуклых точечно µ-компактных множеств можно обобщить ряд результатов о свойствах выпуклых компактов (например, теорему Шоке [10, предложение 5]). Однако утверждение теоремы Вестерстрема–О’Брайена (верное для µ-компактных множеств) не выполняется для точечно µ-компактных множеств [10, предложение 18]. Замечание 1. Считая, что метрика d( · , · ) на множестве A определятся формулой ∞ X ∥x − y∥k , x, y ∈ A, d(x, y) = 2−k 1 + ∥x − y∥k k=1 ∥k }∞ k=1 где {∥ · – счетное семейство полунорм, задающее топологию этого множества, нетрудно получить оценку d(αx + (1 − α)y, α′ x′ + (1 − α′ )y ′ ) 6 2δ + Cx,y (ε), имеющую место для любых x, y, x′ , y ′ из A и любых α, α′ из [0, 1] таких, что d(x, x′ ) < δ, где Cx,y (ε) = P∞ k=1 d(y, y ′ ) < δ, |α − α′ | < ε, ε∥x−y∥k 2−k 1+ε∥x−y∥ – функция, для которой limε→+0 Cx,y (ε) = 0. k Замечание 2. Везде далее, говоря о непрерывности функции f на подмно жестве B ⊂ A, будем иметь в виду непрерывность сужения f B функции f на подмножество B, которая подразумевает конечность этого сужения (в отличие от полунепрерывности сверху или снизу). СВОЙСТВО УСТОЙЧИВОСТИ ВЫПУКЛЫХ МНОЖЕСТВ 211 § 3. Некоторые вспомогательные результаты В настоящем параграфе приведены некоторые результаты о свойствах µ-компактных и точечно µ-компактных множеств, которые будут использованы в дальнейшем. Лемма 1. Пусть B – замкнутое подмножество выпуклого µ-компактного множества A. Для любого x0 из co(B) существует мера µ0 в M (B) такая, что x0 = b(µ0 ). Доказательство. Пусть x0 ∈ co(B) и {xn } ⊂ co(B) – последовательность, сходящаяся к x0 . Для каждого n ∈ N существует мера µn ∈ M (B) с конечным носителем такая, что xn = b(µn ). В силу µ-компактности множества A последовательность {µn } имеет частичный предел µ0 ∈ M (B). Из непрерывности отображения µ 7→ b(µ) следует, что b(µ0 ) = x0 . Лемма 2. Пусть A – выпуклое точечно µ-компактное множество такое, что cl(extrA) = extrA и A = σ-co(extrA). Любая мера µ0 из M (extrA) является пределом последовательности {µn } мер из M a (extrA) таких, что b(µn ) = b(µ0 ) для всех n. Доказательство. Рассмотрим частичный порядок Шоке на множестве M (A), для которого µ ≻ ν означает, что Z Z f (x) µ(dx) > A f (x) ν(dx) A для любой выпуклой непрерывной ограниченной функции f на множестве A (см. [18]). Для заданной меры µ0 из M (extrA) нетрудно построить последовательность {µn } мер из M (A) с конечным носителем, сходящуюся к мере µ0 и такую, что b(µn ) = b(µ0 ) для всех n. Раскладывая каждый атом меры µn в выпуклую комбинацию крайних точек, получим меру µ bn из M a (extrA) с тем же самым барицентром. Легко видеть, что µ bn ≻ µn . В силу точечной µ-компактности множества A последовательность {b µn }n>0 относительно компактна. Следовательно, существует подпоследовательность {b µnk }, сходящаяся к мере µ b0 из M (extrA). Поскольку µ bnk ≻ µnk для всех k, из определения слабой сходимости следует, что µ b0 ≻ µ0 , а значит, µ b0 = µ0 в силу максимальности меры µ0 относительно порядка Шоке, которая следует из совпадения этого порядка с так называемым дилатационным порядком (the dilation ordering) [18]. Лемма 3. Пусть A – выпуклое µ-компактное множество и {{πin , xni }m i=1 }n a – последовательность мер из MP (A), имеющих не более m < ∞ атомов, та m n n кая, что последовательность π x барицентров этих мер сходится i i i=1 n к x0 ∈ A. Существует подпоследовательность {{πink , xni k }m i=1 }k , сходящаяся к некоторой мере 5 {πi0 , x0i }m i=1 с барицентром x0 в следующем смысле: lim πink = πi0 , k→+∞ 5 Не πi0 > 0 ⇒ lim xni k = x0i , k→+∞ утверждается, что x0i ̸= x0j для всех i ̸= j. i = 1, m. 212 М. Е. ШИРОКОВ Доказательство. Достаточно заметить, что из µ-компактности множества A следует относительная компактность последовательности {{πin , xni }m i=1 }n и что множество мер, имеющих не более m атомов, является замкнутым подмножеством множества M (A). Важное свойство µ-компактных множеств представлено в следующем предложении. Предложение 1. Пусть A – выпуклое µ-компактное множество, и пусть f – полунепрерывная сверху ограниченная сверху функция на замкнутом подмножестве B ⊂ A. Тогда функция Z f (y) µ(dy) (1) fˆBµ (x) = sup µ∈Mx (B) B полунепрерывна сверху на множестве co(B). Для любого x ∈ co(B) точная верхняя грань в определении величины fˆBµ (x) достигается на некоторой мере из Mx (B). Это свойство позволяет получить µ-компактные обобщения ряда результатов о выпуклых компактах [10, предложение 6, следствие 2]. Оно перестает выполняться при ослаблении требования µ-компактности до точечной µ-компактности [10, предложение 7]. Можно показать, что условие ограниченности сверху функции f в предложении 1 является существенным. Доказательство предложения 1 приведено в приложении. Другой важный технический результат представлен в следующем предложении. Предложение 2. Пусть A – выпуклое µ-компактное множество 6 , и пусть f – полунепрерывная снизу ограниченная снизу функция на замкнутом подмножестве B ⊆ A. A) Если отображение M (B) ∋ µ 7→ b(µ) ∈ co(B) открыто, то функция fˆBµ , определяемая в (1), полунепрерывна снизу на множестве co(B). B) Если отображение M a (B) ∋ µ 7→ b(µ) ∈ σ-co(B) открыто, то функция Z X fˆBσ (x) = sup f (y) µ(dy) = sup πi f (xi ) µ∈Mxa (B) B {πi ,xi }∈Mxa (B) i полунепрерывна снизу на множестве σ-co(B). Если, дополнительно, σ-co(B) = co(B), то функция fˆBσ совпадает с функцией fˆBµ , определяемой в (1). Доказательство предложения 2 приведено в приложении. Замечание 3. Можно показать, что для ограниченной и полунепрерывной сверху функции f на замкнутом подмножестве B выпуклого µ-компактного множества A, для которого σ-co(B) = co(B), определенные выше функции fˆBσ и fˆBµ могут не совпадать и что утверждение предложения 1 не имеет места для функции fˆBσ . Предложения 1, 2 имеют очевидное следствие. 6 Свойство µ-компактности используется только для гарантии того, что b(M (B)) = co(B) (в силу леммы 1). СВОЙСТВО УСТОЙЧИВОСТИ ВЫПУКЛЫХ МНОЖЕСТВ 213 Следствие 1. Пусть B – замкнутое подмножество выпуклого µ-компактного множества A. A) Если A = co(B) и отображение M (B) ∋ µ 7→ b(µ) ∈ A открыто, то fˆBµ ∈ C(A) для любой функции f ∈ C(B). B) Если A = σ-co(B) и отображение M a (B) ∋ µ 7→ b(µ) ∈ A открыто, то fˆBσ = fˆBµ ∈ C(A) для любой функции f ∈ C(B). Если A – выпуклое устойчивое µ-компактное множество, то множество extrA замкнуто и из обобщенной теоремы Вестерстрема–О’Брайена [10, теорема 1] следует открытость сюръективного отображения M (extrA) ∋ µ 7→ b(µ) ∈ A, поэтому следствие 1, A) показывает, что любая функция f из C(extrA) имеет µ непрерывное ограниченное вогнутое расширение fˆextrA на множество A. Данное свойство не сохраняется при ослаблении условия µ-компактности до точечной µ-компактности (это легко показать, модифицируя пример 1 из [10]). § 4. Об одном свойстве устойчивых множеств Для произвольного подмножества A1 выпуклого множества A рассмотрим монотонное семейство подмножеств Ak = X k πi xi | {πi } ∈ Pk , {xi } ⊂ A1 , k ∈ N, (2) i=1 где Pk – симплекс распределений вероятностей с k исходами. Существенную роль в дальнейшем играет следующее свойство устойчивых множеств. Теорема 1. Пусть A1 – подмножество выпуклого устойчивого множества A такое, что A = σ-co(A1 ), и {Ak } – семейство подмножеств, определяемых в (2). Если отображение M a (Ak ) ∋ µ 7→ b(µ) ∈ A (3) открыто при k = 1, то это отображение открыто при каждом k ∈ N. Заметим, что условие A = σ-co(A1 ) означает сюръективность отображения (3) при каждом k. Доказательство теоремы 1. Проведем доказательство в два этапа. 1. Сначала P докажем, что при каждом k для любой меры с конечным ноm m m сителем µ0 = ∈ Pm , m ∈ N, и люi=1 πi δ(xi ), где {xi }i=1 ⊂ Ak , {πi }i=1 P m бой последовательности {xn } ⊂ A, сходящейся к x0 = i=1 πi xi , существуют подпоследовательность {xnl } и последовательность {µl } ⊂ M a (Ak ) такие, что liml→+∞ µl = µ0 и b(µl ) = xnl для всех l. При k = 1 данное утверждение непосредственно следует из открытости отображения M a (A1 ) ∋ µ 7→ b(µ). Предположим, что это утверждение выполнено при некоторомP k, и покажем его выполнимость при k + 1. m m Пусть µ0 = i=1 πi δ(xi ) ∈ M a (Ak+1 ), где πi > 0 для Pmвсех i и {xi }i=1 * Ak , n пусть {x } – последовательность, сходящаяся к x0 = i=1 πi xi . Без ограничения общности можно считать, что xi = αi yi + (1 − αi )zi при каждом i = 1, m, 214 М. Е. ШИРОКОВ где yi ∈ Ak , zi ∈ A1 и αi ∈ (0, 1). Следовательно, x0 = ηy 0 + (1 − η)z 0 , где η= m X y 0 = η −1 αi πi ∈ (0, 1), m X i=1 αi πi yi ∈ A, i=1 z 0 = (1 − η)−1 m X (1 − αi )πi zi ∈ A. i=1 В силу устойчивости множества A можно считать (переходя от последовательности {xn } к некоторой ее подпоследовательности), что существуют последовательности {y n } ⊂ A и {z n } ⊂ A, сходящиеся соответственно к y 0 и z 0 и такие, что xn = ηy n + (1 − η)z n . По предположению индукции можно считать (снова переходя к подпоследовательностям), что существуют последовательности {νn } ⊂ M a (Ak ) и {ζn } ⊂ M a (A1 ), сходящиеся к мерам m m X . ν0 = η −1 αi πi δ(yi ), X . ζ0 = (1 − η)−1 (1 − αi )πi δ(zi ) i=1 i=1 соответственно и такие, что b(νn ) = y n и b(ζn ) = z n для всех n. По определению слабой сходимости для любого N и любых достаточно малых 7 ε > 0 и δ > 0 существует такое n̄ > N , что νn̄ = m X νn̄i + νn̄r , i=1 ζn̄ = m X ζn̄i + ζn̄r , (4) i=1 где νn̄i и ζn̄i – ненулевые меры с конечным носителем, лежащим соответственно в Uδ (yi ) и Uδ (zi ), такие, что |νn̄i (A) − η −1 αi πi | < η −1 επi , |ζn̄i (A) − (1 − η)−1 (1 − αi )πi | < (1 − η)−1 επi , (5) все атомы мер νn̄i и ζn̄i имеют рациональные веса, а νn̄r (A) < η −1 ε, ζn̄r (A) < (1 − η)−1 ε. (6) m Существование представления (4) очевидно, если множества {yi }m i=1 и {zi }i=1 состоят из различных точек. Если эти множества содержат совпадающие точки, то существование этого представления можно показать, “расщепляя” атомы мер νn̄ и ζn̄ следующим образом. P Предположим, например, что y1 = y2 = · · · · · · = yp = y. Тогда компонента t λt δ(yt ) меры νn̄ , атомы которой лежат в Uδ (y), может быть “представлена” в виде X t λt δ(yt ) = X t γ1 λt δ(yt ) + · · · + X γp λt δ(yt ), t гдеPγi = αi πi /(α1 π1 + · · · + αp πp ), и мера νn̄i “строится” с помощью меры γi t λt δ(yt ). 7 Предполагается, что δ настолько мало, что δ-окрестности различных точек мноm жеств {yi }m i=1 и {zi }i=1 не пересекаются. СВОЙСТВО УСТОЙЧИВОСТИ ВЫПУКЛЫХ МНОЖЕСТВ 215 Для заданного i пусть y νn̄i = ni X pyij j=1 qi z δ(yij ), ζn̄i = ni X pzij j=1 qi δ(zij ), где p∗∗ и q∗ – натуральные числа. Существуют такие натуральные числа Pi , Qyi и Qzi , что y νn̄i (A) = ni X pyij j=1 Pi = y, qi Qi z ζn̄i (A) = ni X pzij j=1 qi = Pi . Qzi Пусть dyi = (qi Qyi )−1 и dzi = (qi Qzi )−1 . Используя “разложение” pyij δ(yij ) = dyi δ(yij ) + · · · + dyi δ(yij ), qi {z } | y py ij Qi PPi qi y l получаем представление νn̄i = l=1 di δ(ȳi ), где {ȳil }l – множество из Pi qi точек (которые могут совпадать), лежащих в Uδ (yi ) ∩ Ak . Аналогично получаем PPi qi z l представление ζn̄i = l=1 di δ(z̄i ), где {z̄il }l – множество из Pi qi точек, лежащих в Uδ (zi ) ∩ A1 . Рассмотрим меру µn̄ = m P i qi X X (ηdyi + (1 − η)dzi )δ(x̄li ) + ηνn̄r + (1 − η)ζn̄r , x̄li = i=1 l=1 ηdyi ȳil + (1 − η)dzi z̄il , ηdyi + (1 − η)dzi имеющую барицентр ηy n̄ + (1 − η)z n̄ = xn̄ и лежащую в M a (Ak+1 ). Поскольку ᾱi = ηdyi = ηdyi + (1 − η)dzi ηPi Qy i πi ηPi i + (1−η)P Qzi πi Qy i πi i i < ε, (1−η)P < ε в силу (5), нетрудно показать, что |ᾱi − − α − (1 − α ) и QηP y zπ i i Q π i i i i 1 αi | < 6ε (при ε < min 4 , αi , 1 − αi для всех i). Поэтому x̄li = ᾱi ȳil + (1 − ᾱi )z̄il ∈ Uδ(i) (xi ) для всех i = 1, m и l = 1, Pi qi , где δ(i) = 2δ+Cyi ,zi (6ε) (см. замечание 1). Pi Pi Поскольку Pi qi (ηdyi + (1 − η)dzi ) = η Q y + (1 − η) z , используя (5) и (6), нетрудно Qi i показать, что |µn̄ (Uδ(i) (xi )) − πi | 6 4ε (7) при условии Uδ(i) (xi ) ∩ Uδ(i′ ) (xi′ ) = ∅ для всех i ̸= i′ . Для натурального l пусть nl = n̄ и µl = µn̄ , где n̄ и µn̄ получены с помощью приведенной выше конструкции при N = l и ε = δ = 1l . Тогда b(µl ) = xnl и из (7) следует слабая P∞сходимость последовательности {µl }aк мере µ0 .n 2. Пусть µ0 = i=1 πi δ(xi ) – произвольная P∞мера из M (Ak ) и {x } ⊂ A – последовательность, сходящаяся кPx0 = Для P заданного натуi=1 πi xi . m m m −1 рального m пусть µ = (λ ) π δ(x ), где λ = m i m i=1 i i=1 πi , и пусть P 0 0 −1 zm = (1 − λm ) π x . i>m i i 216 М. Е. ШИРОКОВ Поскольку последовательность {µm 0 }m сходится к мере µ0 , для заданного 1 l натурального l существует 8 такое ml , что µm 0 ∈ U1/l (µ0 ) и λml > 1 − l . Имеем ml 0 0 x = λml b(µ0 ) + (1 − λml )zml . В силу устойчивости множества A можно считать (переходя от последовательности {xn } к некоторой ее подпоследовательности), что существуют последовательности {y n } ⊂ A и {z n } ⊂ A, сходящиеся 0 n n n l соответственно к b(µm 0 ) и zml и такие, что x = λml y + (1 − λml )z . В силу п. 1 доказательства можно считать (снова переходя к подпоследовательности), что существует последовательность {µn } ⊂ M a (Ak ), сходящаяся l к мере µm и такая, что b(µn ) = y n для всех n. Следовательно, существует 0 l такое nl > l, что µnl ∈ U1/l (µm 0 ) ⊂ U2/l (µ0 ). Пусть µl = λml µnl + (1 − λml )νnl , где νnl – любая мера из M a (A1 ) такая, что b(νnl ) = z nl . Нетрудно видеть, что последовательность {µl } лежит в M a (Ak ) и сходится к мере µ0 , при этом по построению b(µl ) = λml y nl + (1 − λml )z nl = xnl для всех l. Теорема доказана. Из теоремы 1 и µ-компактной версии теоремы Вестерстрема–О’Брайена [10, теорема 1] вытекает следующий результат. Следствие 2. Пусть A – выпуклое µ-компактное множество такое, что A = σ-co(extrA), и {Ak } – семейство подмножеств, определяемое соотношением (2) при A1 = extrA. Множество A устойчиво тогда и только тогда, когда отображение (3) открыто при каждом k ∈ N. Доказательство. Достаточно заметить, что в силу теоремы Вестерстрема–О’Брайена устойчивость выпуклого µ-компактного множества A равносильна открытости отображения M (extrA) ∋ µ 7→ b(µ) ∈ A, которая в силу леммы 2 равносильна открытости отображения M a (extrA) ∋ µ 7→ b(µ) ∈ A. Замечание 4. Для любого µ-компактного устойчивого множества A множество A1 = extrA замкнуто, а значит, в силу леммы 3 все семейство {Ak } состоит из замкнутых подмножеств. Отображение M (Ak ) ∋ µ 7→ b(µ) ∈ A (8) является сюръективным при каждом k ∈ N в силу [10, предложение 5], а из обобщенной теоремы Вестерстрема–О’Брайена следует его открытость при k = 1. В [12] открытость отображения (8) при каждом k ∈ N названа свойством сильной устойчивости и показано, что этим свойством обладает множество квантовых состояний, причем в доказательстве существенно использовались особые структурные свойства этого множества (конструкция очищения состояния). В силу следствия 2 сильная устойчивость µ-компактного множества A такого, что A = σ-co(extrA), следует из его устойчивости, если для любого x ∈ A множество Mxa (Ak ) плотно в Mx (Ak ) при каждом k ∈ N (при k = 1 это свойство выполнено в силу леммы 2). Вопрос 1. Влечет ли устойчивость произвольного µ-компактного множества A открытость отображения (8) при каждом k ∈ N? 8 Множество M (A) можно считать метрическим пространством [14]. СВОЙСТВО УСТОЙЧИВОСТИ ВЫПУКЛЫХ МНОЖЕСТВ 217 Положительный ответ на этот вопрос позволил бы обобщить конструкции и результаты следующего параграфа, исключая из них условие A = σ-co(A1 ). § 5. Аппроксимация вогнутых функций и условия локальной непрерывности Пусть A1 – подмножество выпуклого множества A такое, что A = σ-co(A1 ), и {Ak } – семейство подмножеств, определяемых в (2). Для любой вогнутой неотрицательной функции f на множестве A можно рассмотреть монотонную последовательность вогнутых функций X πi f (xi ), k = 1, 2, . . . , A ∋ x 7→ fk (x) = sup {πi ,xi }∈Mxa (Ak ) i таких, что fk 6 f и fk |Ak = f |Ak . Эти соотношения следуют из выполнимости для функции f дискретного неравенства Йенсена. . Ясно, что f∗ = supk fk – вогнутая функция на множестве A такая, что f∗ 6 f, f∗ A∗ = f A∗ , A∗ = ∞ [ Ak . (9) k=1 При определенных условиях можно показать совпадение функций f и f∗ . Лемма 4. Если вогнутая неотрицательная функция f полунепрерывна снизу на множестве A, то f∗ = f . Доказательство. Произвольную точку x0 ∈ A можно представить P∞ Pn в виде −1 x0 = π y , где {π } ∈ P и {y } ∈ A . Пусть x = λ i i i +∞ i 1 n n i=1 i=1 πi yi и P Pn yn = (1 − λn )−1 i>n πi yi , где λn = i=1 πi . Последовательность {xn } лежит в A∗ и сходится к x0 . При каждом n имеем x0 = λn xn + (1 − λn )yn и, следовательно, f∗ (x0 ) > λn f∗ (xn ) = λn f (xn ) в силу вогнутости и неотрицательности функции f∗ и соотношения (9). Поэтому lim supn→+∞ f (xn ) 6 f∗ (x0 ), а значит, и f (x0 ) 6 f∗ (x0 ) в силу полунепрерывности снизу функции f , откуда с учетом (9) следует f (x0 ) = f∗ (x0 ). Лемма доказана. Если множество A µ-компактно, а подмножество A1 замкнуто, то все подмножества семейства {Ak } замкнуты в силу леммы 3. Предположим, что (∗) сужение функции f на множество Ak непрерывно при каждом k. Мотивация этого предположения (при A1 = extrA) связана с приложениями (см. приведенные ниже примеры 1, 2 и [19, § 6]). Замечание 5. Из предположения (∗) следует ограниченность сужения функции f на множество Ak при каждом k. Действительно, если {xn } ⊂ Ak – такая последовательность, что limn→+∞ f (xn ) = +∞, то последовательность {λn xn + (1 − λn )y0 } ⊂ Ak+1 , где y0 – любая точка из A1 и λn = (f (xn ))−1 , сходится к y0 (поскольку множество A ограничено). Из вогнутости функции f следует, что lim inf f (λn xn + (1 − λn )y0 ) > lim inf λn f (xn ) + (1 − λn )f (y0 ) = 1 + f (y0 ) n→+∞ вопреки предположению (∗). n→+∞ 218 М. Е. ШИРОКОВ Теорема 1 и следствие 1, B) в силу замечания 5 приводят к утверждению, показывающему, что последовательность {fk } является полезной в задачах аппроксимации. Предложение 3. Пусть A1 – замкнутое подмножество µ-компактного выпуклого устойчивого множества A такое, что A = σ-co(A1 ), и отображение M a (A1 ) ∋ µ 7→ b(µ) ∈ A открыто. Для любой вогнутой неотрицательной функции f на множестве A, удовлетворяющей условию (∗), последовательность {fk } состоит из непрерывных ограниченных функций. В силу обобщенной теоремы Вестерстрема–О’Брайена [10, теорема 1] и леммы 2 для µ-компактного устойчивого множества A такого, что A = σ-co(extrA), множество extrA замкнуто и отображение M a (extrA) ∋ µ 7→ b(µ) ∈ A открыто. Поэтому из предложения 3 вытекает следующий результат. Следствие 3. Пусть A – µ-компактное устойчивое выпуклое множество такое, что A = σ-co(extrA), и {Ak } – семейство подмножеств, определяемых в (2) при A1 = extrA. Для любой вогнутой неотрицательной функции f на множестве A, удовлетворяющей условию (∗), последовательность {fk } состоит из непрерывных ограниченных функций. Если выполнены условия предложения 3 (следствия 3), то в силу леммы 4 монотонная последовательность {fk }, состоящая из непрерывных ограниченных функций, сходится поточечно к функции f тогда и только тогда, когда функция f полунепрерывна снизу. Пример 1. Энтропия Шеннона – вогнутая полунепрерывная снизу неотрицательная функция ∞ X S({xj }∞ ) = − xj ln xj j=1 j=1 P∞ j j на множестве P+∞ = {{xj }∞ j=1 ∈ ℓ1 | x > 0 ∀ j, j=1 x = 1} всех распределений вероятностей со счетным числом исходов [20]. Эта функция принимает значение +∞ на плотном подмножестве множества P+∞ . Как отмечалось в § 2, выпуклое множество P+∞ устойчиво и µ-компактно. Множество extr P+∞ состоит из “вырожденных” распределений (последовательностей, у которых на некотором месте стоит 1, а на остальных местах стоят нули). Ясно, что P+∞ = σ-co(extr P+∞ ) и что при каждом k ∈ N функция x 7→ S(x) имеет непрерывное сужение на множество k P+∞ = X k πi xi | {πi } ∈ Pk , {xi } ⊂ extr P+∞ i=1 всех распределений вероятностей, имеющих не более k ненулевых элементов. В силу следствия 3 вогнутая функция X P+∞ ∋ x 7→ Sk (x) = sup πi S(xi ), k ) {πi ,xi }∈Mxa (P+∞ i k совпадающая с энтропией Шеннона S на множестве P+∞ , непрерывна при каждом k. В силу леммы 4 монотонная последовательность {Sk } поточечно сходится к энтропии Шеннона S на множестве P+∞ . СВОЙСТВО УСТОЙЧИВОСТИ ВЫПУКЛЫХ МНОЖЕСТВ 219 Последовательность {fk } можно использовать, в частности, для получения условий локальной непрерывности функции f . Теорема 2. Пусть A – выпуклое µ-компактное множество и A1 – замкнутое подмножество множества A такое, что A = σ-co(A1 ). Пусть f – вогнутая неотрицательная функция на множестве A, удовлетворяющая условию (∗). Если выполнено одно из следующих условий: a) множество A устойчиво и отображение M a (A1 ) ∋ µ 7→ b(µ) ∈ A открыто, b) функция f полунепрерывна снизу, то достаточное условие непрерывности функции f на подмножестве B ⊆ A имеет вид X lim sup ∆k (x|f ) = 0, ∆k (x|f ) = inf a f (x) − πi f (xi ) . (10) {πi ,xi }∈Mx (Ak ) k→+∞ x∈B i Если выполнены оба условия a) и b), то (10) – необходимое и достаточное условие непрерывности функции f на компактном подмножестве B ⊆ A. Условие a) всегда выполнено, если множество A устойчиво и A1 = extrA. Замечание 6. Поскольку ∆k (x|f ) = f (x)−fk (x), условие (10) означает равномерную сходимость последовательности {fk } к функции f на множестве B. Замечание 7. Применение достаточного условия непрерывности в теореме 2 основано на нахождении удобной оценки сверху для величины, записанной в квадратных скобках в (10) (см. пример 2), необходимость этого условия дает возможность получать утверждения вида “если функция f непрерывна на подмножестве B ⊆ A, то функция f (или функция, связанная с функцией f ) непрерывна на подмножестве B ′ ⊆ A, которое получено из B посредством операций, сохраняющих малость величины ∆k (x|f )” (см. [12, § 5]). Доказательство теоремы 2. Если выполнено условие a), то fk ∈ C(A) для всех k в силу предложения 3. Поэтому из условия (10) в силу замечания 6 следует непрерывность функции f на множестве B. Если, дополнительно, функция f полунепрерывна снизу, то в силу леммы 4 и леммы Дини условие (10) равносильно непрерывности функции f на компактном множестве B. Если выполнено условие b), то для доказательства непрерывности функции f на множестве B достаточно показать ее полунепрерывность сверху и ограниченность на этом множестве. Заметив, что все подмножества семейства {Ak } замкнуты в силу леммы 3, рассмотрим последовательность функций Z A ∋ x 7→ fkµ (x) = sup f (y) µ(dy), k = 1, 2, . . . µ∈Mx (Ak ) Ak (полунепрерывность снизу функции f гарантирует ее измеримость). Поскольку для функции f выполнено интегральное неравенство Йенсена (см. замечание 8 в приложении), имеем fk 6 fkµ 6 f, fkµ A = f A , k k а из предложения 1 согласно замечанию 5 следует полунепрерывность сверху и ограниченность всех функций данной последовательности. Поэтому из 220 М. Е. ШИРОКОВ условия (10) в силу замечания 6 следует полунепрерывность сверху и ограниченность функции f на множестве B. Последнее утверждение следует из µ-компактной версии теоремы Вестерстрема–О’Брайена [10, теорема 1] и леммы 2. Теорема доказана. Пример 2. Продолжая пример 1, получим с помощью теоремы 2 критерий локальной непрерывности для энтропии Шеннона. Если f = S, то выражение в квадратных скобках из (10) можно представить в виде X X S(x) − πi S(xi ) = πi S(xi ∥ x), i i где S( · ∥ · ) – относительная энтропия (расстояние Кулбака–Лейблера [20]), j ∞ определяемая для произвольных распределений x = {xj }∞ j=1 и y = {y }j=1 из P+∞ выражением (P ∞ j j j j j i=1 x ln(x /y ), {y = 0} ⇒ {x = 0}, S(x∥ y) = +∞ в противном случае. Теорема 2 дает следующий критерий локальной непрерывности энтропии Шеннона: функция x 7→ S(x) непрерывна на компактном подмножестве P ⊆ P+∞ тогда и только тогда, когда X lim sup ∆k (x|S) = 0, где ∆k (x|S) = inf πi S(xi ∥ x). (11) k ) {πi ,xi }∈Mxa (P+∞ k→+∞ x∈P i Этот критерий можно применять непосредственно, используя хорошо известные свойства относительной энтропии. Например, в силу совместной выпуклости и полунепрерывности снизу относительной энтропии из выполнимости (11) для выпуклых подмножеств P′ и P′′ множества P+∞ следует выполнимость (11) для выпуклого замыкания co(P′ ∪ P′′ ) этих подмножеств. Поэтому указанный выше критерий непрерывности показывает, что из непрерывности энтропии Шеннона на выпуклых замкнутых подмножествах P′ и P′′ следует 9 ее непрерывность на их выпуклом замыкании co(P′ ∪ P′′ ). Приведенный выше критерий непрерывности также можно применить, используя оценку ∆k (x|S) 6 S(k(x)), k ∈ N, (12) где k(x) – распределение вероятностей, полученное из распределения x “укрупнением” k-го порядка, т. е. (k(x))j = x(j−1)k+1 + · · · + xjk для всех j = 1, 2, . . . . Эта оценка доказывается с помощью разложения x= ∞ X λki pki (x), i=1 = (k(x)) и pki (x) – такое распределение, что (pki (x))j = (λki )−1 xj для − 1)k + 1, ik и (pki (x))j = 0 для других j, поскольку нетрудно проверить, λki где j = (i что i ∞ X i=1 9 Можно λki S(pki (x)∥ x) = ∞ X λki (− ln λki ) = S(k(x)). i=1 показать, что из непрерывности энтропии Шеннона на выпуклом подмножестве множества P+∞ следует относительная компактность этого подмножества. СВОЙСТВО УСТОЙЧИВОСТИ ВЫПУКЛЫХ МНОЖЕСТВ 221 С учетом оценки (12) из приведенного выше критерия непрерывности можно получить следующее Утверждение 1. Пусть x0 – распределение из P+∞ с конечной энтропией Шеннона. Энтропия Шеннона непрерывна на множестве {x ∈ P+∞ | x ≺ x0 }, (13) где x ≺ y означает, что распределение y = {y j }∞ чем распреj=1 более хаотично, Pn Pn j в смысле Ульмана [21], [22], т. е. что x b > j=1 ybj деление x = {xj }∞ j=1 j=1 y j }∞ при каждом натуральном n, где последовательности {b xj }∞ j=1 полуj=1 и {b j ∞ j ∞ чены из последовательностей {x }j=1 и {y }j=1 расстановкой их элементов в невозрастающем порядке 10 . Действительно, считая, что элементы распределений x и x0 расположены в невозрастающем порядке, имеем x ≺ x0 ⇒ k(x) ≺ k(x0 ) ⇒ S(k(x)) 6 S(k(x0 )) в силу вогнутости Шура (the Shur concavity) энтропии Шеннона [22]. Поэтому выполнение (11) для множества (13) следует из (12) и легко проверяемой импликации S(x0 ) < +∞ ⇒ limk→+∞ S(k(x0 )) = 0. Основной областью практического использования результатов данного параграфа является квантовая теория информации, задачи которой требуют исследования аналитических свойств и аппроксимации различных энтропийных характеристик квантовых систем и каналов. В этом случае роль множества A играет µ-компактное и устойчивое множество квантовых состояний – операторов плотности в сепарабельном гильбертовом пространстве. Основой для использования этих результатов служит то обстоятельство, что многие важные энтропийные характеристики, являясь разрывными и принимающими бесконечные значения функциями на множестве всех квантовых состояний, имеют непрерывные ограниченные сужения на множество состояний ранга 6 k (которое играет роль множества Ak ) при каждом k. Простейшим (и важнейшим) примером является энтропия фон Неймана (некоммутативный аналог энтропии Шеннона), для которой теорема 2 (точнее, ее редуцированный вариант) дает критерий локальной непрерывности, позволивший получить ряд полезных “условий сходимости” [12]. Применение результатов настоящего параграфа для исследования других энтропийных характеристик квантовых систем и каналов рассмотрено в [19, § 6]. § 6. Приложение Для любой борелевской функции f на замкнутом подмножестве B ⊆ A рассмотрим функционал Z M (B) ∋ µ 7→ f (µ) = f (x) µ(dx). (14) B 10 Отношение ≺ противоположно отношению мажоризации в линейной алгебре [23]. 222 М. Е. ШИРОКОВ Нетрудно показать, что этот функционал полунепрерывен снизу (соответственно, полунепрерывен сверху) если функция f полунепрерывна снизу и ограничена снизу (соответственно, полунепрерывна сверху и ограничена сверху) [13]. Доказательство предложения 1. Функция fˆBµ корректно определена на множестве co(B) в силу леммы 1. В силу полунепрерывности сверху функционала f , определенного в (14), и компактности множества Mx (B) при каждом x из co(B) (которая следует из µ-компактности множества A) точная верхняя грань в определении величины fˆBµ (x) достигается на некоторой мере µx из Mx (B) такой, что fˆBµ (x) = f (µx ). Если функция fˆBµ не является полунепрерывной сверху, то существует последовательность {xn } ⊂ co(B), сходящаяся к x0 ∈ co(B) и такая, что ∃ lim fˆBµ (xn ) > fˆBµ (x0 ). n→+∞ (15) Как показано выше, при каждом n существует такая мера µn ∈ Mxn (B), что fˆBµ (xn ) = f (µn ). Из µ-компактности множества A следует существование подпоследовательности {µnk }, сходящейся к некоторой мере µ0 из M (B). В силу непрерывности отображения µ 7→ b(µ) мера µ0 лежит в Mx0 (B). В силу полунепрерывности сверху функционала f имеем fˆBµ (x0 ) > f (µ0 ) > lim sup f (µnk ) = lim fˆBµ (xnk ), k→+∞ k→+∞ что противоречит (15). Доказательство предложения 2. A) Функция fˆBµ корректно определена на множестве co(B) в силу леммы 1. Если функция fˆBµ не является полунепрерывной снизу, то существует последовательность {xn } ⊂ co(B), сходящаяся к x0 ∈ co(B) и такая, что ∃ lim fˆBµ (xn ) < fˆBµ (x0 ). n→+∞ (16) Для ε > 0 пусть µε0 – мера из Mx0 (B) такая, что fˆBµ (x0 ) 6 f (µε0 ) + ε (где f – функционал, определенный в (14)). В силу открытости отображения M (B) ∋ µ 7→ b(µ) ∈ co(B) существуют подпоследовательность {xnk } и последовательность {µk } ⊂ M (B), сходящаяся к мере µε0 , такие, что b(µk ) = xnk при каждом k. В силу полунепрерывности снизу функционала f имеем fˆBµ (x0 ) 6 f (µε0 ) + ε 6 lim inf f (µk ) + ε 6 lim fˆBµ (xnk ) + ε, k→+∞ k→+∞ что противоречит (16) (поскольку ε произвольно). B) Функция fˆBσ корректно определена и вогнута на множестве σ-co(B). Полунепрерывность снизу этой функции доказывается очевидной модификацией рассуждений из доказательства части А). Если σ-co(B) = co(B), то в силу полунепрерывности снизу вогнутой ограниченной снизу функции fˆBσ для нее выполнено интегральное неравенство Йен сена (см. приведенное ниже замечание 8). Поскольку fˆBσ B > f в силу определения fˆBσ , имеем Z Z fˆBσ (x) > fˆBσ (y) µ(dy) > f (y) µ(dy) B B СВОЙСТВО УСТОЙЧИВОСТИ ВЫПУКЛЫХ МНОЖЕСТВ 223 для любого x ∈ co(B) и любой меры µ из Mx (B). Следовательно, fˆBσ > fˆBµ , и поэтому fˆBσ = fˆBµ . Замечание 8. Интегральное неравенство Йенсена Z f b(µ) > f (x) µ(dx), µ ∈ M (A), A имеет место для вогнутой неотрицательной функции f на выпуклом множестве A при условии ее полунепрерывности снизу. Это можно показать, аппроксимируя меру µ последовательностью мер с конечным носителем и тем же самым барицентром и учитывая полунепрерывность снизу функционала f . Заметим, что условие полунепрерывности снизу функции f является существенным (его нельзя заменить условием измеримости функции f ). Автор благодарен участникам семинара В. М. Тихомирова (МГУ) за обсуждение результатов и полезные замечания. Список литературы 1. А. Д. Иоффе, В. М. Тихомиров, Теория экстремальных задач, Наука, М., 1974; англ. пер.: A. D. Ioffe, V. M. Tihomirov, Theory of extremal problems, Stud. Math. Appl., 6, North-Holland, Amsterdam–New York, 1979. 2. Е. С. Половинкин, М. В. Балашов, Элементы выпуклого и сильно выпуклого анализа, 1-е изд., Физматлит, М., 2004. 3. J. Vesterstrøm, “On open maps, compact convex sets, and operator algebras”, J. London Math. Soc. (2), 6 (1973), 289–297. 4. A. Lima, “On continuous convex functions and split faces”, Proc. London Math. Soc. (3), 25 (1972), 27–40. 5. R. C. O’Brien, “On the openness of the barycentre map”, Math. Ann., 223:3 (1976), 207–212. 6. S. Papadopoulou, “On the geometry of stable compact convex sets”, Math. Ann., 229:3 (1977), 193–200. 7. A. Clausing, S. Papadopoulou, “Stable convex sets and extremal operators”, Math. Ann., 231:3 (1978), 193–203. 8. R. Grzaślewicz, “Extreme continuous function property”, Acta Math. Hungar., 74:1–2 (1997), 93–99. 9. J. Lukeš, J. Malý, I. Netuka, J. Spurný, Integral representation theory. Applications to convexity, Banach spaces and potential theory, de Gruyter Stud. Math., 35, de Gruyter, Berlin–New York, 2010. 10. В. Ю. Протасов, M. E. Широков, “Обобщенная компактность в линейных пространствах и ее приложения”, Матем. сб., 200:5 (2009), 71–98; англ. пер.: V. Yu. Protasov, M. E. Shirokov, “Generalized compactness in linear spaces and its applications”, Sb. Math., 200:5 (2009), 697–722. 11. А. С. Холево, Статистическая структура квантовой теории, ИКИ, М.–Ижевск, 2003; англ. пер.: A. S. Holevo, Statistical structure of quantum theory, Lect. Notes Phys. Monogr., 67, Springer-Verlag, Berlin, 2001. 12. M. E. Shirokov, “Continuity of the von Neumann entropy”, Comm. Math. Phys., 296:3 (2010), 625–654. 13. П. Биллингсли, Сходимость вероятностных мер, Наука, М., 1977; пер. с англ.: P. Billingsley, Convergence of probability measures, Wiley, New York–London–Sydney, 1968. 224 М. Е. ШИРОКОВ 14. K. R. Parthasarathy, Probability measures on metric spaces, Academic Press, New York–London, 1967. 15. Н. Н. Вахания, В. И. Тариеладзе, “Ковариационные операторы вероятностных мер в локально выпуклых пространствах”, ТВП, 23:1 (1978), 3–26; англ. пер.: N. N. Vakhania, V. I. Tarieladze, “Covariance operators of probability measures in locally convex spaces”, Theory Probab. Appl., 23:1 (1978), 1–21. 16. C. D. Aliprantis, K. C. Border, Infinite dimensional analysis, Springer-Verlag, Berlin, 2006. 17. L. Q. Eifler, “Open mapping theorems for probability measures on metric spaces”, Pacific J. Math., 66:1 (1976), 89–97. 18. G. A. Edgar, “On the Radon–Nikodým property and martingale convergence”, Vector space measures and applications (Dublin, 1977), Lecture Notes in Math., 645, Springer-Verlag, Berlin–New York, 1978, 62–76. 19. M. E. Shirokov, Continuity condition for concave functions on convex µ-compact sets and its applications in quantum physics, arXiv: abs/1006.4155. 20. S. Kullback, Information theory and statistics, Wiley, New York, 1959. 21. P. M. Alberti, A. Uhlmann, Stochasticity and partial order, Math. Monogr., 18, VEB, Berlin, 1981. 22. A. Wehrl, “How chaotic is a state of a quantum system?”, Rep. Math. Phys., 6 (1974), 15–28. 23. R. Bhatia, Matrix analysis, Grad. Texts in Math., 169, Springer-Verlag, New York, 1997. М. Е. Широков (M. E. Shirokov) Математический институт им. В. А. Стеклова РАН E-mail : msh@mi.ras.ru Поступило в редакцию 15.02.2011