經典譯叢·信息與通信技術 認知網絡測量與大數據
作者:[美] Robert,Qiu(邱才明),Michael,Wicks(M. 威克斯) 著,宋彬 等譯
出版時間: 2016年版
內容簡介
本書系統論述了大規模網絡下認知測量的基本理論及某些應用問題,基本涵蓋了認知測量在理論和實際應用中各個方面的內容。全書包括隨機矩陣和的性質,隨機矩陣的集中不等式性質及高維大數據矩陣特征值的集中不等式性質,隨機矩陣的非漸進和局部性質及漸進和全局性質。本書還詳細介紹了認知測量理論在其他學科中的具體應用,包括壓縮感知、矩陣填充、低秩矩陣恢復、高維協方差矩陣估計、高維信號檢測、概率條件受限的優化問題求解等。本書最后討論了相關理論在大數據應用中的分析方法。
目錄
第一部分理論 第 1章數學基礎 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .2 1.1概率論基本知識. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .2 1.1.1聯合界. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .2 1.1.2獨立性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .2 1.1.3二維隨機變量 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .3 1.1.4馬爾可夫、切比雪夫不等式和切爾諾夫界 . . . . . . . . . . . . . . . . . . . . . . . .3 1.1.5特征函數和傅里葉變換 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .4 1.1.6概率密度函數的拉普拉斯變換 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .5 1.1.7概率母函數 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .5 1.2獨立的隨機標量之和與中心極限定理 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .6 1.3獨立的隨機標量之和及幾個典型的偏差不等式 . . . . . . . . . . . . . . . . . . . . . . . . . . .7 1.3.1由概率界到期望界的轉換 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .8 1.3.2 Hoe?ding不等式. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .8 1.3.3伯恩斯坦不等式 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .9 1.4概率論與矩陣分析 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .11 1.4.1特征值、跡以及埃爾米特矩陣之和 . . . . . . . . . . . . . . . . . . . . . . . . . . . .11 1.4.2半正定矩陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .11 1.4.3半正定矩陣的偏序 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .12 1.4.4矩陣函數 f(A)的定義 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .13 1.4.5矩陣與向量的范數 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .13 1.4.6期望 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .14 1.4.7矩和尾概率 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .16 1.4.8隨機向量與 Jensen不等式 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .19 1.4.9收斂 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .19 1.4.10獨立的隨機標量之和:切爾諾夫不等式 . . . . . . . . . . . . . . . . . . . . . . . . .19 1.4.11隨機矩陣的期望 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .20 1.4.12特征值和譜范數 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .20 1.4.13譜映射. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .21 1.4.14算子凸性與單調性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .22 1.4.15矩陣函數之跡的單調性和凸性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .23 1.4.16矩陣指數 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .24 1.4.17 Golden-Thompson不等式 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .24 1.4.18矩陣對數 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .25 1.4.19量子相對熵和布雷格曼散度 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .25 1.4.20 Lieb定理 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .27 1.4.21矩陣擴張 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .28 1.4.22半正定矩陣和偏序 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .28 1.4.23期望與半定序 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .29 1.4.24概率的矩陣表示 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .29 1.4.25等距性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .29 1.4.26特征值的 Courant-Fischer性質. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .30 1.5由非獨立到獨立的解耦 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .30 1.6隨機矩陣的基礎知識 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .35 1.6.1傅里葉法 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .36 1.6.2矩的方法 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .36 1.6.3復高斯隨機矩陣的期望矩 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .36 1.6.4埃爾米特高斯隨機矩陣 HGRM(n, σ2). . . . . . . . . . . . . . . . . . . . . . . . . .37 1.6.5高斯隨機矩陣 GRM(m, n, σ2) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .39 1.7亞高斯隨機變量. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .40 1.8亞高斯隨機向量. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .42 1.9亞指數隨機變量. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .43 1.10 ε-網. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .44 1.11拉德馬赫均值與對稱化 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .45 1.12作用于亞高斯隨機向量的算子 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .47 1.13隨機過程的上確界 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .49 1.14伯努利序列 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .50 1.15由隨機矩陣和到隨機向量和的轉換. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .50 1.16線性有界緊算子. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .52 1.17自伴隨緊算子的譜 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .53 第 2章矩陣值隨機變量之和 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .55 2.1隨機矩陣和的推導方法 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .55 2.2矩陣拉普拉斯變換方法 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .56 2.2.1方法 1——Harvey推導 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .56 2.2.2方法 2——Vershynin推導. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .59 2.2.3方法 3——Oliveria推導 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .60 2.2.4方法 4——Ahlswede-Winter推導 . . . . . . . . . . . . . . . . . . . . . . . . . . . . .61 2.2.5方法 5——Gross, Liu, Flammia, Becker以及 Eisert ...............68 2.2.6方法 6——Recht推導 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .68 2.2.7方法 7——Wigderson和 Xiao推導. . . . . . . . . . . . . . . . . . . . . . . . . . . .69 2.2.8方法 8——Tropp推導. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .69 2.3矩陣累積量的拉普拉斯變換方法 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .69 2.4矩母函數的不適用性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .70 2.5矩陣累積量母函數的次可加性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .71 2.6獨立隨機矩陣之和的尾概率界 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .72 2.7矩陣高斯級數——個例研究 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .74 2.8應用:具有非均勻方差的高斯矩陣. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .76 2.9期望控制 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .76 2.10隨機半正定矩陣的和 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .78 2.11矩陣 Bennett和伯恩斯坦不等式 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .81 2.12隨機矩陣之和的所有特征值的尾概率界 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .82 2.13內部特征值的切爾諾夫界. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .84 2.14通過隨機矩陣和完成線性濾波 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .86 2.15隨機矩陣和的無維數限制不等式 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .88 2.16一些欣欽型不等式 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .90 2.17半正定矩陣的稀疏和 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .93 第 3章測量的集中性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .94 3.1測量的集中現象. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .94 3.2卡方分布 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .95 3.3隨機向量的測量集中性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .96 3.4 Slepian-Fernique引理和高斯隨機矩陣的測量集中性 . . . . . . . . . . . . . . . . . . . . 103 3.5 Dudley不等式. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 105 3.6誘導算子范數的集中 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 107 3.7高斯和 Wishart隨機矩陣的測量集中性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 112 3.8算子范數的測量集中性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 117 3.9亞高斯隨機矩陣的測量集中性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 120 3.10最大特征值的測量集中性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 123 3.10.1 Talagrand不等式方法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 124 3.10.2鏈方法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 124 3.10.3一般隨機矩陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 125 3.11隨機向量投影的測量集中性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 126 3.12進一步討論 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 128 第 4章特征值及其函數的集中性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .129 4.1特征值和范數的上確界表示 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 129 4.2特征值的利普希茨映射 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 131 4.3矩陣特征值和矩陣跡的平滑性及凸性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 132 4.4矩陣函數的泰勒級數近似法 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 137 4.5 Talagrand集中不等式 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 140 4.6維格納隨機矩陣的譜測度集中理論. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 141 4.7隨機矩陣的非可交換多項式集中性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 144 4.8 Wishart隨機矩陣的譜測度集中性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 145 4.9兩個隨機矩陣和的集中性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 153 4.10子矩陣的集中性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 154 4.11矩方法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 154 4.12跡函數的集中性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 158 4.13特征值的集中性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 158 4.14大隨機矩陣函數的集中性:線性譜統計量 . . . . . . . . . . . . . . . . . . . . . . . . . . . . 159 4.15二次型的集中性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 161 4.16隨機向量和子空間的距離. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 167 4.17斯蒂爾切斯變換域的隨機矩陣集中性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 169 4.18馮·諾依曼熵函數的集中性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 171 4.19隨機過程的上確界 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 173 4.20進一步討論 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 173 第 5章隨機矩陣的局部非漸近性理論 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .175 5.1符號記法和基礎知識 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 175 5.2迷向凸體 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 176 5.3對數凹的隨機向量 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 178 5.4 Rudelson定理 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 179 5.5行獨立的樣本協方差矩陣. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 181 5.6對數凹迷向隨機向量的集中理論 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 187 5.6.1 Paouris集中不等式. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 187 5.6.2非增重排及次序統計量 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 189 5.6.3樣本協方差 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 189 5.7小球概率的集中不等式 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 191 5.8矩估計. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 193 5.8.1對數凹的迷向隨機向量的矩 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 194 5.8.2凸測度的矩 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 196 5.9隨機矩陣的大數定律 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 198 5.10低秩近似 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 201 5.11元素相互獨立的隨機矩陣. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 203 5.12具有獨立行向量的隨機矩陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 204 5.12.1獨立的行 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 204 5.12.2重尾分布的行 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 205 5.13協方差矩陣的估計 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 207 5.14奇異值的集中性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 210 5.14.1緊致小偏差 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 211 5.14.2高矩陣. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 211 5.14.3近似方陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 211 5.14.4方陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 212 5.14.5長方形矩陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 212 5.14.6隨機矩陣和確定性矩陣的乘積 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 213 5.14.7隨機矩陣的行列式 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 215 5.15隨機矩陣的可逆性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 217 5.16奇異值的普適性. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 218 5.16.1隨機矩陣加確定的矩陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 221 5.16.2協方差矩陣和相關矩陣的普適性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 224 5.17進一步討論 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 226 第 6章隨機矩陣的全局漸近理論. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .228 6.1大隨機矩陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 228 6.2極限分布律 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 229 6.3矩方法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 229 6.4斯蒂爾切斯變換. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 230 6.5自由概率 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 232 6.5.1概念 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 232 6.5.2實際意義 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 233 6.5.3定義和基本性質 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 234 6.5.4自由獨立性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 235 6.5.5自由卷積 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 236 6.6斯蒂爾切斯,R和 S變換表格. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 237 第二部分應用 第 7章壓縮感知與稀疏重構 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .241 7.1壓縮感知 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 241 7.2 JL引理與 RIP條件 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 243 7.3結構化隨機矩陣. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 249 7.4循環矩陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 249 7.5隨機測量矩陣與確定性字典 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 249 7.6部分隨機循環矩陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 255 7.7時頻結構化矩陣. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 260 7.8混沌過程的上確界 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 263 7.9特普利茨隨機矩陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 265 7.10確定性矩陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 266 第 8章矩陣填充與低秩矩陣重構. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .267 8.1低秩矩陣恢復 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 267 8.2矩陣 RIP性質. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 268 8.3重構誤差限 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 269 8.4假設檢驗 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 269 8.5高維統計學 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 270 8.6矩陣壓縮感知 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 271 8.6.1觀測模型 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 271 8.6.2核范數正則化 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 271 8.6.3限制強凸性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 272 8.6.4低秩矩陣重構的誤差限 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 272 8.7線性回歸 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 275 8.8多任務矩陣回歸. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 277 8.9矩陣填充 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 279 8.9.1正交分解與正交投影 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 279 8.9.2矩陣填充 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 280 8.10馮 ·諾依曼熵懲罰與低秩矩陣預測 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 282 8.10.1系統模型 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 282 8.10.2基于正交基的采樣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 283 8.10.3低秩矩陣估計 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 284 8.10.4所用工具 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 285 8.11大量凸成分函數和 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 285 8.12基于矩陣填充的相位恢復. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 287 8.12.1方法學. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 288 8.12.2基于凸優化的矩陣恢復 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 289 8.12.3相位空間成像 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 290 8.12.4自相關 RF斷層成像 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 291 8.13進一步討論 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 296 第 9章高維協方差矩陣估計 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .297 9.1大局觀:感知、通信、計算和控制 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 297 9.1.1接收信號強度 (RSS)及其在異常檢測中的應用 . . . . . . . . . . . . . . . . . . 299 9.1.2非連續正交頻分復用 (NC-OFDM)波形及其在異常檢測中的應用 . . . . 299 9.2協方差矩陣估計. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 300 9.2.1經典協方差估計 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 300 9.2.2掩?;瘶颖緟f方差矩陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 301 9.2.3平穩時間序列的協方差矩陣估計 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 308 9.3協方差矩陣估計. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 309 9.4協方差矩陣的部分估計 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 310 9.5無限維數據的協方差矩陣估計 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 311 9.6信號加噪聲 Y = S + X的矩陣模型. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 312 9.7魯棒的協方差估計 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 315 第 10章高維檢測 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .317 10.1 OFDM雷達 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 317 10.2主成分分析 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 317 10.3稀疏主成分 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 319 10.4基于隨機矩陣之和的信息加噪模型. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 320 10.5矩陣假設檢驗 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 321 10.6隨機矩陣檢測 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 322 10.7稀疏備擇假設的球形檢驗. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 325 10.8與隨機矩陣理論的聯系 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 326 10.8.1譜方法. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 326 10.8.2 Wishart矩陣的低秩擾動. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 327 10.9稀疏的主成分檢測 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 327 10.9.1 k稀疏最大特征值的集中不等式 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 327 10.9.2基于 λk 的假設檢驗 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 328 max 10.9.3稀疏特征值 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 329 10.10稀疏主成分檢驗的半定方法 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 329 10.10.1 λk 計算問題的半定松弛 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 329 max 10.10.2凸松弛的高概率界 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 330 10.10.3基于凸方法的假設檢驗 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 330 10.11稀疏向量估計 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 331 10.12高維向量檢測 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 332 10.13高維匹配子空間檢測 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 335 10.14基于壓縮感知的高維向量子空間檢測 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 336 10.15數據矩陣檢測 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 338 10.16高維雙樣本檢驗. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 339 10.17與非可交換隨機矩陣假設檢驗的聯系 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 342 第 11章概率約束的優化問題 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .343 11.1問題描述 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 343 11.2隨機對稱矩陣之和 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 344 11.3隨機矩陣之和的應用 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 349 11.4機會約束的線性矩陣不等式 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 354 11.5概率約束的優化問題 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 354 11.6采用協同干擾機制的概率安全 AF中繼 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 357 11.6.1引言 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 357 11.6.2系統模型 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 358 11.6.3提出的方法 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 361 11.6.4仿真結果 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 364 11.7進一步討論 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 365 第 12章數據集的高效處理算法 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .366 12.1低秩矩陣近似 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 366 12.2矩陣算法的行采樣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 367 12.3近似矩陣乘法 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 368 12.4矩陣和張量稀疏化 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 369 12.5進一步討論 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 371 第 13章網絡到大數據 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .372 13.1大數據的大隨機矩陣 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 372 13.2高維假設檢測實例 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 373 13.3認知無線電網絡測試平臺. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 374 13.4無線分布式計算. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 375 13.5數據收集 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 376 13.6數據存儲與管理. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 376 13.7大數據集的數據挖掘 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 377 13.8無人飛行器對無線網絡移動性的利用 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 377 13.9智能電網 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 377 13.10從認知無線電網絡到復雜網絡和隨機圖 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 377 13.11隨機矩陣理論和集中測量. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 377 參考文獻 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .379