针对光学相机通信（Optical Camera Communication，OCC）链路收发两端不同步和相机帧间间隔等因素引起OCC链路数据丢失的问题，本文在分析相机接收机卷帘快门工作机制的基础上，研究了光电二极管(Light Emitting Diode，LED)-相机OCC链路的基本工作原理，以及相机像素行数、像素行读取时间、拍摄帧速率、拍摄角度姿态等因素对OCC链路数据传输速率、链路丢帧率等参数的影响，并针对OCC链路的特点，设计了一种新型的适用于OCC链路的数据帧结构.通过对比分析发现，使用该数据帧的OCC链路，可以有效地解决收发端不同步和相机帧间间隔引起的OCC链路数据丢失的问题，优于常用的交错Hamming码和Raptor码帧结构.最后，本文设计搭建了相关的OCC链路测试平台，通过对比数字仿真结果和实际测量结果，验证了理论分析的有效性.

涡旋光是一种携带轨道角动量(Orbital Angular Momentum, OAM)的特殊光束,由于携带不同OAM的涡旋光之间相互正交，并且OAM无限取值的特性，使得其可为光通信系统提供一个新的物理维度，因此吸引了国内外众多学者的关注.随着OAM光通信技术的研究深化，各类OAM通信系统得到了飞速发展，但通信系统中的能量利用效率问题却较少受到关注.本文聚焦近期典型成果中的OAM光束的产生、检测以及整体通信系统的能量利用效率，对之进行概括，并对未来OAM光通信系统的能量利用效率的发展趋势及前景进行分析与展望.

无线光通信系统中的指向误差对光功率的几何衰减产生影响，导致系统接收光功率的下降，影响系统性能.为了精确分析指向误差对无线光通信系统性能的影响，本文基于高斯光束光强分布推导了圆形孔径下无线光通信系统接收光功率几何衰减模型的精确解析解，仿真了不同参数条件下指向误差对系统几何衰减的影响，验证了解析解的准确性，并与现有模型进行了比较分析.结果表明，采用现有近似模型计算几何衰减存在的误差不能忽略，因此在圆形孔径下进行模型推导更符合实际情况.在无线光通信点对点通信及组网通信时，采用本文所得的指向误差下的高斯光束几何衰减解析模型更为精确.

针对带内全双工（In-band Full Duplex, IBFD）电子系统的收发机自干扰问题，提出了一种基于相位调制器的光子射频自干扰消除系统.利用两个相位调制器在萨格纳克（Sagnac）环中分别实现接收信号和本地参考干扰信号的调制，通过偏振控制最终可在光域中消除自干扰信号.实验结果表明，所提方案最终可以实现超过45dB的单频干扰消除和超过25dB的宽带干扰消除，系统的动态范围可达99.4dB·Hz^2/3.

大气湍流引起的光束闪烁和抖动，将使光通信接收机焦平面上点扩散函数（Point Spread Function, PSF）随机起伏和漂移，导致光电探测器无法有效覆盖信号光场.针对自由空间光通信（Free Space Optical Communications, FSO）系统在多模高斯背景光噪声场和接收光信号能量效率的限定下最小化系统误码率的问题，提出了一种适用于强度调制/直接检测（Intensity Modulation/Direct Detection, IM/DD）的自适应光电阵列信号处理算法.该方法采用合并阵元路径法计算不同阵元数条件下的系统误码率，并以最小误码率为判决准则，优化接收光电阵元序列.分析和仿真结果表明，在相同大气湍流和背景光噪声条件下，相比于现有的光电阵列处理算法，新方法选取适当的合并阵元数，在极大降低系统计算复杂度的同时，系统性能损耗几乎可以忽略.

本文提出了一种高线性度的全双工光载射频系统.该系统克服了下行链路三阶交调失真与周期性功率衰落的影响，同时对上行链路进行波长重用，简化了基站的成本和复杂度，实现了高线性度的全双工光载射频系统.实验结果表明，与基于单个马增调制器的常规系统相比，本系统下行链路中三阶交调失真得到明显抑制，克服了光纤色散引起的功率衰落，系统无杂散动态范围提高17dB，宽带信号的星座图和误差矢量幅度改善明显，另外，上行链路可以实现稳定的波长重用及宽带信号传输.

为了有效地管理VLC-WiFi异构网络的小区间干扰，该文设计基于用户中心接入的动态载波分配(DCAUCA)方法，该方法依据用户请求速率构建大小不同的multi-AP小区，对各multi-AP小区依据用户请求速率与网络服务速率的差值降序排列，并依次为各multi-AP小区的VLC AP分配载波.同时，提出基于VLC AP发射功率控制的小区残余干扰抑制(RISPC)策略以进一步优化干扰管理效果.仿真结果表明，DCAUCA方法相较于对比方法最高可提升52.15%的系统吞吐量与7.10%的用户满意度，RISPC策略相较于DCAUCA方法最高可提升9.66%的系统吞吐量.

非线性失真是影响光载无线通信链路无杂散动态范围和工作带宽的主要因素.通过结合射频功率比、偏振复用和偏置控制技术，针对分布式天线系统，构建了一种大动态范围和跨倍频程带宽多通道光载无线通信链路.利用拉格朗日乘子法对所提链路进行线性度优化建模，得到了射频输出功率、偏振入射角和射频功率比之间的最佳折衷，从而在抑制三阶交调失真和二阶谐波失真的基础上，实现了链路线性度的最优化.仿真和实验结果验证了所提方案的有效性和可行性.

携带轨道角动量的涡旋光束在自由空间光通信信道中传输时，信道中的湍流介质会改变涡旋光束的传播特性，破坏波前螺旋结构，最终直接影响通信的稳定性和可靠性.针对现有实验研究在普适性方面的不足，本文选取基于相干光束合成技术的高功率涡旋光束阵列为研究光源，从理论角度出发，建立一套完备的体系架构，用以分析大气湍流引起的幅度和相位起伏对基于轨道角动量的自由空间光通信系统性能的影响.应用光学外差检测，对湍流条件下信噪比的随机分布进行详细的研究，并基于此得到多进制相移键控调制下符号错误概率的解析表达式，评估不同湍流信道参数、光源参数以及接收机参数对符号错误概率的影响.结果表明，增大阵列子光束束腰半径、阵列子光束个数，减小阵列环状半径，可以提高光束质量，优化系统性能.另外，较小的拓扑荷数、传播距离和湍流强度以及较大的接收孔径直径使得符号错误概率较低，对应的通信性能更佳.

由于在性能和复杂度之间的良好折中，软信息辅助硬判决译码近年来受到了光通信领域的高度关注，其中包括了软信息辅助比特标记（Soft-Aided Bit-Marking, SABM）算法.为了易于硬件实现，本文基于阶梯码（Staircase Code, SCC）提出了一种改进型SABM算法（improved SABM, iSABM），称为iSABM-SCC.iSABM-SCC利用信道软信息，通过两个可信度阈值将硬判决输出比特标记为三种可信度等级，用以辅助硬判决译码识别译码错误和扩展纠错能力，达到提升阶梯码性能的目的.在受大气湍流影响的自由空间光通信中的仿真表明，iSABM-SCC性能显著优于标准SCC和RS码.以强湍流信道为例，码率为0.75的iSABM-SCC在4-PAM调制下较标准SCC产生的性能增益可达4.37 dB，在8-PAM调制下较RS码产生的性能增益可达11.06 dB.

为了提高室内电力线通信和可见光通信（PLC-VLC）系统的吞吐量和用户体验的公平性，该文提出一种改进遗传算法优化用户配对联合子载波分配(IGA-JUPSA)方法.在IGA-JUPSA的用户配对阶段，设计了最优的非正交多址技术(NOMA)用户配对方法，提高PLC-VLC系统的吞吐量；在IGA-JUPSA 的子载波分配阶段，设计NOMA与正交多址技术结合的子载波分配策略，设计改进的遗传算法优化不同NOMA组的子载波分配，提高系统的吞吐量和用户体验的公平性.仿真结果表明，所提的用户配对和子载波联合方法可以提高PLC-VLC系统的吞吐量和用户体验的公平性.

为了建立同频干扰条件下的混合射频/自由空间光（Radio Frequency/Free Space optical, RF/FSO）航空中继通信系统链路精确模型，提出多用户分集（Multi-User Diversity, MUD）的航空平台RF/FSO混合链路性能分析方法.以独立且同分布的Nakagami-m衰落信道表征射频（Radio Frequency, RF）用户信号和同频干扰（Co-Channel Interference, CCI）信号信道；构建了指数Weibull分布大气湍流与Rayleigh分布指向误差的FSO信道传输模型；在电光转换中继节点采用解码转发协议降低噪声累积.基于系统端到端等价信噪比累积分布函数，获得了RF/FSO混合链路中断概率及平均误码率表达式.研究结果表明，采用相干二进制相移键控调制时，系统误码性能最优；可通过增加用户数的方式来减弱干扰信号的影响.

论文基于涡旋光束传输特性及光散射理论，研究了叠加态涡旋光束经旋转随机粗糙表面的场分布及干涉特性.对拓扑荷值大小相同、符号相反的两束涡旋光进行了叠加生成仿真及实验，利用角谱衍射理论，分析了旋转随机粗糙表面均方根粗糙度对光束传输的影响，数值计算了不同拓扑荷值的叠加态涡旋光束经旋转随机粗糙表面后，与参考光进行干涉得到不同转速下归一化强度值随时间变化的曲线，并通过光强-时间函数间接求得频移量,再反演得到旋转目标的转速.结果表明：通过仿真曲线的周期反演频率，当转速Ω分别为2π/3 rad/s，2π rad/s，10π/3 rad/s时，对应的频移Δf分别为2/3Hz，2Hz，10/3Hz.研究结果可以为叠加涡旋光的调控及应用提供理论参考.

本文提出了一种应用于可见光蜂窝网的自由曲面光学发射天线，用于改善整个网络范围内的信号质量以提高系统的通信性能.首先基于能量映射关系和斯涅尔定律，设计了目标光分布区域为矩形的基于自由曲面透镜的光学发射天线，应用该天线能使半导体发光二极管（LED）光源发出的光信号均匀分布在0.8 m × 0.8 m的正方形范围内.而后将设计的光学发射天线应用于可见光蜂窝网，并进一步对网络接收区域的光信号质量和系统性能做了分析.结果表明，在一个3 m × 3 m × 3 m房间中安装有16个LED光源作为接入点，采用所设计的自由曲面光学发射天线，网络覆盖区域的光信号分布均匀度达到了0.8以上，同信道干扰基本消除，平均信干噪比为12.6 dB，系统具有较好的误码率性能，能够有效地保证可见光蜂窝网的通信质量.