1.   引　言

近年来, 深度学习的发展正将机器学习求解物理问题引领到全新的高度. 在数据驱动框架下, 基于监督学习的机器学习方法在逆问题领域探索中取得了瞩目的成果^[1-3]. 其对任意函数可逼近及一经训练便能实现高效预测的特点, 在非线性问题的处理中展现出得天独厚的优势. 但随着该方案的普及, 其背后隐藏的问题也逐渐显露. 首先, 以数据驱动的网络模型需要大量预训练数据, 而这些数据采集所耗费的时间和人力成本通常非常昂贵^[4], 需要采集的预训练数据量有时甚至为待预测数据量的数倍; 此外, 神经网络在求解过程中往往作为黑盒模型存在, 明晰网络中变量隐含的数理意义也是人们所关心的焦点^[5]. 虽然有学者尝试将生成对抗网络^[6-8]、自适应对抗编码网络^[9,10]等人工智能领域前沿方案引入求解逆问题的解决方案中以减少数据量, 但收效甚微.

在此背景下, Raissi等^[11]提出了基于物理信息启发的神经网络(physics-informed neural networks, PINN)概念, 初步实现了由数据驱动向数理方程驱动的思想转型. 该方法利用神经网络框架所具有的自动微分特性, 使用数理问题的偏微分方程(partial differential equations, PDE)、初始条件(initial conditions, IC)及边界条件(boundary conditions, BC)构建神经网络的损失函数, 从而达到不需要预训练数据实现方程求解的目的. 随着PINN从理论走向应用, 学者们在热力学^[12]、流体力学^[13]、电磁学^[14]、光子学^[15]等众多领域的正逆问题中进行了广泛的实践和探索, 但在一些复杂问题中发现, PINN的求解效率和准确度出现了明显下降, 甚至有无法求解的情况. Wang等^[16,17]发现, 当损失函数中的PDE项、IC项及BC项权重不平衡时, 会导致PINN的网络训练收敛性变差.

针对这一问题, 目前解决方案的讨论主要分为两类: 一类是对损失函数的结构调整, 如部分学者提出采用构造损失函数加权方法, 或使用可训练的超参数平衡多项损失函数权重, 亦或在损失函数中增加额外的惩罚项进行改善^[16-19]; 另一类则是针对PINN计算采样点的讨论, 如Daw等^[20,21]从解的传播角度分析, 认为采用与训练误差相关的动态空间采点策略可使该问题得到改善. 这些方案虽然使问题得到了缓解, 但其调整均基于机器学习理论的最优化策略. 分析认为, 解决该类问题还需要对网络结构进行改进.

目前的PINN主要通过损失函数实现物理信息的融入, 而损失函数的本质是一类软约束条件, 因此将这种方式理解为一种“外挂式”的物理启发. 此外, 现有的PINN仍使用前馈神经网络或残差神经网络实现物理变量的逼近, 这种逼近方式虽然有理论支持, 但其神经元参数所蕴含的数理含义很难解释. 而在一些经典物理问题中, 物理量通常使用数学物理方法建立了相应数学物理模型(由偏微分方程及边界条件得到的基本解或近似解), 若借鉴这类模型改进现在常用的前馈神经网络, 从网络结构内部进行物理信息启发, 将使求解过程和损失函数得以简化从而解决问题.

通过改变网络结构实现逆设计已有先鉴, 比如文献[22]使用时域有限差分法的蛙跳计算过程构建循环神经网络, 并使用该网络实现了介质材料逆设计; 文献[17]则提出了在网络的输入与输出层进行硬边界条件改造的方案, 使用函数映射的方式实现了周期边界和狄利克雷边界条件, 并以此实现介质材料设计. 这些做法十分接近本文想要实现的物理融入方法, 不同的是文献[22]所提出的方法因本质为计算电磁学的数值方法, 在实际使用中仍不能摆脱大量的数值运算; 而文献[17]中仅对输入输出层做了修改, 网络的大部分结构仍采用前馈神经网络. 我们希望使用数学物理方法得到的基本解构建完整、高效的求解网络, 使网络间参数具有明确的数理意义, 本文称其为深度物理启发神经网络(deep physics-informed neural networks, DPINN).

DPINN相对传统PINN中的前馈神经网络具有更少的训练参量, 且能减少部分不必要的微分计算, 因此在网络训练效率上更具优势. 此外, 基本解已满足问题的部分微分方程或边界条件, 极大简化了需要从损失函数项约束的物理条件, 避免了多损失函数项产生的失衡问题. 更重要的是, 网络参数的可读性可以揭示问题对应的物理原理. 使用者也可以根据物理背景对参数进行查阅或调整, 提高了网络的可靠性.

为了验证我们的理论, 在微波频段的使用背景下, 本文以二端口矩形波导无源器件的散射参数为目标, 实现波导内纯金属结构加载的逆设计. 在第2节中对问题的背景及传统PINN网络实现进行讨论, 并以导波场论中的模式匹配方法为模型构建深度物理启发神经网络; 在第3节中, 给出了具体的数值案例, 分析了传统PINN和深度物理启发网络在逆问题求解过程中结果实现与性能差异, 讨论了深度物理启发神经网络所具备的优势; 在第4节对深度物理启发神经网络做出总结与展望.

2.   方法论

以矩形波导无源器件端口散射参数逆设计问题为例, 从实际应用角度探讨深度物理启发网络的构建方法.

2.1   逆设计问题背景

假设在$\left( {x, y, z} \right) \in {\mathbb{R}^3}$空间中, 有一尺寸为$a \times b \times l$且内部为真空、外部由理想电导体(perfect electric conductor, PEC)围成的二端口矩形波导, 如图1(a)所示. 令$0 < b\leqslant{\lambda }_{{\rm{min}}}/2\leqslant a\leqslant{\lambda }_{{\rm{min}}}$使波导端口工作在${\text{T}}{{\text{E}}_{10}}$模, 其中${\lambda _{\min }}$表示波导工作最小波长. 波导端口1位于$z = - {z_l}$, 端口2位于$z = {z_r}$. 本文的逆设计任务要求为: 通过在兴趣域内(波导内部$z = 0$截面)放置一些沿$y$方向贯穿、无损耗且厚度为可忽略不计的PEC薄片, 使波导端口实现所拟定的目标散射参数${S_{11}}\left( f \right)$和${S_{21}}\left( f \right)$, 其中${S_{11}}, {S_{21}} \in \mathbb{C}$, $f$对应不同的工作频率.

一般目标${S_{11}}\left( f \right)$和${S_{21}}\left( f \right)$由设计要求所提出. 在本例中, 为了保证拟定的目标散射参数是物理可实现的, 随机设置了一种如图1(b)所示的对称感性膜片加载结构, 并通过数值仿真获取该结构的散射参数作为给定的目标. 这一过程类似于逆散射问题的验证, 但并不能保证逆设计得到的结构一定与图1(b)中的结构一致. 所以在最终的验证中, 任意满足目标散射参数的结构都将被认为是有效的.

此外, 需要对兴趣域内的金属膜片的分布进行表示. 由于已经假定插入的金属薄片厚度忽略不计且沿$y$向不变, 其分布可用一维的二值函数表示, 在定义域$x \in \left( {0, a} \right)$写作

$$g\left(x\right)=\left\{\begin{aligned}&1,& x处为真空\text{, }\\& 0,& x处为金属. \end{aligned}\right.$$

(1)

2.2   传统PINN模型及其求解

在传统PINN技术框架下, 2.1节所述逆设计问题求解的网络拓扑可表示为图2. 传统PINN通常采用多层前馈神经网络实现所有关键物理量如电场、磁场及金属的分布, 可写作

$${\mathcal{N}_k}\left( {\boldsymbol{p}} \right) = \sigma \left( {{{\boldsymbol{W}}^k}{\boldsymbol{p}} + {{\boldsymbol{b}}^k}} \right),$$

(2)

$$\hat U\left( {\boldsymbol{p}} \right) = {\mathcal{N}_K} \circ {\mathcal{N}_{K - 1}} \circ \cdots \circ {\mathcal{N}_1}\left( {\boldsymbol{p}} \right)$$

(3)

其中U为E, H或g, p表示网络的输入向量, $\widehat{E}\text{和} \widehat{H}$网络输入由空间坐标$x, z$和频率$f$组成, 写作${{\boldsymbol{p}}_E}, {{\boldsymbol{p}}_H} = {\left( {\boldsymbol{{x, z, f}}} \right)^{\text{T}}}$; $\hat g$网络输入只与空间坐标$x$相关, 写作${{\boldsymbol{p}}_g} = {{\boldsymbol{x}}^{\text{T}}}$. $\sigma$为激活函数, ${{\boldsymbol{W}}^k}$为第$k$层权重矩阵, ${{\boldsymbol{b}}^k}$为第$k$层偏置向量, 为简明起见, 权重矩阵和偏置向量联合使用${\boldsymbol{\theta }}$表示. 所有物理信息以残差形式约束在损失函数中, 包括PDE项${L_{{\text{PDE}}}}$及BC项${L_{{\text{BC}}}}$. 其中${L_{{\text{BC}}}}$又包括波导外边界条件项${L_{{\text{waveguide}}}}$, 需逆设计的加载金属边界条件项${L_{{\text{design}}}}$, 以及器件端口处器件性能目标条件项${L_{{\text{object}}}}$等3个子项构成, 有些工作中还会对其中加入正则化项以改善最终收敛效果(如增广拉格朗日乘子罚函数), 该设置不是必须的所以不做讨论. 各项与权重系数相乘后的和作为最终的损失函数${L_{{\text{PINN}}}}$, 写作

$$\begin{split} L_\text{PINN} =\;& w_\text{p} L_\text{PDE} + w_\text{w}L_\text{waveguide} \\ & + w_\text{d} L_\text{design} + w_\text{o}L_\text{object}. \end{split}$$

(4)

容易发现, (4)式中损失函数项的权重系数选取将直接影响${\boldsymbol{\theta }}$的梯度方向, 导致模型收敛效果差, 最终影响逆设计的实现效果. 该问题始终是目前PINN研究的一个难点, 虽然已有一些缓解方案, 但是在所处理的电磁问题边界逆设计问题中效果并不显著, 仍十分具有挑战.

2.3   中度物理启发神经网络

面对PINN中遇到的问题, 本文给出的解决方案是构造满足大多损失函数项的神经网络, 使损失函数结构得到极致的简化. 如本问题中可以使用由亥姆霍兹方程和波导边界条件推得的基础解构建网络, 替代普通的前馈神经网络.

因入射模式为${\text{T}}{{\text{E}}_{10}}$且波导内结构在$y$向无变化, 腔内电场、磁场可使用${\text{T}}{{\text{E}}_{m0}}, m \in {\mathbb{N}^ + }$模式展开, 对横向场仅有${E}_{y}和{H}_{x}$分量, 纵向场${H_z}$可由横向场唯一确定. 波导在$z$方向的连续性在$z = 0$金属加载平面突变, 将波导空间分为$z < 0$的空间${\text{I}}$和$z > 0$的空间${\text{II}}$表示. 所以对频率$f$, 网络${\tilde{E}}_{y}和{\tilde{H}}_{x}$写作

$$\begin{split} {\tilde{E}}_{y}\left(x,z,f;C\right)=\left\{\begin{aligned} &{{\rm{sin}}\left(\dfrac{\text{π}x}{a}\right){\text{e}}^{-\text{j}{k}_{1}^{z}\left(z+{z}_{l}\right)}+{\displaystyle\sum_{m=1}^{\infty}{C}_{m}^{\text{I}}}}{\rm{sin}}\left(\dfrac{m\text{π}x}{a}\right){\text{e}}^{\text{j}{k}_{m}^{z}z},&z < 0\text{, }\\ &\displaystyle \sum _{m=1}^{\infty }{C}_{m}^{\text{II}}{\rm{sin}}\left(\dfrac{m\text{π}x}{a}\right){\text{e}}^{-\text{j}{k}_{m}^{z}z},&z > 0\text{, }\end{aligned}\right.\end{split}$$

(5)

$$\begin{split} {\tilde{H}}_{x}\left(x,z,f;C\right)=\left\{\begin{aligned} &-{Y}_{1}{\rm{sin}}\left(\dfrac{\pi x}{a}\right){\text{e}}^{-\text{j}{k}_{1}^{z}\left(z+{z}_{l}\right)}+{\displaystyle \sum _{m=1}^{\infty }{C}_{m}^{\text{I}}{Y}_{m}{\rm{sin}}\left(\dfrac{m\text{π}x}{a}\right){\text{e}}^{\text{j}{k}_{m}^{z}z}},&z < 0\text{, }\\& -\displaystyle \sum _{m=1}^{\infty }{C}_{m}^{\text{II}}{Y}_{m}{\rm{sin}}\left(\dfrac{m\text{π}x}{a}\right){{\text{e}}^{-\text{j}{k}_{m}^{z}z},}&z > 0.\end{aligned}\right. \end{split}$$

(6)

其中$k_{m}^{z}=\sqrt{4\pi ^2f^2\mu _0\varepsilon _0-\left( {m\pi}/{a} \right) ^2}^*$, *为共轭操作, $Y_m= {k_{m}^{z}}/{\omega \mu}$为第$m$个模式的模式导纳. $C = \left\{ {C_m^{\text{I}}{\text{, }}C_m^{{\text{II}}}} \right\}$, $C_m^{\text{I}}, C_m^{{\text{II}}}$分别为${\text{I}}$区反射波第$m$个模式的系数和${\text{II}}$区透射波第$m$个模式的系数. 在逆设计问题中$C_1^{\text{I}} = {S_{11}}(f) {{\text{e}}^{{\text{j}}k_1^z(f){z_l}}}$, $C_1^{{\text{II}}} = {S_{21}} (f) {{\text{e}}^{{\text{j}}k_1^z (f){z_r}}}$; ${C}_{m}^{\text{I}}, {C}_{m}^{\text{II}}, m\geqslant2$为待定的高阶模式系数. $\tilde g\left( x \right)$则仍使用$\boldsymbol{\theta }_g$为参数的全连接神经网络产生. 在优化过程中, 将${C}_{m}^{\text{I}}, {C}_{m}^{\text{II}}, m\geqslant2$作为网络参量, 将其与$\boldsymbol{\theta }_g$一同使用反向传播算法修正, 直至损失函数趋于0得到正确解.

由于(5)式和(6)式自然满足亥姆霍兹方程方程以及除设计区域外的所有边界条件, 损失函数仅剩${L_{{\text{design}}}}$一项未得到满足. 所以根据(7)式构建${L_{{\text{design}}}}$, 求解即可获得待设计的$g(x)$, 网络如图3所示, 本文称其为中度物理启发神经网络(medium physics-informed neural networks, MPINN).

$$\begin{aligned}[b] & {{\tilde E}_y}\left( {x,{0^ - },f} \right) = {{\tilde E}_y}\left( {x,{0^ + },f} \right) = 0,&x \in \left\{ {x|g\left( x \right) = 0} \right\}, \\ &{{\tilde E}_y}\left( {x,{0^ - },f} \right) = {{\tilde E}_y}\left( {x,{0^ + },f} \right){\text{,}}~~~~{{\tilde H}_x}\left( {x,{0^ - },f} \right) = {{\tilde H}_x}\left( {x,{0^ + },f} \right) ,&x \in \left\{ {x|g\left( x \right) = 1} \right\}. \end{aligned}$$

(7)

该网络仅需在感兴趣的设计域$z = 0$截面对$x \in \left( {0, a} \right)$采样即可实现损失函数${L_{{\text{design}}}}$的计算, 相对于传统PINN使用的$\left( {x, z} \right) \in \left[ {0, a} \right] \times \left[ { - {z_l}, {z_r}} \right]$空间采点方案实现了降维, 对运算效率的提高十分显著. 同时也客观说明, 在网络结构引入物理信息可以使PINN的形式进一步化简. 注意到(5)式和(6)式中含有无穷级数, 根据不连续波导模式匹配的经验, 通常会选择一个有限大的正整数M对其截断, 由截断引起的误差通常可控并可以接受^[23].

2.4   深度物理启发神经网络

虽然MPINN方案极大程度优化了损失函数, 降低了采样维度, 但因为分${\text{I}}$区和${\text{II}}$区计算, 在网络实现上相对传统PINN需要多实现2个子网络, 并不能体现绝对的优势, 并且在数值实验中发现, 残存的损失函数项的平衡问题对结果的影响依然存在. 针对这一情况, 本文不再拘泥于传统PINN 中使用${\tilde E_y}, {\tilde H_x}$作为输出的形式, 尝试构建更深度嵌入物理信息的网络(即DPINN), 实现所有损失函数的网络融入. 由(5)式—(7)式整理易得系数关系(8)式—(10)式:

$$\left\{ \begin{aligned} &C_{1}^{\mathrm{I}}=C_{1}^{\mathrm{II}}-\mathrm{e}^{-\mathrm{j}k_{1}^{z}z_l},\\ &C_{m}^{\mathrm{I}}=C_{m}^{\mathrm{II}}\mkern 1mu \mkern 1mu , m\geqslant 2,\\ \end{aligned} \right.$$

(8)

$$\displaystyle\sum\limits_{m = 1}^\infty {C_m^{{\text{II}}}\sin \left( {m{\text{π }}x/a} \right)} = 0 , x \in \left\{ {x|g\left( x \right) = 0} \right\},$$

(9)

$$\displaystyle\sum\limits_{m = 1}^\infty {C_m^{{\text{II}}}\dfrac{{{Y_m}}}{{{Y_1}}}\dfrac{{\sin \left( {m{\text{π }}x/a} \right)}}{{\sin \left( {{\text{π }}x/a} \right)}}} {{\text{e}}^{{\text{j}}k_1^z{z_l}}} = 1, x \in \left\{ {x|g\left( x \right) = 1} \right\}.$$

(10)

并可将(9)式和(10)式整理为(11)式, 当$g\left( x \right) = 0$时(11)式退化为(9)式, 当$g\left( x \right) = 1$时(11)式退化为(10)式:

$$\begin{split} &\sum\limits_{m = 1}^\infty {C_m^{{\text{II}}}{{\left( {\frac{{{Y_m}}}{{{Y_1}}}} \right)}^{g\left( x \right)}}\frac{{\sin \left( {m{\text{π }}x/a} \right)}}{{\sin \left( {{\text{π }}x/a} \right)}}{{\text{e}}^{{\text{j}}k_1^z{z_l}}}} \\ &-{{ g\left( x \right)} = 0, ~~~~x \in \left( {0,a} \right)}. \end{split}$$

(11)

使用(11)式中的级数项构建网络$\tilde D$, 写作

$$\begin{split} & \tilde D\left( {x,f;C} \right) =\displaystyle\sum\limits_{m = 1}^{\text{M}} {C_m^{{\text{II}}}\left( f \right){{\left( {\dfrac{{{Y_m}\left( f \right)}}{{{Y_1}\left( f \right)}}} \right)}^{g\left( x \right)}}}\\ &~~~~{\times{\dfrac{{\sin \left( {m{\text{π }}x/a} \right)}}{{\sin \left( {{\text{π }}x/a} \right)}}{{\text{e}}^{{\text{j}}k_1^z\left( f \right){z_l}}}} , ~~~~ x \in \left( {0,a} \right)}. \end{split}$$

(12)

此时, 损失函数写作$L_{\mathrm{DPINN}} = \displaystyle\sum\limits_{i=1}^{\mathrm{N}_x} \sum\limits_{p=1}^{\mathrm{W}} \big\| \tilde{D}\left( x_i,f_p;C \right) -\tilde{g}(x_i) \big\| _2$, 网络形式可表示为图4. 对比于传统PINN(图2), DPINN已将偏微分方程与边界条件全部嵌入网络结构, 损失函数项得到极大简化.

3.   数值实验与讨论

3.1   数值实验模型

在数值实验中, 依照2.1节中提出的假设, 取$a \times b \times l = 0.04{\kern 1 pt} {\kern 1 pt} {\kern 1 pt} {\text{m}} \times 0.02{\kern 1 pt} {\kern 1 pt} {\kern 1 pt} {\text{m}} \times 0.03{\kern 1 pt} {\kern 1 pt} {\kern 1 pt} {\text{m}}$, ${z_l} = 0.02{\kern 1 pt} {\kern 1 pt} {\kern 1 pt} {\text{m}}, {z_r} = 0.01{\kern 1 pt} {\kern 1 pt} {\kern 1 pt} {\text{m}}$进行实验. 使用CST STUDIO仿真导出了金属膜片位于$x \in \left[ {0, 0.01} \right] \cup \left[ {0.03, 0.04} \right]$时的S参数作为目标, 计算可得波导工作在${\text{T}}{{\text{E}}_{10}}$单一模式下的频率范围为3.75—7.5 GHz, 不妨以4, 5, 6, 7 GHz四个频点作为设计目标展开讨论, 如表1所示. 将实现方法论中所涉及的3个不同的神经网络, 并比对3个网络的计算效率和最终实现效果, 具体设计如表2所示. 3个实验中$\tilde g\left( x \right)$的实现相同, 使用3层$\times$20的神经元的前馈神经网络构建, 激活函数使用Sigmoid函数. 其余网络按照各自定义实现, 激活函数使用Tanh函数. 此外所有网络均选用Adam优化器控制梯度方向, 并使用指数衰减的学习率衰减策略, 实验共迭代$2 \times {10^5}$次.

3.2   二值化方法

图5所示为数值实验结果(图5(a)中的蓝虚线), 由于代表结构分布的$\tilde g\left( x \right)$输出为$\left[ {0, 1} \right]$连续函数, 所得到的结果并不能直接验证. 此处不妨考虑一种简单的二值化方法, 基于黄金分割法在$\xi \in \left( {0, 1} \right){\mkern 1 mu} {\mkern 1 mu}$搜索$当\tilde{g}\left(x\right)\geqslant \xi$时$g\left( x \right) = 1$, 当${\mkern 1 mu} \tilde g\left( x \right) < \xi$时$g\left( x \right) = 0$, 使用(13)式作为搜索目标函数:

$$\begin{split} \epsilon\left(\xi \right)=\;&\displaystyle \sum _{p=1}^{\text{W}}\left({\big|{S}_{11}\left({\omega }_{p}\right)-{\tilde{S}}_{11}\left({\omega }_{p},\xi \right)\big|}^{2}\right.\\ &\left.+{\big|{S}_{21}\left({\omega }_{p}\right)-{\tilde{S}}_{21}\left({\omega }_{p},\xi \right)\big|}^{2}\right). \end{split}$$

(13)

(13)式中$S$表示的目标散射参数, $\tilde S$表示网络输出所得的散射参数(可由${\tilde S_{11}}\left( \omega \right) = C_1^{\text{I}}\left( \omega \right){{\text{e}}^{ - {\text{j}}k_1^z{z_l}}}$, ${\tilde S_{21}}\left( \omega \right) = C_1^{{\text{II}}}\left( \omega \right){{\text{e}}^{ - {\text{j}}k_1^z{z_r}}}$得到), 经二值化所得到的结构如图5(a)的红实线所示. 诚然, 改进二值化方案可以提升模型的计算精度, 但二值化方法众多, 且并不是本文所关注的重点问题, 篇幅所限不再展开讨论.

3.3   目标实现效果

图5(b)展示了传统PINN, MPINN和DPINN在损失函数上的变化情况, 可以看到传统PINN, MPINN和DPINN在总损失函数上均实现了收敛. 而在时间成本上, 传统PINN, MPINN和DPINN平均每次迭代时间分别为45.16, 5.97和7.52 ms. 传统神经网络因为庞大的前馈神经网络和大量的自动微分计算, 单次耗时长于改进后的神经网络. 虽然MPINN在效率上似乎更占优势, 但经过多次数值实验发现, 在训练的前期过程MPINN的数值收敛稳定性较差, 而影响稳定性的主要因素依然是损失函数项的权重不平衡, 这也侧面说明了DPINN在数值稳定性上的优势. 在实际应用中, 得益于网络内部与生俱来的物理信息, DPINN的快速收敛效率和稳定性使其能够快速获得可用于二值化的初始结构.

实验发现, 经迭代约1000次后的DPINN就已基本实现收敛, 总耗时约25 s(初始结构训练约9 s, 二值化约16 s)即可实现多频器件的设计.

在目标实现效果上, 将得到的膜片结构在CST STUDIO中建模进行数值仿真验证, 结果如图5(c)所示. 为了定量恒量设计结果的差异, 定义相关性系数

$$r\big( {\tilde S,S} \big) = \left| {\frac{{{\text{Cov}}\big( {\tilde S,S} \big)}}{{\sqrt {D\big( {\tilde S} \big)D(S)} }}} \right|,$$

(14)

其中${\text{Cov}}\left( \cdot \right)$表示两者的协方差, $D\left( \cdot \right)$表示各自的方差. 经计算, 三者与目标的相关性系数r分别为0.9772, 0.994, 0.995, MPINN和DPINN两个模型均较好地实现了既定目标, 而传统PINN的实现结果并不理想. 虽然传统PINN实现上选择了文献 [16]给出的损失函数权重平衡方案, 并使用文献 [20]中所提出的“进化论”空间点采样方法, 尽可能避免物理信息“外挂”导致的收敛难问题, 但其最终依然收敛于局部最优解未能获得有效结构.

3.4   设计结果多样性

深度物理启发神经网络的一大优点是其参数具有明确的物理意义, 而参数意义明晰代表着可以完成更多有趣的实验. 例如, 在实验过程中发现, 通过对网络中的模式系数做约束(如给定某些高次模的取值范围, 借助模式匹配法对网络参数做修正等), 可以设计出满足目标但膜片位置不相同的器件结构. 如图6所示, 虽然已经将设计维度简化为一维拓扑, 但依然可以找到满足当前目标的多种不同的解.

为了获取图6(a)的结构1和结构2, 强行令第2个模式系数设置为0, 并使用不同的初始化系数得到了2个不同的结构, 其中结构2的结果与最初获取目标参数的结构几乎一致. 从图6(b)的测试散射参数结果中也看到, 这些结构均很好地实现了目标设计效果. 此外, 还通过固定$\tilde g\left( x \right)$一些位置的值进行了更贴合实际需求的设计. 如令两侧及最中间的位置为真空(即$\tilde g\left( x \right) = 1$), 得到了图6(a)中的结构3, 它同样很好地实现了设计目标. 这也说明传统优化设计的规则拓扑模型并非满足设计需求的唯一解, 非规则拓扑带来的设计自由度扩展在微波器件设计中同样适用.

3.5   二维膜片逆设计

为了进一步说明DPINN在实际设计问题中的有效性, 选择如图7(a)所示具有带通特性的单层的金属开口谐振环结构, 用CST STUDIO提取其散射参数作为逆设计目标进行补充验证. 其通带中心频率为6 GHz, 3 dB带宽范围为5.62—6.27 GHz. 经DPINN求解, 得到的$\tilde g\left( {x, y} \right)$如图7(b)所示, 二值化后的结构如图7(c) 所示.

图7(d)展示了DPINN逆设计结构的散射参数与目标参数的比较, 可见DPINN求得的结构同样实现了以6 GHz为中心的带通效果, 3 dB带宽范围为5.54—6.26 GHz. 图7(e)为两者S参数的实部及虚部曲线, 经计算, DPINN所得结构的S参数与目标S参数的相关性系数r为0.9986, 实现了设计目标. 实验表明, DPINN方法在实际设计问题中依然有效. 至此, 我们通过数值实验验证了DPINN的有效性和设计多样性.

4.   结　论

针对当前PINN使用中遇到的收敛性较差的难题, 提出了使用数学物理方程的基本解构建神经网络, 用于改进普通全连接神经网络的思想. 并根据该思想给出了二端口电磁器件的金属加载结构逆设计方法, 设计了深度物理启发网络, 并成功实现了目标散射参数的逆设计, 且通过数值实验证明了其具有极高效率和稳定性.

深度物理启发的神经网络属于无监督学习, 在继承了传统PINN不需要使用预训练数据集的优点的同时, 使可训练参数具有明确的物理意义, 网络参数具有可解释性. 基于此, 通过对网络参数约束, 验证了微波器件逆设计的多解性. 多解性的成立在逆设计实现中极具价值, 在实现要求性能的同时, 设计者具有更多的解选择自由. 值得说明的是, 存在解析模型是DPINN可行的关键, 理论上DPINN可以推广至任意具有物理解析模型的问题. 对于无法进行解析求解的情况, 可以考虑采用近似解析解模型构建DPINN, 并采用迁移学习的策略, 结合传统PINN框架构建辅助网络以修正误差实现求解.

目前PINN的发展仍处于起步阶段, 基于PINN求解工程问题也是一种全新的发展方向. 未来我们希望基于该技术实现微波波导器件的幅相调控、腔体内的电磁场赋形调控等工作, 推进电磁器件逆设计的应用发展.