尽管传统的深度任务卸载架构可以解决MEC系统中的任务卸载问题，但是仍然存在一些挑战：

1) 异构设备约束：边缘系统旨在适应具有不同要求和约束的高度异构环境。此外，不同的边缘节点可能拥有不同数量的计算和通信资源，从而导致对卸载决策和资源分配的不同要求。然而，传统的深度卸载架构是端到端学习系统，不具有处理这些不同要求和约束的专用组件。

2) 局部感知：用于卸载决策制定的信息可能来自由传感器获得的大量数据，并且不同种类的传感数据可能具有高维特征。传感器与边缘节点之间的信道质量可能影响用户与边缘服务器的卸载决策，这会导致具有巨大特征空间的优化问题。另外，CNN和RNN并不擅长在特征之间建立长距离依赖关系，这在大特征空间中会产生局部感知优化的问题，从而导致局部最优卸载决策。

3) 不确定泛化：泛化意味着DL模型在不同的任务中具有一致的推理性能。实际上，某些卸载任务可能具有关键的优化目标（例如，时间敏感或能量敏感），需要快速响应，对训练时间提出了严格的要求。这对当前通常只有一个优化目标的深度任务卸载架构提出了挑战，突出了在无需重复训练的情况下对不同卸载任务具有强大泛化能力的需要。

4) 缺乏可追踪性：边缘智能系统可能部署在动态环境中。很难确保训练过程足够通用，以捕捉现实世界场景中遇到的输入特征的整个分布，尤其是当特征空间是动态的时候。因此，卸载模型必须自适应地从动态场景中学习并跟踪边缘智能系统中随时间变化的数据（例如，网络拓扑和信道增益）。虽然强化学习经常用于动态环境中的在线决策，但它在大规模动态环境和多任务动态环境中存在学习效率低和灾难性遗忘的问题。

3. 边缘智能系统中LAM的关键技术和优势

3.1  关键技术

本小节总结了 LAM 在边缘智能系统中应用的几种关键技术。

1) 提示和嵌入：提示和嵌入是 LAM 中用于执行外部指令和信息预处理任务的关键技术。它们在 LAM 中有效地整合和处理这些外部输入方面发挥着至关重要的作用，如下所示 [10]。

•  Token嵌入：Token嵌入表示输入文本中的单个标记，如单词或子单词。每个标记都由学习到的嵌入来表示，该嵌入可捕捉单词或子词的词义。在 MEC 系统中，环境信息（例如，每个 UE 的 CSI）和任务信息（例如，每个任务所需的数据大小和计算资源）可作为每个 UE 的Token嵌入进行编码。

•  提示Prompt：提示是提供给 LAM 的指令或指南，用于执行特定任务或基于自然语言生成所需输出。在 MEC 系统中，提示可以作为区分不同优化任务的指令，例如最小化能耗或系统延迟。例如，当输入最小化延迟指令时，LAM 可以理解指令的语义含义并生成与最小化延迟目标一致的任务卸载和资源调度结果。

2) Transformer模型：Transformer 是 Google 提出的一种新型深度学习架构 [11]。其关键创新是注意力机制，这使得模型能够比传统方法更有效地捕获序列中输入之间的全局依赖关系。以下是 Transformer 的结构及其在 MEC 系统中的潜在应用。

3.2  在边缘智能系统中应用LAM的优势

基于上一节中介绍的 LAM 关键技术，可以概述在卸载系统中应用 LAM 的以下优势：

1) 异构约束的高质量表征：有效的卸载和资源调度需要对 MEC 系统进行精确建模。然而，大量边缘节点的不同要求和异构约束使得建模变得困难。LAM 通过一个额外的嵌入层来处理这个问题，使其有能力处理所有要求和约束，然后建立极其复杂的内部表示。这个嵌入层对于在 LAM中准确模拟复杂的 MEC 系统至关重要。

2) 出色的卸载决策能力：LAM 能够自主地从 MEC 系统进行特征提取和自适应学习。与小规模模型（例如 CNN 和 RNN）相比，LAM 通常表现出卓越的推理准确性。通过 Transformer 模型中的多头自注意力机制，LAM 可以在充足的特征空间中建立输入信息之间的不同尺度的依赖关系。因此，它们可以发现更细微的特征关系，进而有助于出色的卸载决策和资源分配。

3) 针对不同任务的卓越泛化能力：通过利用来自多个来源的广泛数据集，LAM能够在多种任务上获取全面的知识，增强其学习和泛化能力，从而有效地建模多样化的优化目标。通过在预训练期间使用提示，LAM可以学习不同的优化任务，并在无需重新训练的情况下精确执行特定功能。这种多样性使LAM在应对各种优化问题时具有高度的适应性和价值。

4) 动态环境中的高效可操作性：LAM能够高效利用并行计算资源，包括分布式系统和专用硬件加速器，如图形处理单元（GPU）或张量处理单元（TPU）。这使得它们能够快速进行边缘计算服务的微调。通过自适应微调， LAMs中的预训练知识可以应对动态环境，大幅提升MEC系统中卸载决策和资源分配的鲁棒性。

4. LAMBO框架

本节将介绍LAMBO框架，包括四个组件：IE、AED、ACRL和ALEF，如图1底部所示。

4.1  算法概述

在 LAMBO 框架中，首先使用 IE 从 MEC 系统生成嵌入。然后，提出一种新颖的 AED 模型来解决卸载和资源分配问题。AED 模型包括一个深度编码器和一个浅层解码器。编码器用于提取所有 UE 的自注意力特征。这些自注意力特征与 MEC 嵌入和提示嵌入一起输入到解码器中，解码器依次为每个 UE 生成最佳卸载决策和资源分配，确保它们符合整个系统的约束条件。

此外，本文分两个阶段训练 AED 模型：预训练和微调。在预训练阶段，使用 ACRL 训练 AED 模型。ACRL 采用双头结构来提高性能。然后，在微调阶段，提出一种 ALEF 方法，它可以跟踪环境变化，利用信息熵检测异常数据，并根据专家反馈标记有价值的环境数据。接下来将详细介绍每个组件。

4.2  IE

在图2中，IE将MEC系统的输入信息作为嵌入，具体如下：

    •  UE嵌入：表示每个UE的环境（例如，CSI）和任务（例如，计算和通信资源需求）信息。

    •  提示嵌入：表示具有优化目标的不同任务的指令，例如最小化能耗或系统延迟。

    •  MEC嵌入：表示边缘服务器的剩余资源限制，这些限制会随着每个 UE 的资源分配决策而动态更新。

首先，将文本提示进行数字化特征表示。然后，将所有信息（UE、MEC 和提示）标准化，并将它们输入到 IE 中，这是一个可学习的隐藏层，从结构上可以将各种输入信息映射到注意力模型的固定长度向量（嵌入）。

4.3  AED

AED 模型包含一个具有多个编码器层的深度编码器，能够有效地从输入嵌入中进行学习。此外，它还包含一个具有单个解码器层的浅层解码器，允许按顺序生成卸载决策并为每个 UE 分配资源。AED 中的编码器和解码器的结构如图 2 所示。

图2 IE和AED的结构

1) 深度编码器：每个编码器层通常具有以下子组件：

• 自注意力子层：此子层允许模型同时关注嵌入输入序列的不同部分，捕获嵌入之间的依赖关系和关系。

• 前馈子层：此子层将前馈神经网络变换独立应用于每个嵌入，允许将非线性变换应用于输入序列。

• 残差和规范化子层：在每个自注意力子层和前馈子层之后，应用残差连接并应用规范化以在特征维度上规范化激活。

2) 浅层解码器：解码器层通常具有以下子组件：

• 自注意力子层：此子层遵循与编码器中使用的类似结构，并且残差连接和层规范化也应用于所有子层。

• 编码器-解码器注意力子层：行此子层关注编码器的输出特征，允许解码器与来自输入的相关特征进行注意力计算。

• 线性投影和双头输出：在解码器的最后一层之后，输出表示通过线性变换投影到输出大小。然后应用双头输出层来有效地解决不同优化问题，例如 MINLP，其中分类头引入 softmax 函数来生成卸载决策，回归头引入 sigmoid 函数来优化分配的资源。

采用非对称结构的优势在于能够在微调阶段仅调整浅层解码器的参数，从而促进 LAMBO 的快速学习。

4.4  预训练：ACRL

在第一个训练阶段使用ACRL来预训练AED。预训练过程详述如下，如图3所示：

1) 状态、动作和奖励定义：在MEC系统中，将状态定义为MEC嵌入、Prompt嵌入和UE嵌入。动作指的是针对当前UE的卸载决策和资源分配。每个行动的奖励对应于MEC系统中当前Prompt对应的优化任务或目标。

2) Actor和Critic网络设计：Critic网络用于预测奖励近似值，并且采用双头结构分别输出用于卸载决策和资源分配的Q值[12]。这增强了Critic网络的稳定性和性能。AED模型作为Actor网络，并使用策略熵损失[13]来提升Actor网络的探索能力。

3) 训练迭代和策略更新：设置适当参数，例如学习率，以促进训练过程。然后，开始迭代训练过程，直到Actor和Critic网络收敛。

图3 ACRL的工作流程

4.5  微调：ALEF

由于网络拓扑结构和 CSI 都是随时间变化的，因此在第二个微调阶段引入ALEF，以较少的标注训练实例主动跟踪环境的变化。如图 4 所示，微调过程详述如下：

1) 在线卸载决策：预先训练的 AED 模型用于下游任务。在此步骤中，编码器参数被冻结，并且使用具有少量参数的轻量级解码器有效地对从在现实场景中运行的 MEC 系统中采样的未标记实例做出卸载决策。

2) 最大熵查询：引入基于卸载决策的查询策略，以确定动态环境中实例的重要性，并选择能为解码器带来最高性能增益的实例。选择具有最大熵的实例是因为它反映了卸载决策的最大不确定性[14]。

3) 专家指派和解码器更新：“专家”是用于改进所选实例的特定算法。例如，混合整数规划求解器（例如 CPLEX）、启发式算法（例如差分进化 (DE)）和策略优化算法（例如策略梯度 (PG)、soft Actor-Critic）。最后，专家根据所选实例更新轻量级解码器，以跟踪变化的环境。

图4 ALEF的工作流程

5. 仿真结果

5.1  问题描述

考虑一个标准的MEC系统，由多个边缘服务器和UEs组成。每个UE具有单个计算密集型任务并遵循二进制卸载策略。与传统的深度任务卸载架构不同，所提出的架构能够基于提示同时为不同的优化任务做出卸载决策，而无需重新训练模型。为了验证提示Prompt的有效性，为所考虑的MEC系统定义了两个不同的优化任务，其中的提示模板及其含义如下：

优化问题必须满足约束：每个任务的最大延迟约束；每个边缘服务器中的最大资源可用性；所有任务都可以在 UE 本地执行，也可以在单个边缘服务器上执行。

5.2  仿真设置

为评估所提出的框架的性能，设置个场景如下：在50 m×50 m的正方形区域内有 4 台 MEC 服务器和 50 个 UEs。所有边缘服务器和 UE 都随机分布在该区域内，UE 的最大速度为 1.2 米/秒。CSI 已经封装了 UE 和边缘服务器之间的空间关系和信道衰落关系，它是根据我们之前的工作 [7] 计算得出的。每个 MEC 服务器的最大计算资源分别为1.5×10¹⁰、1.5×10¹⁰、3×10¹⁰和5×10¹⁰周期/秒。对于每个 UE，平均数据大小和任务所需的相应计算资源分别为2×10⁸ kB和1×10¹⁰次/秒。 发射功率和本地执行功率均设为 1W。

5.3  对比方法

为体现所提出的LAMBO框架的优势，将其与以下竞争者进行了比较：

图5 不同方案在任务延迟方面的比较

图6 不同方案的能耗比较

5.4  评估结果

本文使用两个提示来评估所提出的 LAMBO。图 5 显示了所有最小延迟提示竞争者的模拟结果，其中 y 轴表示每个 UE 的平均延迟。可以看到 LAMBO_L 实现了最低延迟，而 DE 表现排名第三，紧随 LAMBO_M 之后。

图 6 中可以对最小能量提示进行类似的观察，其中 y 轴表示所有 UE 的总能耗。从结果可以推断，与其他方案相比，AED 表现出了卓越的学习能力，从而提高了卸载决策的准确性。此外，随着参数数量的增加，所有提示的学习能力都会提高，这表明与 ARE 和 DROO 等传统卸载方法相比，LAMBO 有更大的潜力解决 MEC 系统中的各种挑战。其次，与 LAMBO_L 相比，LAMBO_M 模型的性能始终落后。这可以归因于 LAMBO_L 具有更多参数，因此具有更强的学习和决策能力。

6. 开放性问题和未来方向

1) 有限的内存和存储：与云中心相比，边缘服务器和基站、汽车和物联网设备等设备的 RAM 和闪存要少得多。这限制了可以部署的最大模型大小。LAM 很容易超过 50 GB，这在某些边缘服务器和设备上无法容纳。未来的研究有必要进一步探索稀疏注意力、量化和蒸馏等压缩技术，因为它们提供了有价值的方法来减小模型大小并最大限度地降低存储要求。

2) 有限的计算能力：与用于训练 LAM 的强大 GPU 相比，边缘服务器和设备的 CPU 或微控制器相对简单。推理所需的计算会给边缘处理器带来沉重的负担。这会导致响应时间变慢和电池/电量消耗高。针对边缘设备量身定制的优化推理引擎（例如多查询注意力和潜在一致性模型）是未来的重要研究方向。

3) 高昂的通信开销：边缘设备面临带宽限制，阻碍了它们处理高数据吞吐量的能力。这导致 LAM 出现传输瓶颈和效率低下。边缘环境中不稳定的连接增加了复杂性，导致通信中断和数据不一致。对语义通信系统等新型通信范式的研究有可能为未来减少边缘 LAM 的通信开销提供创新解决方案。

7. 结论

本文研究了一种基于 LAM 的 MEC 系统卸载框架。首先，本文总结了传统深度卸载架构的主要挑战，然后描述了 LAM 的关键技术以及在 MEC 系统中应用 LAM 的优势。接下来，提出了用于 MEC 系统的 LAMBO 框架，其中使用 IE 来表示具有约束和提示的系统信息，提出 AED 来建模卸载决策过程，引入 ACL 来为不同任务预训练 AED，并使用 ALEF 对 AED 的解码器进行微调以跟踪动态环境。