英文：GELU 分类：architecture
高斯误差线性单元激活函数：对输入按值加权保留（越大越保留），融合 ReLU 非线性与 dropout 的随机性思想，是 Transformer（BERT/GPT）与众多深度模型的默认激活。
公式：GELU(x)=x·Φ(x)（标准正态 CDF，常近似 0.5x(1+tanh(...))）；特性：平滑可微、负值小概率保留（近似 dropout 效应）；对比 ReLU：更平滑、训练更稳；用途：FFN 与注意力后的非线性。
用于 Transformer FFN（BERT/GPT 经典）、图像模型（ViT 部分）与激活函数对比研究；GELU 是"平滑非线性"的主流选择。