CN117538783A - 一种基于时域融合变换器的锂离子电池荷电状态估计方法 - Google Patents

Abstract

本发明涉及一种基于时域融合变换器的锂离子电池荷电状态估计方法，包括数据采集和预处理；首先利用滑动窗口技术获取一段时间内的电池数据，然后使用预测模型进行多步预测，同时利用分位数回归方法建立电池状态与电压、电流、温度之间的关联模型，接着，将预测结果与实际数据进行比较，并经过加权平均或统计学习融合处理，以获得综合的电池状态估计结果；TFT模型构建；特征提取和编码；SOC估计；模型训练和性能评估，计算估计误差，评估估计方法的准确性和鲁棒性。本发明具有高准确性、鲁棒性、实时性、可扩展性的特点。

Description

一种基于时域融合变换器的锂离子电池荷电状态估计方法

技术领域

本发明属于锂离子电池检测技术领域，特别是涉及一种基于时域融合时域融合变换器的锂离子电池荷电状态估计方法。

背景技术

电池储能系统(BESS)由于能够提供多种电网服务，并适应可再生发电资源的变化和间歇性行为，正成为配电网的重要组成部分。但在固定电化学BESS中，由于老化和不良的工作模式不可避免地会导致性能和容量的下降。因此，电池荷电状态(SOC)是一个重要的表示电池剩余容量的参数，需要电池管理系统(BMS)连续准确跟踪，以优化电池性能，延长电池寿命。即使对于成熟的BESS技术，如锂离子电池，在广泛的运行条件下准确可靠的SOC估计也是一个挑战，只能依靠间接方法。

根据电池类型的不同，SOC估计方法也有所不同，可分为三种：一非基于模型或直接测量的、二基于模型的方法、三数据驱动的方法。

一直接测量的包括多种测量方法，如开路电压法(OCV)、安时积分法(Ah)、内阻测量法。在某些情况下，OCV方法可以提供较好的精度，但在非平衡态中面临严峻挑战。由于电池内部电解质分布均匀，电池需要很长时间才能达到平衡点，因此很难实时测量OCV。另一种测量电池荷电状态的方法是使用Ah积分，或库仑计数法，它将电池电流随时间积分，但由于初始参数值的确定、开环性质、充放电迟滞效应、电流传感器对噪声和漂移的灵敏度等方面存在误差，因此该方法也缺乏准确性。

二基于模型的方法包括状态观测器和基于滤波器的方法，这取决于底层的控制原理。状态观测器方法虽然发展比较复杂，但适用于模型不确定性较高的情况。另一方面，基于滤波器的方法首先应用滤波器去噪，然后估计系统的状态，尽管基于滤波器的方法在电池模型与闭环SOC估计迭代过程中具有可靠的实时准确性和实用性，但对于复杂系统而言，其实施可能受制于滤波器处理过程中的潜在计算负担。

三数据驱动的方法基于机器学习算法，只依赖传感器测量和运行数据，而不是电池的电化学模型。考虑到电池参数、运行条件和SOC之间高度非线性的相互依赖性，可以定制机器学习算法来模拟电池参数、运行条件和SOC之间的关系。有几种类型的数据驱动技术，如支持向量回归(SVR)、神经网络(NN)。神经网络技术在锂离子电池SOC的估算中得到了广泛的应用。神经网络组进一步细分为普通神经网络、深度神经网络，如循环神经网络-长短期记忆(RNN-LSTM)模型和自监督变压器模型，深度神经网络在评估指标方面优于普通神经网络，但在计算上要求更高。

目前，工业界当前普遍采用安时积分法估计荷电状态。该方法简单易实现，但是具有较强的局限性。主要在于：安时积分法模型中考虑的因子单一，缺乏反馈校正能力，随着电池使用次数增加，预估精度大幅下降。

发明内容

本发明的目的在于克服上述缺点而提供的一种高准确性、鲁棒性、实时性、可扩展性的基于时域融合变换器的锂离子电池荷电状态估计方法。

本发明的一种基于时域融合变换器的锂离子电池荷电状态估计方法，包括以下步骤：

步骤1：数据采集和预处理

采集动力电池电压V_k、电流I_k和温度T_k的实时数据，并由数据采集模块进行数字化处理，在数据预处理阶段，进行噪声过滤、异常值处理，以保证数据的准确性和一致性；

步骤2：时域融合(又称时间尺度融合)

首先利用滑动窗口技术获取一段时间内的电池数据，然后使用预测模型进行多步预测，同时利用分位数回归方法建立电池状态与电压、电流、温度之间的关联模型，接着，将预测结果与实际数据进行比较，并经过加权平均或统计学习融合处理，以获得综合的电池状态估计结果；

步骤3：TFT模型构建

基于Transformer模型的结构，构建Temporal Fusion Transformers(TFT)，TFT由多个模块组成，每个模块用于学习不同时间尺度下的特征表示，模型的输入包括时域融合后的数据和其他相关信息；

步骤4：特征提取和编码

TFT模型通过多层注意力机制和自注意力机制，对时域融合后的数据进行特征提取和编码，这些特征包括电流的平均值、电压的波动性、温度的变化率等，编码后的特征表示能够更好地捕捉电池系统的动态特性；

步骤5：SOC估计

利用TFT模型学习到的特征表示，通过全连接层和输出层，进行锂离子电池荷电状态的估计，估计的结果为荷电状态百分比、剩余电量；

步骤6：模型训练和性能评估

使用历史数据对TFT模型进行训练和优化，将TFT估计的SOC值与实际测量的SOC进行比较，计算估计误差；使用均方根误差(RMSE)和平均绝对误差(MAE)，来评估估计方法的准确性和鲁棒性。

上述的一种基于时域融合变换器的锂离子电池荷电状态估计方法，其中：步骤1所述的数据采集，包括：

获取锂离子电池的电流数据、电压数据和电池表面温度数据，对所述数据进行预处理，输入TFT的特征为归一化后的归一化后的电池电压V、电流I和温度T。

上述的一种基于时域融合变换器的锂离子电池荷电状态估计方法，其中：步骤2所述的时域融合是在给定的时间序列数据集中存在唯一的SOC实际值，每一个实体i在每个时间步长t∈[0,T_i]都与一组静态协变量，即充电电流I_in，锂离子电池内阻R_in和放电深度χ_in相关联，依赖于时间的输入特征被细分为两类：一类是锂离子电池内阻R_in和放电深度χ_in，；一类是已知输入充电电流I_in，；

采用分位数预测，对于多步预测问题的定义，可以简化成如下的公式：

式中，为在时间t下，预测未来第τ步下的分位数值q，f_q(.)为预测模型，y_i,t-k:t为历史目标变量，z_i,t-k:t为过去可观测变量，x_i,t-k:t+τ为先验已知未来的时变变量，s_i为静态协变量。

上述的一种基于时域融合变换器的锂离子电池荷电状态估计方法，其中：步骤3所述的TFT模型通过分位数损失函数来实现分位数的预测：

式中，Ω为包含M个样本的训练数据域，W为TFT的权值，Q为输出分位数集合(Q＝{0.1,0.5,0.9})，L(Ω,W)是平均单条时序且平均预测点下的分位数损失，由于和几乎会一正一负，所以公式可转换为：

拟合分位数为0.9的目标值，带入上述公式得：

则会出现两种情况：

若即模型预测偏小，Loss增加会更多；

若即模型预测偏大，Loss增加会更少。

进行正则化处理，表示为：

TFT的主要组成部分是：

(1)门控残差网络(GRN)，跳过架构中任何未使用的组件，提供自适应深度和网络复杂性，以适应广泛的数据集和场景；

(2)变量选择网络(VSN)，在每个时间步中选择相关的输入变量；

(3)静态协变量编码器(SCE)，将静态特征整合到网络中，通过编码上下文向量来调整时间动态；

(4)时间处理，从观察到的和已知的时变输入中学习长期和短期的时间关系，局部处理采用序列-序列层，而长期依赖关系则采用一种新的可解释的多头注意块来捕获；

(5)预测区间，通过分位数预测来确定在每个预测水平上可能的目标值的范围。

上述的一种基于时域融合变换器的锂离子电池荷电状态估计方法，其中：步骤4所述的特征提取和编码，首先是门控残差网络接受一个主要输入a和一个可选的上下文向量c，得到：

GRN_ω(a,c)＝LayerNorm(a+GLU_ω(η₁)) (6)

η₁＝W_1,ωη₂+b_1,ω (7)

η₂＝ELU(W_2,ωa+W_3,ωc+b_2,ω) (8)

式中，ELU为指数线性单位激活函数，为中间层，LayerNorm为标准层归一化，ω为表示权重的指数，当W_2,ωa+W_3,ωc+b_2,ω＞＞0时，ELU激活将作为一个identity函数；当W_2,ωa+W_3,ωc+b_2,ω＜＜0，ELU激活将产生一个恒定的输出，导致线性层行为；使用基于门控线性单元(GLUs)的组件门控层，以提供抑制体系结构中任何给定数据集不需要的部分的灵活性；令为输入，则GLU可表示为：

GLU_ω(γ)＝σ(W_4,ωγ+b_4,ω)⊙(W_5,ωγ+b_5,ω) (9)

式中，σ(.)是sigmoid激活函数，为权重，为偏差，⊙为元素的Hadamard乘积，dmodel是隐藏状态大小，GLU允许TFT控制GRN对原始输入的贡献程度在没有上下文向量的情况下，GRN简单地将上下文输入视为零，式(5)中的c＝0；在训练过程中，在门控层和归一化层之前应用dropout，式(3)中的η₁；

对分类变量使用实体嵌入作为特征表示，将每个输入变量转换为(dmodel)维向量，该维向量与后续层次的维度相匹配，用于跳过连接；所有静态、过去和未来的输入都使用独立的变量选择网络；表示t时刻第j个变量的变换后的输入，是T时刻所有过去的输入的扁平向量。变量选择权是由通过GRN输入Ξt和外部上下文向量c_s生成的，然后是Softmax层:

式中，是变量选择权值的向量，c_s从静态协变量编码器获得；

在每一个时间步长，附加一层非线性处理，将输入到它自己的GRN中，表示为：

式中，是变量j的处理后的特征向量。注意到每个变量都有自己的在所有时间步t上共享权值。然后，处理后的特征按其变量选择权值进行加权，并合并，表示为：

式中，是向量v_χt的第j个元素；

使用单独的GRN编码器生成四个不同的上下文向量c_s，c_e，c_c和c_h，这些联系向量被连接到时域融合解码器的各个位置，包括：

(1)时间变量选择(c_s)；

(2)时间特征的局部处理(c_c，c_h)；

(3)用静态信息丰富时间特征(c_e)；

注意力机制根据关键和查询之间的关系，将值标度如下:

Attention(Q,K,V)＝A(Q,K)V (13)

其中A(.)是一个标准化函数。一个常见的选择是缩放的点积注意力：

为了提高标准注意机制的学习能力，提出了多头注意，对不同的表示子空间采用不同的头，表示为：

式中，是关键、查询和值与头相关的权重，而是线性组合从所有头H_h连接起来的输出；

修改多头注意力，使每个头共享值，并对所有头进行相加聚合，表示为：

式中，是所有头共享的值权重，用于最终的线性映射。

上述的一种基于时域融合变换器的锂离子电池荷电状态估计方法，其中：步骤5所述的SOC估计，用可用的SOC值估算出电池充放电期间的容量值，表示为：

E_dk＝∫I_kV_kdt (20)

式中，C_k是第k次循环的电池容量，E_dk为同一循环的放电能量，SOC_kmax，SOC_kmin分别为该循环的SOC最大值和最小值；

在已构建好的TFT模型将电池电压V、电流I和温度T作为未来输入，充电电流I_in为静态协变量输入，锂离子电池内阻R_in和放电深度χ_in，它们在每一步测量，作为未知输入，最终输入SOC。

上述的一种基于时域融合变换器的锂离子电池荷电状态估计方法，其中：步骤6所述的均方根误差(RMSE)和平均绝对误差(MAE)，表示为：

其中，N是训练样本总数，SOC_k为模型在时间步长k时估计的SOC,为时间步长k时的SOC实际值。

本发明与现有方法相比，具有明显的有益效果，从以上技术方案可知：本发明采用了多步预测并设置分位数回归，由于权重是9:1，所以训练时，模型会越来越趋向于预测出大的数字，这样Loss下降的更快，则模型的整个拟合的超平面会向上移动，这样便能很好的拟合出目标变量的90分位数值。因此具有如下优点：

(1)高准确性：考虑到锂离子电池每一次充放电，以及单次充电不同时间段，电池内部特性都会发生微妙变化，如内阻，放电深度都会通过影响锂离子电池内部特性继而影响锂离子电池使用寿命，导致每一次估计锂离子电池的结果都会有微妙变化，从而影响锂离子电池估计精度，因此，本发明采用分时分区估计锂离子电池，设置分位数估计，从而提高了估计精度；

(2)鲁棒性：该方法对于不同类型的锂离子电池和工作条件具有较好的适应性和鲁棒性，能够在多种应用场景下可靠地估计荷电状态。

(3)实时性：由于采用了高效的TFT网络结构，该方法能够在实时性要求较高的应用中实现快速的荷电状态估计。

(4)可扩展性：该方法可以与其他电池管理算法和系统集成，提供更完整的电池管理解决方案。

附图说明

图1本发明流程图；

图2TFT模型结构图；

图3试验例中基于TFT的锂离子电池SOC估计结果图；

图4试验例中基于TFT的锂离子电池SOC估计误差结果图。

具体实施方式

实施例：

如图1所示，一种基于时域融合变换器的锂离子电池荷电状态估计方法，包括以下步骤：

步骤1：数据采集和预处理

采集动力电池电压V_k、电流I_k和温度T_k等实时数据，并由数据采集模块进行数字化处理。在数据预处理阶段，进行噪声过滤、异常值处理，以保证数据的准确性和一致性。

具体地，

对电池样本数据P中的电流、电压、电池表面温度三个特征数据进行Z-Score标准化，其转化函数为：

其中μ是样本数据(分别为电流、电压、电池表面温度)的均值，σ是样本数据的标准差。

将原本的二维特征数据格式的电池样本数据，构建成三维数据格式，用于作为网络的输入。三维数据格式为[time_step，input_size，batch_size]，time_step表示时间步长，例如使用前6个时刻的数据预测第四个时刻，那么time_step＝6。input_size表示输入特征维度，本实施例中input_size＝6，表示电流、电压、电池表面温度、内阻、充电电流、放电深度三个维度。batch_size表示样本数目，即放入网络中样本的数量。

步骤2：时域融合(又称时间尺度融合)

首先利用滑动窗口技术获取一段时间内的电池数据，然后使用预测模型进行多步预测，同时利用分位数回归方法建立电池状态与电压、电流、温度之间的关联模型。接着，将预测结果与实际数据进行比较，并经过加权平均或统计学习融合处理，以获得综合的电池状态估计结果。时间尺度融合主要进行多步预测、设置分位数回归、融合数据处理。

具体地，所述的时间尺度融合是在给定的时间序列数据集中存在唯一的SOC实际值，每一个实体i在每个时间步长t∈[0,T_i]都与一组静态协变量，即充电电流I_in，锂离子电池内阻R_in和放电深度χin相关联，依赖于时间的输入特征被细分为两类：一类是锂离子电池内阻R_in和放电深度χ_in，它们只能在每一步测量，且事先是未知的；一类是已知输入充电电流I_in它是可以预先确定的(可以直接测出)。

所述的分位数预测，对于多步预测问题的定义，可以简化成如下的公式：

式中，为在时间t下，预测未来第τ步下的分位数值q，f_q(.)为预测模型，y_i,t-k:t为历史目标变量，z_i,t-k:t为过去可观测，x_i,t-k:t+τ为先验已知未来的时变变量，s_i为静态协变量。

步骤3：TFT模型构建

基于Transformer模型的结构，构建Temporal Fusion Transformers(TFT)，TFT由多个模块组成，每个模块用于学习不同时间尺度下的特征表示，模型的输入包括时域融合后的数据和其他相关信息，模型结构如图2所示。

具体地，所述的TFT模型通过设计分位数损失函数来实现分位数的预测：

式中，Ω为包含M个样本的训练数据域，W为TFT的权值，Q为输出分位数集合(Q＝{0.1,0.5,0.9})，L(Ω,W)是平均单条时序且平均预测点下的分位数损失，由于和几乎会一正一负，所以公式可转换为：

拟合分位数为0.9的目标值，带入上述公式得：

则会出现两种情况：

若即模型预测偏小，Loss增加会更多；

若即模型预测偏大，Loss增加会更少。

为了避免不同预测点下的预测量纲不一致问题，进行正则化处理，表示为：

TFT模型设计为使用规范组件来高效地为每种输入类型(即静态、已知、观察到的输入)构建特征表示，以在广泛的问题上获得高预测性能。TFT的主要组成部分是：

(1)门控残差网络(GRN)，跳过架构中任何未使用的组件，提供自适应深度和网络复杂性，以适应广泛的数据集和场景；

(2)变量选择网络(VSN)，在每个时间步中选择相关的输入变量；

(3)静态协变量编码器(SCE)，将静态特征整合到网络中，通过编码上下文向量来调整时间动态；

(4)时间处理，从观察到的和已知的时变输入中学习长期和短期的时间关系，局部处理采用序列-序列层，而长期依赖关系则采用一种新的可解释的多头注意块来捕获；

(5)预测区间，通过分位数预测来确定在每个预测水平上可能的目标值的范围。

步骤4：模型训练与特征提取和编码

TFT模型通过多层注意力机制和自注意力机制，对时域融合后的数据进行特征提取和编码，这些特征包括电流的平均值、电压的波动性、温度的变化率等，编码后的特征表示能够更好地捕捉电池系统的动态特性。

具体地，所述的特征提取和编码首先是门控残差网络接受一个主要输入a和一个可选的上下文向量c，得到：

GRN_ω(a,c)＝LayerNorm(a+GLU_ω(η₁)) (7)

η₁＝W_1,ωη₂+b_1,ω (8)

η₂＝ELU(W_2,ωa+W_3,ωc+b_2,ω) (9)

式中，ELU为指数线性单位激活函数，为中间层，LayerNorm为标准层归一化，ω为表示权重的指数。当W_2,ωa+W_3,ωc+b_2,ω＞＞0时，ELU激活将作为一个identity函数；当W_2,ωa+W_3,ωc+b_2,ω＜＜0，ELU激活将产生一个恒定的输出，导致线性层行为。使用基于门控线性单元(GLUs)的组件门控层，以提供抑制体系结构中任何给定数据集不需要的部分的灵活性。令为输入，则GLU可表示为：

GLU_ω(γ)＝σ(W_4,ωγ+b_4,ω)⊙(W_5,ωγ+b_5,ω) (10)

式中，σ(.)是sigmoid激活函数，为权重，为偏差，⊙为元素的Hadamard乘积，dmodel是隐藏状态大小(TFT中常见的)。GLU允许TFT控制GRN对原始输入的贡献程度——如果有必要，可能会完全跳过这一层，因为GLU输出可能都接近于0，以抑制非线性贡献。在没有上下文向量的情况下，GRN简单地将上下文输入视为零，即式(5)中的c＝0。在训练过程中，在门控层和归一化层之前应用dropout，即式(3)中的η₁。

对分类变量使用实体嵌入作为特征表示，对连续变量使用线性转换—将每个输入变量转换为(dmodel)维向量，该维向量与后续层次的维度相匹配，用于跳过连接。所有静态、过去和未来的输入都使用了独立的变量选择网络。表示t时刻第j个变量的变换后的输入，是T时刻所有过去的输入的扁平向量。变量选择权是由通过GRN输入Ξt和外部上下文向量c_s生成的，然后是Softmax层:

式中，是变量选择权值的向量，c_s从静态协变量编码器获得。

在每一个时间步长，附加一层非线性处理，将输入到它自己的GRN中，表示为：

式中，是变量j的处理后的特征向量。注意到每个变量都有自己的在所有时间步t上共享权值。然后，处理后的特征按其变量选择权值进行加权，并合并，表示为：

式中，是向量v_χt的第j个元素。

使用单独的GRN编码器生成四个不同的上下文向量c_s，c_e，c_c，和c_h。这些联系向量被连接到时域融合解码器的各个位置，其中静态变量在处理中发挥重要作用。具体来说，这包括：

(1)时间变量选择(c_s)；

(2)时间特征的局部处理(c_c，c_h)；

(3)用静态信息丰富时间特征(c_e)。

例如，将ζ作为静态变量选择网络的输出，时域变量选择的上下文将按照进行编码。

采用一种自我注意机制来学习不同时间步骤之间的长期关系，对基于变压器的架构中的多头注意进行了修改，以增强可解释性。一般来说，注意机制根据关键和查询之间的关系，将值标度如下:

Attention(Q,K,V)＝A(Q,K)V (14)

其中A(.)是一个标准化函数。一个常见的选择是缩放的点积注意力：

为了提高标准注意机制的学习能力，提出了多头注意，对不同的表示子空间采用不同的头，表示为：

式中，是关键、查询和值与头相关的权重，而是线性组合从所有头H_h连接起来的输出。

考虑到每个头部都使用不同的值，注意力权重本身并不能表明某一特定功能的重要性。因此，修改多头注意力，使每个头共享值，并对所有头进行相加聚合，表示为：

式中，是所有头共享的值权重，用于最终的线性映射，从式(15)可以看到每个头可以学习不同的时间模式，同时关注输入特征的公共集合，这可以被解释将注意力加权的简单集合到合并矩阵与式(11)中的A(Q,K)相比，以一种有效的方式增加了表示容量。

步骤5：SOC估计

利用TFT模型学习到的特征表示，通过全连接层和输出层，进行锂离子电池荷电状态的估计，估计的结果为荷电状态百分比、剩余电量。

具体地，所述的SOC估计利用可用的SOC值估算出电池充放电期间的容量值，表示为：

E_dk＝∫I_kV_kdt (21)

式中，C_k是第k次循环的电池容量，E_dk为同一循环的放电能量，SOC_kmax，SOC_kmin分别为该循环的SOC最大值和最小值。

在已构建好的TFT模型将电池电压V、电流I和温度T作为未来输入，充电电流I_in为静态协变量输入，锂离子电池内阻R_in和放电深度χ_in，它们只能在每一步测量，作为未知输入，最终输入SOC。

步骤6：模型训练和性能评估

为了提高估计的准确性，使用历史数据对TFT模型进行训练和优化，将TFT估计的SOC值与实际测量的SOC进行比较，计算估计误差，使用均方根误差(RMSE)和平均绝对误差(MAE)，来评估估计方法的准确性和鲁棒性。

具体地，采用均方根误差(RMSE)和平均绝对误差(MAE)评估模型性能，表示为：

其中，N是训练样本总数，SOC_k为模型在时间步长k时估计的SOC,为时间步长k时的SOC实际值。

试验例

对一块锂离子电池，标称电压为3.7V，充电截止电压为4.2V，额定容量为3000mAh，在每次充电深度为20％，即剩余电量还有600mAh，测量锂离子电池不同表面温度下的电压，电流，以及内阻值，见表1。

表1不同温度下电压，电流，内阻值

表面温度(℃)	电流(mA)	电压(V)	放电深度(％)	内阻(mΩ)
					25℃	80	3.432	20	8.013
35℃	79	3.369	20	8.256
					45℃	75	3.306	20	8.333

从表中可以看出，不同温度下的电池内阻有微妙的不同，且温度越高，内阻也随之升高，电池使用时长也不同。

将这些变量输入构建好的TFT模型，最后输出SOC值，如图3所示，估计误差如图4所示，可以看出，分时分段输入电池数据得到的结果更精确。

以上所述，TFT能够较佳地实现锂离子电池荷电状态的较精确估计，仅是本发明的较佳实施例而已，并非对本发明作任何形式上的限制，任何未脱离本发明技术方案内容，依据本发明的技术实质对以上实施例所作的任何简单修改、等同变化与修饰，均仍属于本发明技术方案的范围内。

Claims (7)

1.一种基于时域融合变换器的锂离子电池荷电状态估计方法，包括以下步骤：

步骤1：数据采集和预处理

采集动力电池电压V_k、电流I_k和温度T_k的实时数据，并由数据采集模块进行数字化处理，在数据预处理阶段，进行噪声过滤、异常值处理，以保证数据的准确性和一致性；

步骤2：时域融合(又称时间尺度融合)

首先利用滑动窗口技术获取一段时间内的电池数据，然后使用预测模型进行多步预测，同时利用分位数回归方法建立电池状态与电压、电流、温度之间的关联模型，接着，将预测结果与实际数据进行比较，并经过加权平均或统计学习融合处理，以获得综合的电池状态估计结果；

步骤3：TFT模型构建

基于Transformer模型的结构，构建Temporal Fusion Transformers(TFT)，TFT由多个模块组成，每个模块用于学习不同时间尺度下的特征表示，模型的输入包括时域融合后的数据和其他相关信息；

步骤4：特征提取和编码

TFT模型通过多层注意力机制和自注意力机制，对时域融合后的数据进行特征提取和编码，这些特征包括电流的平均值、电压的波动性、温度的变化率等，编码后的特征表示能够更好地捕捉电池系统的动态特性；

步骤5：SOC估计

利用TFT模型学习到的特征表示，通过全连接层和输出层，进行锂离子电池荷电状态的估计，估计的结果为荷电状态百分比、剩余电量；

步骤6：模型训练和性能评估

使用历史数据对TFT模型进行训练和优化，将TFT估计的SOC值与实际测量的SOC进行比较，计算估计误差；使用均方根误差和平均绝对误差，来评估估计方法的准确性和鲁棒性。

2.如权利要求1所述的一种基于时域融合变换器的锂离子电池荷电状态估计方法，其中：步骤1所述的数据采集，包括：

获取锂离子电池的电流数据、电压数据和电池表面温度数据，对所述数据进行预处理，输入TFT的特征为归一化后的归一化后的电池电压V、电流I和温度T。

3.如权利要求1所述的一种基于时域融合变换器的锂离子电池荷电状态估计方法，其中：步骤2所述的时域融合是在给定的时间序列数据集中存在唯一的SOC实际值，每一个实体i在每个时间步长t∈[0,T_i]都与一组静态协变量，即充电电流I_in，锂离子电池内阻R_in和放电深度χ_in相关联，依赖于时间的输入特征被细分为两类：一类是锂离子电池内阻R_in和放电深度χ_in，；一类是已知输入充电电流I_in，；

采用分位数预测，对于多步预测问题的定义，可以简化成如下的公式：

式中，为在时间t下，预测未来第τ步下的分位数值q，f_q(.)为预测模型，y_i,t-k:t为历史目标变量，z_i,t-k:t为过去可观测变量，x_i,t-k:t+τ为先验已知未来的时变变量，s_i为静态协变量。

4.如权利要求1所述的一种基于时域融合变换器的锂离子电池荷电状态估计方法，其中：步骤3所述的TFT模型通过分位数损失函数来实现分位数的预测：

式中，Ω为包含M个样本的训练数据域，W为TFT的权值，Q为输出分位数集合(Q＝{0.1,0.5,0.9})，L(Ω,W)是平均单条时序且平均预测点下的分位数损失，由于和几乎会一正一负，所以公式可转换为：

拟合分位数为0.9的目标值，带入上述公式得：

则会出现两种情况：

若即模型预测偏小，Loss增加会更多；

若即模型预测偏大，Loss增加会更少；

进行正则化处理，表示为：

TFT的主要组成部分是：

(1)门控残差网络(GRN)，跳过架构中任何未使用的组件，提供自适应深度和网络复杂性，以适应广泛的数据集和场景；

(2)变量选择网络(VSN)，在每个时间步中选择相关的输入变量；

(3)静态协变量编码器(SCE)，将静态特征整合到网络中，通过编码上下文向量来调整时间动态；

(4)时间处理，从观察到的和已知的时变输入中学习长期和短期的时间关系，局部处理采用序列-序列层，而长期依赖关系则采用一种新的可解释的多头注意块来捕获；

(5)预测区间，通过分位数预测来确定在每个预测水平上可能的目标值的范围。

5.如权利要求1所述的一种基于时域融合变换器的锂离子电池荷电状态估计方法，其中：步骤4所述的特征提取和编码，首先是门控残差网络接受一个主要输入a和一个可选的上下文向量c，得到：

GRN_ω(a,c)＝LayerNorm(a+GLU_ω(η₁)) (6)

η₁＝W_1,ωη₂+b_1,ω (7)

η₂＝ELU(W_2,ωa+W_3,ωc+b_2,ω) (8)

式中，ELU为指数线性单位激活函数，为中间层，LayerNorm为标准层归一化，ω为表示权重的指数，当W_2,ωa+W_3,ωc+b_2,ω＞＞0时，ELU激活将作为一个identity函数；当W_2,ωa+W_3,ωc+b_2,ω＜＜0，ELU激活将产生一个恒定的输出，导致线性层行为；使用基于门控线性单元(GLUs)的组件门控层，以提供抑制体系结构中任何给定数据集不需要的部分的灵活性；令为输入，则GLU可表示为：

GLU_ω(γ)＝σ(W_4,ωγ+b_4,ω)⊙(W_5,ωγ+b_5,ω) (9)

式中，σ(.)是sigmoid激活函数，为权重，为偏差，⊙为元素的Hadamard乘积，dmodel是隐藏状态大小，GLU允许TFT控制GRN对原始输入的贡献程度在没有上下文向量的情况下，GRN简单地将上下文输入视为零，式(5)中的c＝0；在训练过程中，在门控层和归一化层之前应用dropout，式(3)中的η₁；

对分类变量使用实体嵌入作为特征表示，将每个输入变量转换为(dmodel)维向量，该维向量与后续层次的维度相匹配，用于跳过连接；所有静态、过去和未来的输入都使用独立的变量选择网络；表示t时刻第j个变量的变换后的输入，是T时刻所有过去的输入的扁平向量，变量选择权是由通过GRN输入Ξt和外部上下文向量c_s生成的，然后是Softmax层:

式中，是变量选择权值的向量，c_s从静态协变量编码器获得；

在每一个时间步长，附加一层非线性处理，将输入到它自己的GRN中，表示为：

式中，是变量j的处理后的特征向量，注意到每个变量都有自己的在所有时间步t上共享权值，然后，处理后的特征按其变量选择权值进行加权，并合并，表示为：

式中，是向量v_χt的第j个元素；

使用单独的GRN编码器生成四个不同的上下文向量c_s，c_e，c_c和c_h，这些联系向量被连接到时域融合解码器的各个位置，包括：

(1)时间变量选择(c_s)；

(2)时间特征的局部处理(c_c，c_h)；

(3)用静态信息丰富时间特征(c_e)；

注意力机制根据关键和查询之间的关系，将值标度如下:

Attention(Q,K,V)＝A(Q,K)V (13)

其中A(.)是一个标准化函数，一个常见的选择是缩放的点积注意力：

为了提高标准注意机制的学习能力，提出了多头注意，对不同的表示子空间采用不同的头，表示为：

式中，是关键、查询和值与头相关的权重，而是线性组合从所有头H_h连接起来的输出；

修改多头注意力，使每个头共享值，并对所有头进行相加聚合，表示为：

式中，是所有头共享的值权重，用于最终的线性映射。

6.如权利要求1所述的一种基于时域融合变换器的锂离子电池荷电状态估计方法，其中：步骤5所述的SOC估计，用可用的SOC值估算出电池充放电期间的容量值，表示为：

E_dk＝∫I_kV_kdt (20)

式中，C_k是第k次循环的电池容量，E_dk为同一循环的放电能量，SOC_kmax，SOC_kmin分别为该循环的SOC最大值和最小值；

在已构建好的TFT模型将电池电压V、电流I和温度T作为未来输入，充电电流I_in为静态协变量输入，锂离子电池内阻R_in和放电深度χ_in，它们在每一步测量，作为未知输入，最终输入SOC。

7.如权利要求1所述的一种基于时域融合变换器的锂离子电池荷电状态估计方法，其中：步骤6所述的均方根误差(RMSE)和平均绝对误差(MAE)，表示为：

其中，N是训练样本总数，SOC_k为模型在时间步长k时估计的SOC,为时间步长k时的SOC实际值。