【重新定义matlab强大系列三】MATLAB清洗离群数据（查找、填充或删除离群值）打开任务数据平滑和离群值检测从表中删除离群值

Posted on by hackdl

🔗 运行环境：matlab

🚩 撰写作者：左手の明天

🥇 精选专栏：《python》

🔥  推荐专栏：《算法研究》

#### 防伪水印——左手の明天 ####

💗 大家好🤗🤗🤗，我是左手の明天！好久不见💗

💗今天开启新的系列——重新定义matlab强大系列💗

📆  最近更新：2023 年 04 月 23 日，左手の明天的第 279 篇原创博客

📚 更新于专栏：matlab

#### 防伪水印——左手の明天 ####

清洗离群数据允许以交互方式处理数据中的离群值。该任务会自动为实时脚本生成 MATLAB代码。使用此任务可以：

  • 从工作区变量数据中查找、填充或删除离群值。

  • 自定义查找和填充离群值的方法。

  • 可视化离群数据和清洗后的数据。

打开任务

要在 MATLAB 实时编辑器中将清洗离群数据任务添加到实时脚本中，请执行以下操作：

  • 在实时编辑器选项卡上，点击任务并选择清洗离群数据图标 

  • 在实时脚本的代码块中，键入相关关键字，例如 outlier 或 clean。从建议的命令自动填充项中选择“清洗离群数据”。

数据平滑和离群值检测

数据平滑指用于消除数据中不需要的噪声或行为的技术，而离群值检测用于标识与其余数据显著不同的数据点。

移动窗口方法

移动窗口方法是分批处理数据的方式，通常是为了从统计角度表示数据中的相邻点。移动平均值是一种常见的数据平滑技术，它沿着数据滑动窗，同时计算每个窗内点的均值。这可以帮助消除从一个数据点到下一个数据点的非显著变化。

例如，假设每分钟测量一次风速，持续约 3 小时。使用 movmean 函数和 5 分钟的窗口大小可去除高速阵风。

load windData.mat
mins = 1:length(speed);
window = 5;
meanspeed = movmean(speed,window);
plot(mins,speed,mins,meanspeed)
axis tight
legend("Measured Wind Speed","Average Wind Speed over 5 min Window")
xlabel("Time")
ylabel("Speed")

同样，可以使用 movmedian 函数计算滑动窗中的风速中位数。

medianspeed = movmedian(speed,window);
plot(mins,speed,mins,medianspeed)
axis tight
legend("Measured Wind Speed","Median Wind Speed over 5 min Window")
xlabel("Time")
ylabel("Speed")

并非所有数据都适合用移动窗口方法进行平滑处理。例如，创建插入了随机噪声的正弦信号。

t = 1:0.2:15;
A = sin(2*pi*t) + cos(2*pi*0.5*t);
Anoise = A + 0.5*rand(1,length(t));
plot(t,A,t,Anoise)
axis tight
legend("Original Data","Noisy Data")

使用移动均值和大小为 3 的窗口对含噪数据进行平滑处理。

window = 3;
Amean = movmean(Anoise,window);
plot(t,A,t,Amean)
axis tight
legend("Original Data","Moving Mean - Window Size 3")

移动均值方法可获得数据的大致形状，但不能非常准确地捕获波谷（局部最小值）。由于波谷点在每个窗口中两个较大的邻点之间，因此均值不是那些点的理想近似值。如果使窗口大小变大，均值将完全消除较短的波峰。对于这种类型的数据，可能需要考虑其他平滑技术。

Amean = movmean(Anoise,5);
plot(t,A,t,Amean)
axis tight
legend("Original Data","Moving Mean - Window Size 5")

常见的平滑方法

smoothdata 函数提供几种平滑选项，如 Savitzky-Golay 方法，这是一种常用的信号处理平滑技术。默认情况下，smoothdata 根据数据为方法选择最佳估计窗口大小。

Savitzky-Golay 方法

使用Savitzky-Golay 方法 可对含噪信号 Anoise 进行平滑处理，并输出它使用的窗口大小。与 movmean 相比，该方法可提供更好的波谷近似值。

[Asgolay,window] = smoothdata(Anoise,"sgolay");
plot(t,A,t,Asgolay)
axis tight
legend("Original Data","Savitzky-Golay","location","best")
window
window = 3

Lowess 方法

稳健的 Lowess 方法是另一种平滑方法，尤其适用于含噪数据还包含离群值的情形。在含噪数据中插入离群值，并使用稳健的 Lowess 方法对数据进行平滑处理，从而消除离群值。

Anoise(36) = 20;
Arlowess = smoothdata(Anoise,"rlowess",5);
plot(t,Anoise,t,Arlowess)
axis tight
legend("Noisy Data","Robust Lowess")

检测离群值

数据中的离群值可能使数据处理结果和其他计算量严重失真。例如，如果尝试用移动平均值方法对包含离群值的数据进行平滑处理，则可能得到误导性的波峰或波谷。

Amedian = smoothdata(Anoise,"movmedian");
plot(t,Anoise,t,Amedian)
axis tight
legend("Noisy Data","Moving Median")

当检测到离群值时，isoutlier 函数返回逻辑值 1。验证 Anoise 中离群值的索引和值。

TF = isoutlier(Anoise);
ind = find(TF)
ind = 36
Aoutlier = Anoise(ind)
Aoutlier = 20

可以使用 filloutliers 函数并指定填充方法来替换数据中的离群值。例如，用紧挨 Anoise 中离群值右侧的邻点值填充该离群值。

Afill = filloutliers(Anoise,"next");
plot(t,Anoise,t,Afill,"o-")
axis tight
legend("Noisy Data with Outlier","Noisy Data with Filled Outlier")

也可以使用 rmoutliers 函数从数据中删除离群值。例如，删除 Anoise 中的离群值。

Aremove = rmoutliers(Anoise);
plot(t,Anoise,t(~TF),Aremove,"o-")
axis tight
legend("Noisy Data with Outlier","Noisy Data with Outlier Removed")

非均匀数据

并非所有数据都由等间距点组成，这会影响数据处理的方法。创建一个 datetime 向量，其中包含 Airreg 中数据的不规则采样时间。time 向量表示了前 30 分钟内每分钟采集一次的样本和两天内每小时采集一次的样本。

t0 = datetime(2014,1,1,1,1,1);
timeminutes = sort(t0 + minutes(1:30));
timehours = t0 + hours(1:48);
time = [timeminutes timehours];
Airreg = rand(1,length(time));
plot(time,Airreg)
axis tight

默认情况下，smoothdata 按照等间距整数进行平滑处理，在本例中为 1,2,...,78。由于整数时间戳与 Airreg 中各点的采样不协调，前半小时的数据在平滑后仍然出现噪声。

Adefault = smoothdata(Airreg,"movmean",3);
plot(time,Airreg,time,Adefault)
axis tight
legend("Original Data","Smoothed Data with Default Sample Points")

MATLAB中的许多数据处理函数（包括 smoothdata、movmean 和 filloutliers）允许提供样本点，从而确保相对于其采样单位和频率处理数据。要消除 Airreg 中前半小时数据的高频变化，可以将 SamplePoints 名称-值参数和 time 中的时间戳结合使用。

Asamplepoints = smoothdata(Airreg,"movmean", ...
    hours(3),"SamplePoints",time);
plot(time,Airreg,time,Asamplepoints)
axis tight
legend("Original Data","Smoothed Data with Sample Points")

从表中删除离群值

使用实时编辑器中的清洗离群数据任务以交互方式从表中删除离群值。

load("patients.mat","Height","Weight")
T = table(Height,Weight);
head(T)
    Height    Weight
    ______    ______

      71       176  
      69       163  
      64       131  
      67       133  
      64       119  
      68       142  
      64       142  
      68       180

在实时编辑器中打开清洗离群数据任务。要清洗患者数据，请选择 T 作为输入数据。然后，通过选择 All supported variables，计算 Height 和 Weight 变量。

清洗离群数据任务可以填充或删除离群值数据。要删除身高或体重测量为离群值的患者的对应表行，请使用清洗方法字段选择 Remove outliers。然后，要将离群值定义为低于第 10 个百分位数或高于第 90 个百分位数的元素，请使用检测方法字段并选择 Percentiles。

然后，要可视化清洗后的身高和体重数据，使用要显示的变量字段选择所有变量。

要查看此任务生成的代码，请点击任务参数区域底部的 

 展开任务显示画面。

 

#### 防伪水印——左手の明天 ####

💗 大家好🤗🤗🤗，我是左手の明天！好久不见💗

💗今天开启新的系列——重新定义matlab强大系列💗

📆  最近更新：2023 年 04 月 23 日，左手の明天的第 279 篇原创博客

📚 更新于专栏：matlab

#### 防伪水印——左手の明天 ####

 

服务器托管，北京服务器托管，服务器租用 http://www.fwqtg.net

服务器托管，北京服务器托管，服务器租用，机房机柜带宽租用

服务器托管

咨询：董先生

电话13051898268 QQ/微信93663045！

上一篇:
下一篇: