-
Notifications
You must be signed in to change notification settings - Fork 0
/
Copy pathlocal-search.xml
33 lines (15 loc) · 12.1 KB
/
local-search.xml
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
<?xml version="1.0" encoding="utf-8"?>
<search>
<entry>
<title></title>
<link href="/2024/05/12/Task1%20%E6%A6%82%E8%A7%88%E8%A5%BF%E7%93%9C%E4%B9%A6+%E5%8D%97%E7%93%9C%E4%B9%A6%E7%AC%AC1%E3%80%812%E7%AB%A0/"/>
<url>/2024/05/12/Task1%20%E6%A6%82%E8%A7%88%E8%A5%BF%E7%93%9C%E4%B9%A6+%E5%8D%97%E7%93%9C%E4%B9%A6%E7%AC%AC1%E3%80%812%E7%AB%A0/</url>
<content type="html"><</p><p>归纳偏好的作用在图1.3这个回归学习图示中可能更直观。</p><p>奥卡姆剃刀(Occam’s razor) 是一种常用的、自然科学研究中最基本的原则，即若有多个假设与观察一致，则选最简单的那个。</p><h4 id="补充：">补充：</h4><h5 id="1-监督学习（Supervised-Learning）">1.监督学习（Supervised Learning）</h5><p>监督学习，又叫有监督学习，监督式学习，是机器学习的一种方法，可以由训练资料中学到或建立一个模式（函数 ），并依此模式推测新的实例。训练资料是由输入对象（通常是向量）和预期输出所组成。函数的输出可以是一个连续的值（称为回归分析），或是预测一个分类标签（称作分类）。</p><p>一个监督式学习者的任务在观察完一些事先标记过的训练示例（输入和预期输出）后，去预测这个函数对任何可能出现的输入的输出。要达到此目的，学习者必须以"合理"（见归纳偏向）的方式从现有的资料中一般化到非观察到的情况。在人类和动物感知中，则通常被称为概念学习。</p><h5 id="2-无监督学习（Unsupervised-Learning）">2.无监督学习（Unsupervised Learning）</h5><p>无监督学习，又称非监督式学习，是机器学习的一种方法，没有给定事先标记过的训练示例，自动对输入的资料进行分类或分群。无监督学习的主要运用包含：聚类分析（cluster analysis）、关系规则（association rule）、维度缩减（dimensionality reduce）。它是监督式学习和强化学习等策略之外的一种选择。</p><p>一个常见的无监督学习是数据聚类。在人工神经网络中，生成对抗网络（GAN）、自组织映射（SOM）和适应性共振理论（ART）则是最常用的非监督式学习。</p><p>ART模型允许集群的个数可随着问题的大小而变动，并让用户控制成员和同一个集群之间的相似度分数，其方式为透过一个由用户自定而被称为警觉参数的常量。ART也用于模式识别，如自动目标识别和数码信号处理。第一个版本为"ART1"，是由卡本特和葛罗斯柏格所发展的。</p><h2 id="chapter2-模型评估">chapter2 模型评估</h2><h4 id="1-经验误差与过拟合">1.经验误差与过拟合</h4><p>把分类错误的样本数占样本总数的比例称为错误率(errorrate) ，即如果在m个样本中有a个样本分类错误，则错误率 E= α/m; 相应的1-a/m称为精度(accacy) ，即精度=1 -错误率。</p><p>把学习器的实际预测输出与样本的真实输出之间的差异称为误差(error), 学习器在训练集上的误差称为训练误差(training error) 或经验误差(empirical error) ，在新样本上的误差称为泛化误差(generalization error)。</p><p>过拟合(overfitting)：学习器把训练样本学得"太好"了的时候，很可能已经把训练样本自身的一些特点当作了所有潜在样本都会具有的一般性质，这样就会导致泛化性能下降。</p><p><strong>过拟合</strong>是机器学习面临的关键障碍，各类学习算法都必然带有一 些针对过拟合的措施。</p><h4 id="2-评估方法">2.评估方法</h4><h5 id="1-留出法">1.留出法</h5><p>将数据集D划分为两个互斥的集合，其中一个集合为训练集S，另一个为测试集T，在S上训练出模型后，用T来评估其测试误差，作为对泛化误差的估计。</p><h5 id="2-交叉验证法">2.交叉验证法</h5><p>先将数据集D划分为k个大小相似的互斥子集。每一次用k-1个子集的并集作为训练集，剩下的一个子集作为测试集；这样就可以获得k组训练/测试集，从而可进行k次训练和测试，最终返回的是这k个测试结果的均值。</p><h5 id="3-自助法">3.自助法</h5><p>以自主采样法为基础，给定包含m个样本的数据集D，对它进行采样产生数据集D’：每次随机从D中挑选一个样本，将其拷贝放入D’，然后将该样本放回数据集D中，使该样本在下次采样时仍优可能被；重复m次后，得到包含m个样本的数据集D’。</p><h5 id="4-调参与最终模型">4.调参与最终模型</h5><p>1.算法的参数，也称为超参数。数目一般在十个以内。通常由人工设定多个参数候选值后产生模型。</p><p>2.模型的参数。数目一般很多。通常是通过学习来产生多个候选模型。</p><h4 id="3-性能度量">3.性能度量</h4><p>性能度量(performance measure).：对学习器的泛化性能进行评估，不仅需要有效可行的实验估计方法，还需要有衡量模型泛化能力的评价标准。</p><h5 id="1-错误率与精度">1.错误率与精度</h5><p>既适用于二分类任务，也适用于多分类任务.错误率是分类错误的样本数占样本总数的比例，精度则是分类正确的样本数占样本总数的比例。</p><h5 id="2-查准率、查全率与F1">2.查准率、查全率与F1</h5><p></p><h5 id="3-ROC-与-AUC">3.ROC 与 AUC</h5><p>1.ROC</p><p>对于样本数据，我们使用分类器对其进行分类，分类器会给出每个数据为正例的概率，我们可以针对此来设定一个阈值，当某个样本被判断为正例的概率大于这个阈值时，认为该样本为正例，小于则为负例，然后通过计算我们就可以得到一个(TPR , FPR)对，即图像上的一个点，我们通过不断调整这个阈值，就得到若干个点，从而画出一条曲线。当这个阈值越大时，越多的样本被分为负例，而这些样本中其实也有正例的存在。这样一来，TPR下降（正例数据被分为负例了），FPR下降（负类数据更不会被分为正例，但是影响要比TPR小，所以斜率呈上升趋势）。阈值越小时，越多的样本被分为正例，而这些样本中可能包含是正例，却被分为负例的样本以及是负例却被分为正例的样本，这样一来TPR上升（更多的正例样本被分为正例），FPR上升（更多的负例样本被分为正例，影响更大，所以斜率呈下降趋势）。</p><p>2.AUC</p><p>AUC被定义为ROC曲线下的面积，显然这个面积小于1，又因为ROC曲线一般都处于y=x这条直线的上方，所以AUC一般在0.5到1之间。</p><h5 id="4-代价敏感错误率与代价曲线">4.代价敏感错误率与代价曲线</h5><h4 id="4-比较检验">4.比较检验</h4><p>1.假设检验</p><p>2.交叉验证t检验</p><p>3.McNemar 检验</p><p>4.Friedman 检验与 Nemenyi 后续检验</p><h4 id="5-偏差与方差">5.偏差与方差</h4><p>偏差-方差分解(bias-variance decomposition) 是解释学习算法泛化性能的一种重要工具。</p><p>泛化误差可分解为偏差、方差与噪声之和。</p>]]></content>
</entry>
<entry>
<title>Hello World</title>
<link href="/2024/05/12/hello-world/"/>
<url>/2024/05/12/hello-world/</url>
<content type="html"><![CDATA[<p>Welcome to <a href="https://hexo.io/">Hexo</a>! This is your very first post. Check <a href="https://hexo.io/docs/">documentation</a> for more info. If you get any problems when using Hexo, you can find the answer in <a href="https://hexo.io/docs/troubleshooting.html">troubleshooting</a> or you can ask me on <a href="https://github.com/hexojs/hexo/issues">GitHub</a>.</p><h2 id="Quick-Start">Quick Start</h2><h3 id="Create-a-new-post">Create a new post</h3><figure class="highlight bash"><table><tr><td class="gutter"><pre><span class="line">1</span><br></pre></td><td class="code"><pre><code class="hljs bash">$ hexo new <span class="hljs-string">"My New Post"</span><br></code></pre></td></tr></table></figure><p>More info: <a href="https://hexo.io/docs/writing.html">Writing</a></p><h3 id="Run-server">Run server</h3><figure class="highlight bash"><table><tr><td class="gutter"><pre><span class="line">1</span><br></pre></td><td class="code"><pre><code class="hljs bash">$ hexo server<br></code></pre></td></tr></table></figure><p>More info: <a href="https://hexo.io/docs/server.html">Server</a></p><h3 id="Generate-static-files">Generate static files</h3><figure class="highlight bash"><table><tr><td class="gutter"><pre><span class="line">1</span><br></pre></td><td class="code"><pre><code class="hljs bash">$ hexo generate<br></code></pre></td></tr></table></figure><p>More info: <a href="https://hexo.io/docs/generating.html">Generating</a></p><h3 id="Deploy-to-remote-sites">Deploy to remote sites</h3><figure class="highlight bash"><table><tr><td class="gutter"><pre><span class="line">1</span><br></pre></td><td class="code"><pre><code class="hljs bash">$ hexo deploy<br></code></pre></td></tr></table></figure><p>More info: <a href="https://hexo.io/docs/one-command-deployment.html">Deployment</a></p>]]></content>
</entry>
</search>