凸问题、分类器-白红宇

凸问题、分类器

阅读量：6964 次

发布时间：2019-06-27

本文共 1346 字，大约阅读时间需要 4 分钟。

时间好快；我想起去年一个南开同学做的凸问题的报告。

下边是知乎的一个朋友写的，贴过来用用^_^：

数学中最优化问题的一般表述是求取 $x^{*}\in \chi$ ，使 $f(x^{*} )=min\{f(x):x\in \chi \}$ ，其中 $x$ 是n维向量， $\chi$ 是 $x$ 的可行域， $f$ 是 $\chi$ 上的实值函数。

$\chi$ 是凸集是指对集合中的任意两点 $x_{1},x_{2}\in \chi$ ，有 $tx_{1}+(1-t)x_{2}\in \chi,t\in[0,1]$ ，即任意两点的连线段都在集合内，直观上就是集合不会像下图那样有“凹下去”的部分。至于闭合的凸集，则涉及到闭集的定义，而闭集的定义又基于开集，比较抽象，不赘述，这里可以简单地认为闭合的凸集是指包含有所有边界点的凸集。

$f$ 是凸函数是指对于定义域 $\chi$ 中任意两点 $x_{1},x_{2}\in \chi$ ，有 $f(t x_{1}+(1-t) x_{2}) \ge t f(x_{1})+(1-t)f( x_{2}),t\in[0,1]$ ，直观上就是 $f$ 向下凸出，如下图示意。

&amp;amp;lt;img src="http://pic1.zhimg.com/3a05acd2b63840bd7f79333c647411f0_b.jpg" data-rawwidth="300" data-rawheight="156" class="content_image" width="300"&amp;amp;gt;

实际建模中判断一个最优化问题是不是凸优化问题一般看以下几点：

目标函数 $f$ 如果不是凸函数，则不是凸优化问题

决策变量 $x$ 中包含离散变量（0-1变量或整数变量），则不是凸优化问题

约束条件写成 $g(x)\le0$ 时， $g$ 如果不是凸函数，则不是凸优化问题

之所以要区分凸优化问题和非凸的问题原因在于凸优化问题中局部最优解同时也是全局最优解，这个特性使凸优化问题在一定意义上更易于解决，而一般的非凸最优化问题相比之下更难解决。

**************

看了上面的，我个人认为，所谓的凸优化问题，似乎可以用高中的线性规划的问题解释。比如线性规划的最优解就应该是这个凸优化问题的解。

下面还要引用知乎的内容：

另外一个问题就是朴素贝叶斯分类器。其主要解决的问题是P(C|D)这个条件概率。C代表类别，D代表文档。其表达的意思是我们要计算在已观测到的文档D判定它属于类别C的概率。由于直接计算这个概率不好计算，贝叶斯的作用就体现出来了。其强大之处就在于可将先验概率与后验概率互相转换。P(C|D)=P(D|C)P(C)/P(D)，通过对于样例的训练，我们可以通过bag of words的假设估计出P(D|C),也可以统计出P(C),分母对于所有类别都一样，因此可以忽略。这样，我们就可以把文档D划分到一个概率最大的类C里，就完成了对文档D的分类。

另外研究问题总离不开消费者偏好理论：完备、传递、选择、优势、连续

生产可能性边界如何发挥作用决定生产最佳组合，要与和合在一张图上看，三者的切点即是最优点--此时，在一定的下，A、B的生产等于其价格反比，效用比也等于价格反比，在这一点消费者效用最大化，生产者生产。

&amp;amp;lt;img src="http://pic2.zhimg.com/7f1d9e7ddd148ab24a718f46ad6b0ef5_b.jpg" data-rawwidth="220" data-rawheight="208" class="content_image" width="220"&amp;amp;gt;

转载于:https://www.cnblogs.com/ubiwind/p/4346918.html

你可能感兴趣的文章

深圳晶泰科技招聘后端工程师，获腾讯Google红杉投资