Multiclass Classification One-vs-all

、Multiclass Classification One-vs-all

如何使用逻辑回归 (logistic regression) 来解决多类别分类问题,具体来说,我想通过一个叫做"一对多" (one-vs-all) 的分类算法?什么是多类别分类问题?

下面就是多类别分类器的基本思想:(其实一句话总结,还是将复杂问题化简为基础问题,将多类别分类问题转化为多个二值分类问题,然后可以求解出多个预测函数hi(x),当有新的x到来时,就可以将其带入所有的预测函数中,计算中max时的i值,即可得到其所在的分类。)

在我们便有了三个分类器,且每个分类器都作为其中一种情况进行训练。总之,我们已经把要做的做完了,现在要做的就是训练这个逻辑回归分类器 h(i) ,其中 i 对应每一个可能的 y=i 。最后,为了做出预测,我们给出输入一个新的 x 值,用这个做预测,我们要做的就是在我们三个分类器,里面输入 x ,然后选择一个让 h 最大的 i ,基本的挑选分类器的方法,选择出哪一个分类器是可信度最高效果最好的,那么就可认为得到一个正确的分类,无论i值是多少 ,我们都有最高的概率值,我们预测 y 就是那个值。