ماشین بردار پشتیبانی (Support vector machines - SVMs) یکی از روش های یادگیری بانظارت است که از آن برای طبقه بندی و رگرسیون استفاده می کنند.
چندجمله ای (همگن): k ( x i , x j ) = ( x i ⋅ x j ) d {\displaystyle k(\mathbf {x_{i}} ,\mathbf {x_{j}} )=(\mathbf {x_{i}} \cdot \mathbf {x_{j}} )^{d}}
چندجمله ای (ناهمگن): k ( x i , x j ) = ( x i ⋅ x j + 1 ) d {\displaystyle k(\mathbf {x_{i}} ,\mathbf {x_{j}} )=(\mathbf {x_{i}} \cdot \mathbf {x_{j}} +1)^{d}}
گوسینRadial Basis Function: k ( x i , x j ) = exp ( − γ ‖ x i − x j ‖ 2 ) {\displaystyle k(\mathbf {x_{i}} ,\mathbf {x_{j}} )=\exp(-\gamma \|\mathbf {x_{i}} -\mathbf {x_{j}} \|^{2})} ، for γ > 0. {\displaystyle \gamma >0.} Sometimes parametrized using γ = 1 / 2 σ 2 {\displaystyle \gamma =1/{2\sigma ^{2}}}
تانژانت هذلولی: k ( x i , x j ) = tanh ( κ x i ⋅ x j + c ) {\displaystyle k(\mathbf {x_{i}} ,\mathbf {x_{j}} )=\tanh(\kappa \mathbf {x_{i}} \cdot \mathbf {x_{j}} +c)} ، for some (not every) κ > 0 {\displaystyle \kappa >0} and c < 0 {\displaystyle c<0}
این روش از جملهٔ روش های نسبتاً جدیدی است که در سال های اخیر کارایی خوبی نسبت به روش های قدیمی تر برای طبقه بندی نشان داده است. مبنای کاری دسته بندی کنندهٔ SVM دسته بندی خطی داده ها است و در تقسیم خطی داده ها سعی می کنیم خطی را انتخاب کنیم که حاشیه اطمینان بیشتری داشته باشد. حل معادله پیدا کردن خط بهینه برای داده ها به وسیله روش های QP که روش های شناخته شده ای در حل مسائل محدودیت دار هستند صورت می گیرد. قبل از تقسیمِ خطی برای اینکه ماشین بتواند داده های با پیچیدگی بالا را دسته بندی کند داده ها را به وسیلهٔ تابعِ phi به فضای با ابعاد خیلی بالاتر می بریم. برای اینکه بتوانیم مسئله ابعاد خیلی بالا را با استفاده از این روش ها حل کنیم از قضیه دوگانی لاگرانژ برای تبدیلِ مسئلهٔ مینیمم سازی مورد نظر به فرم دوگانی آن که در آن به جای تابع پیچیدهٔ phi که ما را به فضایی با ابعاد بالا می برد، تابعِ ساده تری به نامِ تابع هسته که ضرب برداری تابع phi است ظاهر می شود استفاده می کنیم. از توابع هسته مختلفی از جمله هسته های نمایی، چندجمله ای و سیگموید می توان استفاده نمود.
یکی از معروفترین خودآموزها مربوط به است.
الگوریتم SVM، جز الگوریتم های تشخیص الگو دسته بندی می شود. از الگوریتم SVM، در هر جایی که نیاز به تشخیص الگو یا دسته بندی اشیا در کلاس های خاص باشد می توان استفاده کرد. در ادامه به کاربردهای این الگوریتم به صورت موردی اشاره می شود:
چندجمله ای (همگن): k ( x i , x j ) = ( x i ⋅ x j ) d {\displaystyle k(\mathbf {x_{i}} ,\mathbf {x_{j}} )=(\mathbf {x_{i}} \cdot \mathbf {x_{j}} )^{d}}
چندجمله ای (ناهمگن): k ( x i , x j ) = ( x i ⋅ x j + 1 ) d {\displaystyle k(\mathbf {x_{i}} ,\mathbf {x_{j}} )=(\mathbf {x_{i}} \cdot \mathbf {x_{j}} +1)^{d}}
گوسینRadial Basis Function: k ( x i , x j ) = exp ( − γ ‖ x i − x j ‖ 2 ) {\displaystyle k(\mathbf {x_{i}} ,\mathbf {x_{j}} )=\exp(-\gamma \|\mathbf {x_{i}} -\mathbf {x_{j}} \|^{2})} ، for γ > 0. {\displaystyle \gamma >0.} Sometimes parametrized using γ = 1 / 2 σ 2 {\displaystyle \gamma =1/{2\sigma ^{2}}}
تانژانت هذلولی: k ( x i , x j ) = tanh ( κ x i ⋅ x j + c ) {\displaystyle k(\mathbf {x_{i}} ,\mathbf {x_{j}} )=\tanh(\kappa \mathbf {x_{i}} \cdot \mathbf {x_{j}} +c)} ، for some (not every) κ > 0 {\displaystyle \kappa >0} and c < 0 {\displaystyle c<0}
این روش از جملهٔ روش های نسبتاً جدیدی است که در سال های اخیر کارایی خوبی نسبت به روش های قدیمی تر برای طبقه بندی نشان داده است. مبنای کاری دسته بندی کنندهٔ SVM دسته بندی خطی داده ها است و در تقسیم خطی داده ها سعی می کنیم خطی را انتخاب کنیم که حاشیه اطمینان بیشتری داشته باشد. حل معادله پیدا کردن خط بهینه برای داده ها به وسیله روش های QP که روش های شناخته شده ای در حل مسائل محدودیت دار هستند صورت می گیرد. قبل از تقسیمِ خطی برای اینکه ماشین بتواند داده های با پیچیدگی بالا را دسته بندی کند داده ها را به وسیلهٔ تابعِ phi به فضای با ابعاد خیلی بالاتر می بریم. برای اینکه بتوانیم مسئله ابعاد خیلی بالا را با استفاده از این روش ها حل کنیم از قضیه دوگانی لاگرانژ برای تبدیلِ مسئلهٔ مینیمم سازی مورد نظر به فرم دوگانی آن که در آن به جای تابع پیچیدهٔ phi که ما را به فضایی با ابعاد بالا می برد، تابعِ ساده تری به نامِ تابع هسته که ضرب برداری تابع phi است ظاهر می شود استفاده می کنیم. از توابع هسته مختلفی از جمله هسته های نمایی، چندجمله ای و سیگموید می توان استفاده نمود.
یکی از معروفترین خودآموزها مربوط به است.
الگوریتم SVM، جز الگوریتم های تشخیص الگو دسته بندی می شود. از الگوریتم SVM، در هر جایی که نیاز به تشخیص الگو یا دسته بندی اشیا در کلاس های خاص باشد می توان استفاده کرد. در ادامه به کاربردهای این الگوریتم به صورت موردی اشاره می شود:
wiki: ماشین بردار پشتیبانی