سازوکار خوشهبندی K-Means: چگونه یادگیری بدون نظارت دادهها را تقسیم کرده و K بهینه را تعیین میکند
خوشهبندی K-Means یک الگوریتم بنیادی یادگیری ماشین بدون نظارت است که دادههای بدون برچسب را با به حداقل رساندن فاصله بین نقاط داده و مراکز خوشههایشان، گروهبندی میکند. تعیین تعداد بهینه خوشهها مستلزم ایجاد تعادل بین انسجام ریاضی و قابلیت تفسیر عملی است.
به قلم ساناز امامی
این خبر را به اشتراک بگذارید
بهطور خلاصه
- K-means گروههای داده بدون برچسب را به تعداد خوشههای از پیش تعریف شده (K) تقسیم میکند.
- الگوریتم به صورت تکراری نقاط را به نزدیکترین مرکز (centroid) اختصاص داده و میانگین را مجدداً محاسبه میکند.
- روش آرنج (Elbow Method) از کاهش واریانس برای تخمین تعداد بهینه خوشهها استفاده میکند.
خوشهبندی K-Means یک الگوریتم بنیادی در یادگیری ماشین بدون نظارت است که برای یافتن ساختارهای پنهان در دادههای بدون برچسب طراحی شده است. این الگوریتم بر اساس یک فرض ساده عمل میکند: تقسیم یک مجموعه داده به تعداد از پیش تعریف شدهای از زیرگروههای مجزا و غیرهمپوشان، به طوری که هر نقطه داده به گروهی تعلق داشته باشد که نزدیکترین میانگین را دارد.[1]
الگوریتم نمیداند که این گروهها نماینده چه چیزی هستند؛ تنها چیزی که میداند فاصله ریاضی است. با اختصاص تکراری نقاط به نزدیکترین مرکز و محاسبه مجدد آن مرکز، K-Means نمودارهای پراکندگی آشفته را به بخشهای سازمانیافته و منسجم ریاضی تبدیل میکند.[5]
سازوکار این الگوریتم بر یک حلقه چهار مرحلهای متکی است. ابتدا، الگوریتم با قرار دادن تصادفی تعداد مشخصی از مراکز (Centroids)—مراکز نظری خوشههای آینده—در فضای داده، آغاز به کار میکند. این تعداد با متغیر 'k' نمایش داده میشود.[2]
ثانیاً، فاز تخصیص آغاز میشود. الگوریتم فاصله، که معمولاً با استفاده از هندسه اقلیدسی محاسبه میشود، بین هر نقطه داده و هر یک از مراکز اولیه را اندازهگیری میکند. سپس هر نقطه به نزدیکترین مرکز به آن اختصاص داده میشود و خوشههای اولیه، هرچند خام، شکل میگیرند.[1]
ثالثاً، فاز بهروزرسانی مرکز واقعی این خوشههای تازه شکلگرفته را مجدداً محاسبه میکند. مرکز (Centroid) به میانگین ریاضی دقیق تمام نقاط دادهای که در حال حاضر به گروهش اختصاص داده شدهاند، منتقل میشود.[5]
در نهایت، الگوریتم فازهای تخصیص و بهروزرسانی را تکرار میکند. از آنجا که مراکز جابجا شدهاند، ممکن است برخی از نقاط داده اکنون به مرکز دیگری نزدیکتر باشند. این حلقه تا رسیدن به همگرایی (Convergence) ادامه مییابد—نقطهای که در آن مراکز دیگر حرکت نمیکنند و تخصیص نقاط داده کاملاً ثابت باقی میماند.[2]
در حالی که سازوکار تکراری ساده است، نقص مهلک این الگوریتم در نام آن نهفته است: حرف K. الگوریتم نمیتواند تعیین کند که چند خوشه به طور طبیعی در دادهها وجود دارد؛ اپراتور انسانی باید مقدار K را قبل از شروع فرآیند دیکته کند.[1]
انتخاب K اشتباه منجر به نتایجی میشود که از نظر ریاضی معتبر اما از نظر عملی بیمعنی هستند. اگر K خیلی کم باشد، گروههای متمایز در یک میانگین بیفایده ادغام میشوند. اگر K خیلی زیاد باشد، گروههای طبیعی به بخشهای فوقالعاده خاص و غیرقابل تفسیر تقسیم میشوند.[4]
برای حل مشکل K، دانشمندان داده به دو معیار ارزیابی اصلی تکیه میکنند. اولین مورد، روش آرنج (Elbow Method) است که مجموع مربعات درون خوشه (WCSS)—یعنی کل واریانس درون هر خوشه—را در مقادیر مختلف K محاسبه میکند.[4]
با افزایش K، WCSS به طور طبیعی کاهش مییابد زیرا خوشههای کوچکتر واریانس داخلی کمتری دارند. ترسیم WCSS در برابر K معمولاً یک منحنی را نشان میدهد که به شدت خم شده و سپس صاف میشود. این نقطه عطف، یا «آرنج»، نشاندهنده آستانهای است که در آن افزودن خوشههای بیشتر بازدهی کاهشی سریعی در کاهش واریانس ایجاد میکند.[6]
با این حال، روش آرنج اغلب مبهم است. در مجموعهدادههای دنیای واقعی با گروههای همپوشان، منحنی ممکن است صاف باشد و فاقد یک آرنج متمایز باشد. این شواهد ضعیف تحلیلگران را مجبور میکند تا پارتیشنبندی بهینه را بر اساس خوانش ذهنی از یک منحنی ملایم حدس بزنند.[4]
هنگامی که آرنج نامشخص است، امتیاز سیلوئت (Silhouette Score) یک جایگزین دقیقتر ارائه میدهد. این معیار هم انسجام (نزدیکی یک نقطه به خوشه خودش) و هم تفکیک (فاصله آن از نزدیکترین خوشه همسایه) را ارزیابی میکند.[3]
امتیاز سیلوئت در محدوده ۱- تا ۱ قرار دارد. امتیازی نزدیک به ۱ نشان میدهد که نقطه کاملاً خوشهبندی شده است، ۰ نشاندهنده خوشههای همپوشان است، و امتیازات منفی نشان میدهد که نقطه به طور کلی به گروه اشتباهی اختصاص داده شده است.[3]
با محاسبه میانگین امتیاز سیلوئت در تمام نقاط داده برای مقادیر مختلف K، تحلیلگران میتوانند تعداد دقیق خوشههایی را که تفکیک و انسجام را به حداکثر میرساند، مشخص کنند و یک پاسخ ریاضی قطعی ارائه دهند، حتی زمانی که روش آرنج شکست میخورد.[6]
با وجود این ابزارهای ارزیابی، K-Means محدودیتهای سختی دارد. این الگوریتم فرض میکند که خوشهها کروی و هماندازه هستند، که آن را در شناسایی توزیعهای دادهای کشیده، متحدالمرکز یا با شکل نامنظم بسیار ناکارآمد میکند.[1]
علاوه بر این، از آنجا که K-Means بر مقادیر میانگین متکی است، نسبت به نقاط پرت (outliers) بسیار حساس است. یک نقطه داده ناهنجار میتواند یک مرکز (centroid) را از مرکز واقعی یک خوشه متراکم دور کند، کل تقسیمبندی را منحرف کرده و دقت مدل را از بین ببرد.[2]
در نهایت، K-Means از «نفرین ابعاد» رنج میبرد. با افزایش تعداد متغیرها در مجموعه داده، مفهوم فاصله اقلیدسی معنای خود را از دست میدهد، و باعث میشود همه نقاط همفاصله به نظر برسند و الگوریتم بدون کاهش ابعاد قبلی، بیفایده شود.[5]
اصطلاحات کلیدی
- یادگیری بدون نظارت
- نوعی از یادگیری ماشین که در آن دادهها بدون دستورالعمل یا برچسبهای صریح به الگوریتم داده میشوند و آن را مجبور میکند تا الگوها را به تنهایی پیدا کند.
- مرکز (Centroid)
- نقطه مرکزی نظری یک خوشه، که به عنوان میانگین ریاضی تمام نقاط داده اختصاص داده شده به آن گروه محاسبه میشود.
- فاصله اقلیدسی
- فاصله خط مستقیم بین دو نقطه در یک فضای ریاضی، که معمولاً توسط K-Means برای تعیین نزدیکی استفاده میشود.
- همگرایی (Convergence)
- وضعتی که در آن الگوریتم K-Means بهروزرسانی را متوقف میکند زیرا مراکز (Centroids) دیگر حرکت نمیکنند و تخصیص نقاط ثابت باقی میماند.
- نفرین ابعاد
- پدیدهای که در آن معیارهای فاصله مانند فاصله اقلیدسی با افزایش بیش از حد تعداد متغیرها در یک مجموعه داده، بیمعنی میشوند.
بررسی عمیق دیدگاهها
خالصگرایان الگوریتمی
اولویت دادن به دقت ریاضی و معیارهای ارزیابی سختگیرانه نسبت به سرعت محاسباتی.
برای محققان و خالصگرایان الگوریتمی، ابهام روش آرنج یک نقص حیاتی است. آنها استدلال میکنند که تکیه بر تفسیر بصری ذهنی از یک منحنی، دقت ریاضی یادگیری ماشین را تضعیف میکند. در عوض، این گروه به شدت طرفدار امتیاز سیلوئت و سایر معیارهای محدود هستند و معتقدند که هزینه محاسباتی در مقایسه با یافتن تقسیمبندی ریاضی کامل فضای داده، یک نگرانی ثانویه است.
استراتژیستهای کسبوکار
ارزش قائل شدن برای قابلیت تفسیر و بخشبندی عملیاتی نسبت به انسجام ریاضی کامل.
در محیطهای کاربردی کسبوکار، K بهینه از نظر ریاضی اغلب بیربط است اگر نتوان آن را عملیاتی کرد. اگر تحلیل سیلوئت نشان دهد که پایگاه مشتری به طور طبیعی به ۱۷ خوشه متمایز تقسیم میشود، یک تیم بازاریابی ممکن است همچنان الگوریتم را مجبور کند با K=۴ اجرا شود، زیرا آنها فقط بودجه طراحی چهار کمپین تبلیغاتی متمایز را دارند. برای این گروه، K-Means ابزاری برای تفسیر انسانی است، نه حقیقت مطلق ریاضی.
مهندسان داده
تمرکز بر مقیاسپذیری محاسباتی و کارایی الگوریتمی برای مجموعهدادههای عظیم.
مهندسانی که وظیفه اجرای K-Means بر روی میلیاردها سطر داده را دارند، امتیاز سیلوئت را یک تجمل پرهزینه میدانند. از آنجا که تحلیل سیلوئت برای اندازهگیری تفکیک نیاز به محاسبه فاصله زوجی بین هر نقطه داده دارد، پیچیدگی زمانی آن به صورت درجه دوم افزایش مییابد. مهندسان داده اغلب به روش آرنج روی میآورند زیرا محاسبه WCSS به صورت خطی افزایش مییابد و به آنها اجازه میدهد تا یک K «به اندازه کافی خوب» را بدون از کار انداختن خوشههای محاسباتی خود تخمین بزنند.
- خالصگرایان الگوریتمی
- اولویت دادن به دقت ریاضی و معیارهای ارزیابی سختگیرانه نسبت به سرعت محاسباتی.
- استراتژیستهای کسبوکار
- ارزش قائل شدن برای قابلیت تفسیر و بخشبندی عملیاتی نسبت به انسجام ریاضی کامل.
- مهندسان داده
- تمرکز بر مقیاسپذیری محاسباتی و کارایی الگوریتمی برای مجموعهدادههای عظیم.
دیدگاههایی که این گزارش پوشش نداده
- متخصصان حوزه (که اغلب انتخابهای الگوریتمی K را بر اساس محدودیتهای دنیای واقعی نادیده میگیرند)
منابع
[1]IBMاستراتژیستهای کسبوکارWhat is k-means clustering?
مطالعه در IBM →
[2]UC Business Analytics R Programming Guideمهندسان دادهK-means Cluster Analysis
مطالعه در UC Business Analytics R Programming Guide →
[3]MachineLearningMastery.comخالصگرایان الگوریتمیK-Means Cluster Evaluation with Silhouette Analysis
مطالعه در MachineLearningMastery.com →
[4]Built Inمهندسان دادهElbow Method in K-Means Clustering: Definition, Drawbacks, vs. Silhouette Score
مطالعه در Built In →
[5]Oracle Blogsاستراتژیستهای کسبوکارIntroduction to K-means Clustering
مطالعه در Oracle Blogs →
[6]GeeksforGeeksخالصگرایان الگوریتمیElbow Method vs. Silhouette Score: which is better?
مطالعه در GeeksforGeeks →
[7]تیم سردبیری کوهستانتحلیل تیم سردبیری کوهستان
مطالعه در تیم سردبیری کوهستان →
بیشتر در تحلیل داده
مشاهده همه →ریاضیات رگرسیون
پنج فرضی که تضمین میکنند حداقل مربعات معمولی بهترین برآوردگر خطی نااریب است
5 منبع
مدلسازی آماری
چگونه پارامتر پراکندگی در رگرسیون دوجملهای منفی، بیشپراکندگی دادههای شمارشی را مهار میکند
5 منبع
ارزیابی مدل
چگونه اعتبارسنجی متقاطع K-Fold سوگیری و واریانس را برای تخمین خطای تعمیم مدل متعادل میکند
6 منبع
بازدهی کشاورزی
دادههای کشاورزی ارگانیک در برابر سنتی: چرا اثرات زیستمحیطی به نحوه اندازهگیری شما بستگی دارد
5 منبع
نظرات
هر زاویه. هر روز.
اخبار تحلیل داده با پوشش کامل منابع و تحلیل دیدگاهها، هر روز و رایگان.





