رفتن به محتوای اصلی
توضیح کوهستانیادگیری بدون نظارتتوضیح و تشریح۱۱ شهریور ۱۴۰۵، ۱۷:۳۳· 4 دقیقه مطالعه· در تحلیل داده

سازوکار خوشه‌بندی K-Means: چگونه یادگیری بدون نظارت داده‌ها را تقسیم کرده و K بهینه را تعیین می‌کند

خوشه‌بندی K-Means یک الگوریتم بنیادی یادگیری ماشین بدون نظارت است که داده‌های بدون برچسب را با به حداقل رساندن فاصله بین نقاط داده و مراکز خوشه‌هایشان، گروه‌بندی می‌کند. تعیین تعداد بهینه خوشه‌ها مستلزم ایجاد تعادل بین انسجام ریاضی و قابلیت تفسیر عملی است.

به قلم ساناز امامی

خالص‌گرایان الگوریتمی 35%استراتژیست‌های کسب‌وکار 35%مهندسان داده 30%
خالص‌گرایان الگوریتمی
اولویت دادن به دقت ریاضی و معیارهای ارزیابی سخت‌گیرانه نسبت به سرعت محاسباتی.
استراتژیست‌های کسب‌وکار
ارزش قائل شدن برای قابلیت تفسیر و بخش‌بندی عملیاتی نسبت به انسجام ریاضی کامل.
مهندسان داده
تمرکز بر مقیاس‌پذیری محاسباتی و کارایی الگوریتمی برای مجموعه‌داده‌های عظیم.

بررسی عمیق دیدگاه‌ها

خالص‌گرایان الگوریتمی

اولویت دادن به دقت ریاضی و معیارهای ارزیابی سخت‌گیرانه نسبت به سرعت محاسباتی.

برای محققان و خالص‌گرایان الگوریتمی، ابهام روش آرنج یک نقص حیاتی است. آنها استدلال می‌کنند که تکیه بر تفسیر بصری ذهنی از یک منحنی، دقت ریاضی یادگیری ماشین را تضعیف می‌کند. در عوض، این گروه به شدت طرفدار امتیاز سیلوئت و سایر معیارهای محدود هستند و معتقدند که هزینه محاسباتی در مقایسه با یافتن تقسیم‌بندی ریاضی کامل فضای داده، یک نگرانی ثانویه است.

استراتژیست‌های کسب‌وکار

ارزش قائل شدن برای قابلیت تفسیر و بخش‌بندی عملیاتی نسبت به انسجام ریاضی کامل.

در محیط‌های کاربردی کسب‌وکار، K بهینه از نظر ریاضی اغلب بی‌ربط است اگر نتوان آن را عملیاتی کرد. اگر تحلیل سیلوئت نشان دهد که پایگاه مشتری به طور طبیعی به ۱۷ خوشه متمایز تقسیم می‌شود، یک تیم بازاریابی ممکن است همچنان الگوریتم را مجبور کند با K=۴ اجرا شود، زیرا آنها فقط بودجه طراحی چهار کمپین تبلیغاتی متمایز را دارند. برای این گروه، K-Means ابزاری برای تفسیر انسانی است، نه حقیقت مطلق ریاضی.

مهندسان داده

تمرکز بر مقیاس‌پذیری محاسباتی و کارایی الگوریتمی برای مجموعه‌داده‌های عظیم.

مهندسانی که وظیفه اجرای K-Means بر روی میلیاردها سطر داده را دارند، امتیاز سیلوئت را یک تجمل پرهزینه می‌دانند. از آنجا که تحلیل سیلوئت برای اندازه‌گیری تفکیک نیاز به محاسبه فاصله زوجی بین هر نقطه داده دارد، پیچیدگی زمانی آن به صورت درجه دوم افزایش می‌یابد. مهندسان داده اغلب به روش آرنج روی می‌آورند زیرا محاسبه WCSS به صورت خطی افزایش می‌یابد و به آنها اجازه می‌دهد تا یک K «به اندازه کافی خوب» را بدون از کار انداختن خوشه‌های محاسباتی خود تخمین بزنند.

چرا مهم است

بدون K-Means، شناسایی الگوهای پنهان در مجموعه‌داده‌های عظیم—از بخش‌بندی مشتریان گرفته تا تشخیص ناهنجاری‌ها—به مقادیر غیرممکنی از برچسب‌گذاری دستی نیاز داشت. درک نحوه تقسیم‌بندی داده‌ها توسط این الگوریتم به تحلیلگران اجازه می‌دهد تا بینش‌های عملی را از اطلاعات خام و بدون ساختار استخراج کنند.

خوشه‌بندی K-Means یک الگوریتم بنیادی در یادگیری ماشین بدون نظارت است که برای یافتن ساختارهای پنهان در داده‌های بدون برچسب طراحی شده است. این الگوریتم بر اساس یک فرض ساده عمل می‌کند: تقسیم یک مجموعه داده به تعداد از پیش تعریف شده‌ای از زیرگروه‌های مجزا و غیرهمپوشان، به طوری که هر نقطه داده به گروهی تعلق داشته باشد که نزدیک‌ترین میانگین را دارد.[1]

الگوریتم نمی‌داند که این گروه‌ها نماینده چه چیزی هستند؛ تنها چیزی که می‌داند فاصله ریاضی است. با اختصاص تکراری نقاط به نزدیک‌ترین مرکز و محاسبه مجدد آن مرکز، K-Means نمودارهای پراکندگی آشفته را به بخش‌های سازمان‌یافته و منسجم ریاضی تبدیل می‌کند.[5]

سازوکار این الگوریتم بر یک حلقه چهار مرحله‌ای متکی است. ابتدا، الگوریتم با قرار دادن تصادفی تعداد مشخصی از مراکز (Centroids)—مراکز نظری خوشه‌های آینده—در فضای داده، آغاز به کار می‌کند. این تعداد با متغیر 'k' نمایش داده می‌شود.[2]

ثانیاً، فاز تخصیص آغاز می‌شود. الگوریتم فاصله، که معمولاً با استفاده از هندسه اقلیدسی محاسبه می‌شود، بین هر نقطه داده و هر یک از مراکز اولیه را اندازه‌گیری می‌کند. سپس هر نقطه به نزدیک‌ترین مرکز به آن اختصاص داده می‌شود و خوشه‌های اولیه، هرچند خام، شکل می‌گیرند.[1]

محدودیت‌های ریاضی و پیچیدگی محاسباتی الگوریتم K-Means.

ثالثاً، فاز به‌روزرسانی مرکز واقعی این خوشه‌های تازه شکل‌گرفته را مجدداً محاسبه می‌کند. مرکز (Centroid) به میانگین ریاضی دقیق تمام نقاط داده‌ای که در حال حاضر به گروهش اختصاص داده شده‌اند، منتقل می‌شود.[5]

در نهایت، الگوریتم فازهای تخصیص و به‌روزرسانی را تکرار می‌کند. از آنجا که مراکز جابجا شده‌اند، ممکن است برخی از نقاط داده اکنون به مرکز دیگری نزدیک‌تر باشند. این حلقه تا رسیدن به همگرایی (Convergence) ادامه می‌یابد—نقطه‌ای که در آن مراکز دیگر حرکت نمی‌کنند و تخصیص نقاط داده کاملاً ثابت باقی می‌ماند.[2]

در حالی که سازوکار تکراری ساده است، نقص مهلک این الگوریتم در نام آن نهفته است: حرف K. الگوریتم نمی‌تواند تعیین کند که چند خوشه به طور طبیعی در داده‌ها وجود دارد؛ اپراتور انسانی باید مقدار K را قبل از شروع فرآیند دیکته کند.[1]

در حالی که سازوکار تکراری ساده است، نقص مهلک این الگوریتم در نام آن نهفته است: حرف K.

انتخاب K اشتباه منجر به نتایجی می‌شود که از نظر ریاضی معتبر اما از نظر عملی بی‌معنی هستند. اگر K خیلی کم باشد، گروه‌های متمایز در یک میانگین بی‌فایده ادغام می‌شوند. اگر K خیلی زیاد باشد، گروه‌های طبیعی به بخش‌های فوق‌العاده خاص و غیرقابل تفسیر تقسیم می‌شوند.[4]

برای حل مشکل K، دانشمندان داده به دو معیار ارزیابی اصلی تکیه می‌کنند. اولین مورد، روش آرنج (Elbow Method) است که مجموع مربعات درون خوشه (WCSS)—یعنی کل واریانس درون هر خوشه—را در مقادیر مختلف K محاسبه می‌کند.[4]

با افزایش K، WCSS به طور طبیعی کاهش می‌یابد زیرا خوشه‌های کوچک‌تر واریانس داخلی کمتری دارند. ترسیم WCSS در برابر K معمولاً یک منحنی را نشان می‌دهد که به شدت خم شده و سپس صاف می‌شود. این نقطه عطف، یا «آرنج»، نشان‌دهنده آستانه‌ای است که در آن افزودن خوشه‌های بیشتر بازدهی کاهشی سریعی در کاهش واریانس ایجاد می‌کند.[6]

روش آرنج نقطه‌ای را شناسایی می‌کند که در آن بازده کاهشی در کاهش واریانس آغاز می‌شود.

با این حال، روش آرنج اغلب مبهم است. در مجموعه‌داده‌های دنیای واقعی با گروه‌های همپوشان، منحنی ممکن است صاف باشد و فاقد یک آرنج متمایز باشد. این شواهد ضعیف تحلیلگران را مجبور می‌کند تا پارتیشن‌بندی بهینه را بر اساس خوانش ذهنی از یک منحنی ملایم حدس بزنند.[4]

هنگامی که آرنج نامشخص است، امتیاز سیلوئت (Silhouette Score) یک جایگزین دقیق‌تر ارائه می‌دهد. این معیار هم انسجام (نزدیکی یک نقطه به خوشه خودش) و هم تفکیک (فاصله آن از نزدیک‌ترین خوشه همسایه) را ارزیابی می‌کند.[3]

امتیاز سیلوئت در محدوده ۱- تا ۱ قرار دارد. امتیازی نزدیک به ۱ نشان می‌دهد که نقطه کاملاً خوشه‌بندی شده است، ۰ نشان‌دهنده خوشه‌های همپوشان است، و امتیازات منفی نشان می‌دهد که نقطه به طور کلی به گروه اشتباهی اختصاص داده شده است.[3]

با محاسبه میانگین امتیاز سیلوئت در تمام نقاط داده برای مقادیر مختلف K، تحلیلگران می‌توانند تعداد دقیق خوشه‌هایی را که تفکیک و انسجام را به حداکثر می‌رساند، مشخص کنند و یک پاسخ ریاضی قطعی ارائه دهند، حتی زمانی که روش آرنج شکست می‌خورد.[6]

تحلیل سیلوئت یک معیار محدود شده برای ارزیابی انسجام و تفکیک خوشه ارائه می‌دهد.

با وجود این ابزارهای ارزیابی، K-Means محدودیت‌های سختی دارد. این الگوریتم فرض می‌کند که خوشه‌ها کروی و هم‌اندازه هستند، که آن را در شناسایی توزیع‌های داده‌ای کشیده، متحدالمرکز یا با شکل نامنظم بسیار ناکارآمد می‌کند.[1]

علاوه بر این، از آنجا که K-Means بر مقادیر میانگین متکی است، نسبت به نقاط پرت (outliers) بسیار حساس است. یک نقطه داده ناهنجار می‌تواند یک مرکز (centroid) را از مرکز واقعی یک خوشه متراکم دور کند، کل تقسیم‌بندی را منحرف کرده و دقت مدل را از بین ببرد.[2]

در نهایت، K-Means از «نفرین ابعاد» رنج می‌برد. با افزایش تعداد متغیرها در مجموعه داده، مفهوم فاصله اقلیدسی معنای خود را از دست می‌دهد، و باعث می‌شود همه نقاط هم‌فاصله به نظر برسند و الگوریتم بدون کاهش ابعاد قبلی، بی‌فایده شود.[5]

در عمل، K-Means به شدت برای بخش‌بندی رفتار مصرف‌کننده و شناسایی جمعیت‌شناسی متمایز بازار استفاده می‌شود.

نکات کلیدی

  • K-means گروه‌های داده بدون برچسب را به تعداد خوشه‌های از پیش تعریف شده (K) تقسیم می‌کند.
  • الگوریتم به صورت تکراری نقاط را به نزدیک‌ترین مرکز (centroid) اختصاص داده و میانگین را مجدداً محاسبه می‌کند.
  • روش آرنج (Elbow Method) از کاهش واریانس برای تخمین تعداد بهینه خوشه‌ها استفاده می‌کند.
  • امتیاز سیلوئت (Silhouette Score) انسجام و تفکیک خوشه را در مقیاس ۱- تا ۱ اندازه‌گیری می‌کند.
  • K-means با داده‌های پرت (outliers)، خوشه‌های غیرکروی و داده‌های با ابعاد بالا مشکل دارد.

روند رویداد

  1. ۱۹۵۷

    استوارت لوید الگوریتم استاندارد را برای مدولاسیون کد پالس پیشنهاد می‌کند، اگرچه تا سال ۱۹۸۲ خارج از آزمایشگاه‌های بل منتشر نمی‌شود.

  2. ۱۹۶۵

    ای. دبلیو. فورگی اساساً همین روش را منتشر می‌کند، که باعث می‌شود این الگوریتم گاهی اوقات «روش لوید-فورگی» نامیده شود.

  3. ۱۹۶۷

    جیمز مک‌کوئین به طور رسمی اصطلاح «k-means» را در یک مقاله منتشر شده ابداع می‌کند.

  4. ۱۹۷۹

    معیار ارزیابی خوشه‌بندی سیلوئت توسط پیتر روسو برای حل ابهام اعتبارسنجی خوشه معرفی می‌شود.

  5. ۲۰۰۶

    الگوریتم مقداردهی اولیه K-means++ برای حل مشکل جایگذاری تصادفی ضعیف مراکز (Centroids) پیشنهاد می‌شود.

منابع

پوشش منابع

7 منبع

3 دیدگاه شناسایی‌شده

خالص‌گرایان الگوریتمی 35%استراتژیست‌های کسب‌وکار 35%مهندسان داده 30%
  1. [1]IBMاستراتژیست‌های کسب‌وکار

    What is k-means clustering?

    مطالعه در IBM
  2. [2]UC Business Analytics R Programming Guideمهندسان داده

    K-means Cluster Analysis

    مطالعه در UC Business Analytics R Programming Guide
  3. [3]MachineLearningMastery.comخالص‌گرایان الگوریتمی

    K-Means Cluster Evaluation with Silhouette Analysis

    مطالعه در MachineLearningMastery.com
  4. [4]Built Inمهندسان داده

    Elbow Method in K-Means Clustering: Definition, Drawbacks, vs. Silhouette Score

    مطالعه در Built In
  5. [5]Oracle Blogsاستراتژیست‌های کسب‌وکار

    Introduction to K-means Clustering

    مطالعه در Oracle Blogs
  6. [6]GeeksforGeeksخالص‌گرایان الگوریتمی

    Elbow Method vs. Silhouette Score: which is better?

    مطالعه در GeeksforGeeks
  7. [7]تیم سردبیری کوهستان

    تحلیل تیم سردبیری کوهستان

    مطالعه در تیم سردبیری کوهستان

نظرات

همیشه در جریان باشید

هر زاویه. هر روز.

دریافت تحلیل داده اخبار همراه با پوشش کامل منابع و تحلیل دیدگاه‌ها، مستقیم در صندوق ورودی شما.