Federated Learning: راهی نوین برای حفظ حریم خصوصی در یادگیری ماشین کلاس‌ویژن

توانایی های محاسباتی edge device ها، وقتی صحبت از آموزش های محلی می شود،باید در هنگام طراحی رویکردهای FL در نظر گرفته شود. چون در حال حاضر اکثر تلفن های هوشمند، تبلت ها و سایر دستگاه های سازگار با اینترنت تنها قادر به آموزش یادگیری ماشین هستند. این رویکرد امکان یادگیری از داده‌های گسترده و متنوع را فراهم می‌کند، بدون اینکه نیاز به انتقال و ذخیره داده‌های حساس در یک مکان متمرکز باشد. این امر به‌طور خاص در صنایعی مانند مراقبت‌های بهداشتی و مالی که حریم خصوصی داده‌ها بسیار حائز اهمیت است، بسیار مفید است. از آنجایی که یادگیری FL هنوز کاملا نوپا است برای دستیابی به پتانسیل کامل خود ،هنوز هم باید درباره ی چالش های زیادی مذاکره شود.

زمان همگرایی مدل، چالش دیگری برای FL است، زیرا؛مدل های FL معمولا همگرایی طولانی تری از مدل های آموزش دیده ی محلی دارند. تعداد دستگاه های درگیر در آموزش، عنصری از غیرقابل پیش بینی بودن را به آموزش مدل اضافه می کنند، زیرا مشکلات اتصال، به روزرسانی های نامنظم وقتی زمان های مختلف استفاده از برنامه می تواند به افزایش زمان همگرایی و کاهش قابلیت اطمینان کمک کند. به همین دلیل، راه حل های FL معمولا بسیار مفید هستند که مزایای قابل توجهی نسبت به آموزش متمرکز مدل ارائه دهد. برچسب گذاری و استاندارد سازی داده ها چالش دیگری است که سیستم های FL باید بر آن غلبه کنند. مدل های یادگیری تحت نظارت، به داده های آموزشی نیاز دارند که به طور واضح و مداوم دارای برچسب باشند.

این سند از سایت تنسرفلو به معرفی رابط‌هایی می‌پردازد که انجام وظایف Federated Learning مانند آموزش یا ارزیابی با مدل‌های یادگیری ماشین موجود که در TensorFlow پیاده‌سازی شده‌اند، را تسهیل می‌کنند. در طراحی این رابط‌ها، هدف اصلی این بوده که امکان آزمایش با Federated Learning بدون نیاز به دانستن جزئیات فنی فراهم شود و الگوریتم‌های Federated Learning پیاده‌سازی‌شده را بر روی مدل‌ها و داده‌های موجود بتوان ارزیابی کرد. یادگیری FL ،معمولا با یک مدل عمومی شروع می شود که به عنوان یک خط پایه عمل می کند. در اولین گام، این مدل عمومی برای کلاینت ها ارسال می شود، سپس این نسخه های محلی توسط کلاینت ها آموزش می بینند. در مرحله ی دوم کلاینت ها همه ی پارامترهای مدل آموخته شده خود را به سرور مرکزی ارسال می کنند این روند تا رسیدن به سطح مطلوبی از دقت تکرار می شود. در مرحله ی سوم، سرور، مدل های آموخته شده را جمع می کند و مدل مرکزی بروزرسانی می شود و سپس یک بار دیگر با کلاینت ها به اشتراک گذاشته می شود.

انجام این کار در بسیاری از دستگاه های کلاینت ها که بخشی از سیستم یادگیری هستند، دشوار است. به همین دلیل مهم است که خطوط لوله ی داده، داده ای ایجاد کند که به طور خودکار براساس رویدادها و اقدامات کاربر، برچسب ها را به صورت استاندارد اعمال کند. سیستم های یادگیری FL تک حزبی را ”یک طرفه“ می نامند، زیرا فقط یک نهاد واحد مسئول نظارت بر ضبط و جریان داده ها در تمام کلاینت ها در شبکه ی یادگیری است. این نهاد ها برای آموزش یک مدل مشترک با استفاده از دستگاه ها و مجموعه داده های مختلفی که به آنها دسترسی دارند،همکاری می کنند. پارامتر ها و ساختار داده ها معمولا در دستگاه ها متعلق به چندین نهاد مشابه هستند اما لزوما کاملا یکسان نیستند. در عوض، پیش استانداردسازی هایی برای استانداردسازی ورودی های مدل ها انجام می شود.

قابلیت های آموزشی دستگاه های لبه دار یا همان edge device و استانداردسازی داده ها و همگرایی مدل یکی از چندمین چالش های بالقوه برای رویکردهای FL است. در دنیای امروز، با توجه به پیشرفت‌های چشمگیر دیپ‌لرنینگ و نیاز به داده، داده‌ها به عنوان منبع اصلی ارزش و نوآوری محسوب می‌شوند. با این حال، نگرانی‌های فزاینده‌ای درباره حریم خصوصی افراد و محافظت از داده‌های حساس وجود دارد. یکی از راهکارهای نوین و جذاب که در سال‌های اخیر مورد توجه قرار گرفته است، Federated Learning است. این رابط‌ها عمدتاً در فضای نام tff.learning تعریف شده‌اند، به‌جز مجموعه داده‌های تحقیقاتی و قابلیت‌های مربوط به شبیه‌سازی که در tff.simulation گروه‌بندی شده‌اند. این لایه با استفاده از رابط‌های سطح پایین‌تری که توسط Federated Core (FC) ارائه می‌شوند، پیاده‌سازی شده است که همچنین یک محیط اجرایی را فراهم می‌کند.

هدف از ایجاد این وب سایت نشر و آموزش حوزه هایی است که در طول تحصیل و در محل کار با آن سر و کار دارم.

Federated Learning یک روش نوآورانه در حوزه یادگیری ماشین است که در آن مدل‌ها به جای انتقال داده‌ها به یک سرور مرکزی، به‌صورت توزیع‌شده و در دستگاه‌های محلی (مانند گوشی‌های هوشمند) آموزش داده می‌شوند. به عبارت دیگر، به‌جای اینکه داده‌های شما به سرورهای مرکزی ارسال شوند، مدل‌ها به‌صورت محلی روی دستگاه شما به‌روزرسانی می‌شوند و سپس فقط نتایج آموزش (و نه خود داده‌ها) به سرور مرکزی ارسال می‌شود. به عبارت دیگر Federated learning چندین دستگاه محاسباتی را باهم به یک سیستم غیرمتمرکز پیوند می دهد. در یک سیستم یادگیری Federated ،دستگاه های مختلفی که بخشی از شبکه ی یادگیری هستند هرکدام یک مدل آموزش داده شده را به یک دستگاه اصلی یا همان سرور ارسال می کنند. به طور خلاصه، ایده ی Federated learning این است که هیچ یک از داده های آموزشی هرگز بین دستگاه ها یا طرفین منتقل نمی شود، بلکه تنها مدل آموزش یافته آنها در سرور اصلی بروزرسانی می شود.