وقتی دانشمندان با گمراه کردن شبکه های هوشمند موفق می‌شوند!

فیزیک‌دانان نظری با گمراه کردن عمدی شبکه‌های هوشمند روند یادگیری ماشینی را مختل می‌کنند. آنها روش جدیدی ابداع کردند که درآن، رایانه‌ها قادر خواهند بود داده هایی را طبقه بندی کنند که انسان ها هیچ ایده ای برای دسته‌بندی آنها ندارند. با دیپ لوک همراه باشید…

زمانی که رایانه ها عناصر تشکیل دهنده آب را از هم تشکیل می‌دهند و نتایج این شناسایی در تصاویر ماهواره ای برای پیش بینی وضعیت آب و هوا بکار می‌رود و یا زمانیکه پیش‌بینی می‌کنند در زمین بازی کدام بازیکن عملکرد بهتری خواهد داشت، از یک الگو ریتم تطبیقی استفاده می‌کنند. برنامه نویسان الگوریتم های تطبیقی را با دانستن اطلاعات قبلی می نویسند مثلا از تصاویر آب بر روی زمین آگاهند.
بطور مشابه سلول های عصبی مغز ما شبکه های جدیدی را در طول فرآیند یادگیری ایجاد می کنند که ناشی از اطلاعاتی است که قبلا یاد گرفته ایم. این الگوریتم ها برای اینکه موفق عمل کنند باید آموزش ببینند، یعنی در واقع باید اطلاعات اولیه در اختیارشان باشد. شبکه های هوشمند نیز بر این اساس کار می کنند؛ مثلا برای شناسایی عناصر تشکیل دهنده آب باید آنقدر الگو ریتم تکرار شود تا توانایی شناسایی عناصر را در عکس های مختلف داشته باشند. تا به حال از این شبکه های مصنوعی در یادگیری ماشینی که تصمیمات و شرایط اولیه در آنها دخیل است، استفاده شده است. یک مثال ساده از تصمیمات و شرایط اولیه این است که ما عناصر تشکیل دهنده آب را به‌خوبی می‌شناسیم و همین اطلاعات را به الگوریتم می‌دهیم تا بتواند بطور بهینه کار کند.

جدا کردن اصل از فرع

در حال حاضر گروهی از دانشمندان در دانشگاه ETH زوریخ به سرپرستی پروفسور سباستین هاربر، در تلاش‌اند تا روشی را توسعه دهند که قادر به شناسایی و دسته‌بندی هر نوع داده‌ای در داخل مجموعه‌های پیچیده باشد. این روش از شبکه‌های عصبی، الهام گرفته است. محققان دانشگاه ETH زوریخ این روش را بر روی پدیده‌هایی نظیر سیستم‌های بس ذره ای که از برهم‌کنش دوقطبی‌های مغناطیسی تشکیل شده، به‌کار برده‌اند. این سیستم‌ها هرگز به‌حالت تعادل نمی‌رسند، اگرچه می‌توان اندرکنش این سیستم‌ها را توصیف کرد، اما اینکه کدام ویژگی مکانیک کوانتومی باعث به تعادل نرسیدن سیستم می‌شود، واضح نیست.
برای سیستم هایی که با مرزهای فرعی از هم جدا شده‌اند، نمی‌توان ادعا کرد که کدام سیستم در حال تعادل است و کدام یک نه. دانشمندان از قانونی به نام “عمل کن اگر..” برای یافتن مرزی که سیستم تعادلی را از سیستم غیر تعادلی جدا می‌کند، استفاده کرده‌اند. با گرفتن داده‌هایی از سیستم کوانتومی، مرز دلخواه تک پارامتر را ایجاد و از این مرز برای تقسیم‌بندی داده‌ها به دو گروه استفاده می‌شود. دانشمندان به شبکه آموزش می‌آموزند که سیستم در حال تعادل است و سپس یک شبکه عصبی مصنوعی با تظاهر به اینکه سیستم به تعادل رسیده، ایجاد می‌شود. این در حالیست که سیستم دیگر به تعادل نرسیده است؛ به این ترتیب شبکه هوشمند گمراه می‌شود.
دانشمندان می‌توانند دفعات بی‌شماری به شبکه آموزش دهند، یعنی مرزهای مختلف در هر زمان و شبکه هایی را که توانایی مرتب سازی داده‌ها را دارد مشخص نمود. نتیجه این کار در بسیاری از موارد این است که شبکه تلاش می‌کند داده‌ها را مرتب کند، اما در برخی موارد با تقسیم داده‌ها به دو گروه، عمل تقسیم‌بندی بسیار کارساز‌تر و عملی‌تر می‌شود. بنابراین محققان می‌توانند عمل کنند، اگر مکان مرزها را بطور دقیق بدانند! به زبان ساده‌تر مرتب سازی کامل داده ها به مکان مرزها بستگی دارد.
به گفته اورت وان نیوونبرگ، دانشجوی دکتری دانشگاه ETH با دانستن مکان مرزها ما قادر به گمراه کردن شبکه های هوشمند خواهیم بود. بنابراین با گمراه کردن شبکه های هوشمند، دسته‌بندی داده ها هم به‌طور نادرست انجام خواهد شد. محققان با تعیین عملکرد الگوریتم، مرز بین سیستم‌های کوانتومی تعادلی و غیرتعادلی را مشخص نمودند. مرزها در جایی که مرتب سازی شبکه بطور کامل انجام گیرد قرار دارند. همچنین از این روش می‌توان در انتقال فاز توپولوژیک در جامد تک بعدی و مدل آیزینگ بهره برد.

دسته بندی بدون اطلاعات قبلی

این روش جدید را می‌توان به صورت آزمایشی و به طور ساده توضیح داد: می‌خواهیم چهار توپ به رنگ های آبی ، مایل به آبی، قرمز و مایل به قرمز را در دو گروه دسته‌بندی کنیم. فرض کنیم هیچ ایده ای برای اینکه این دسته بندی چه شکلی خواهد داشت، در ذهن نداریم. اگر به شبکه عصبی آموزش داده شود که مرز در ناحیه قرمز قرار دارد شبکه گیج خواهد شد. حال اگر به شبکه بیاموزیم که رنگ آبی و رنگ مایل به آبی مشابه هستند و بخواهیم تفاوتی بین رنگ قرمز و رنگ مایل به قرمز قائل شود، نمی تواند این کار را انجام دهد. در صورتی که مرز را در ناحیه رنگ بنفش قرار دهیم، شبکه قادر به دسته بندی توپ‌ها می‌شود اگرچه در حالت پیشرفته حتی احتیاجی به خطوطی که ناحیه رنگ بنفش را تقسیم بندی می‌کنند نیست. با مقایسه مرتب‌سازی‌هایی که در اثر انتخاب‌های متنوع مرزها به دست می‌آید، می‌توان مرزها را بدون اطلاعات قبلی به‌دست آورد.

دانلود مقاله اصلی به صورت PDF