فیسبوک اکانت های دارای عکس پروفایل ساخته شده با هوش مصنوعی را پاک کرد - وبلاگ ارم گفتگو

به گزارش وبلاگ ارم گفتگو، فیسبوک روز آدینه بیش از 900 حساب کاربری، صفحه و گروه جعلی روی فیسبوک و اینستاگرام را پاک کرد.

فیسبوک می گوید این حساب های کاربری و صفحات یک شبکه سراسری در وب برای فشار بر افکار عمومی و فریب ان ها در ماجراهای ترامپ تشکیل داده بودند و نزدیک به 55 میلیون کاربر را مشغول خود کردند.

این شبکه عموما از اکانت های جعلی، عکس های پروفایل ساختگی مبتنی بر هوش مصنوعی و فراوری محتوا با یاری ابزارهای اتوماتیک هوشمند استفاده نموده تا در شبکه های اجتماعی شایعه پراکنی نمایند. بخشی از فعالیت این شبکه هم در رسانه های دیگری مانند توییتر و یوتیوب است.

این شبکه جدیدترین نشان جنگ های اطلاعاتی و سایبری در اینترنت است. برای اولین بار است که در این وسعت از هوش مصنوعی برای فراوری عکس های پروفایل جعلی ولی بسیار شبیه به کاربران وب استفاده می گردد. تا کنون هیچ گاه هوش مصنوعی در این حد به خدمت یک کارزار رسانه ای غیرمجاز و جعلی درنیامده است.

این شبکه برای طبیعی و واقعی جلوه دادن کاربران و حساب های کاربری آن ها، اقدام به فراوری عکس های پروفایل با استفاده از ابزارهای هوش مصنوعی نموده است. فیسبوک تا کنون پیروز شده 610 اکانت در خود شبکه اجتماعی فیسبوک، 156 گروه، 89 صفحه و 72 حساب کاربری اینستاگرام را شناسایی کند.

شرکت فیسبوک با ردگیری سرمنشا این شبکه تبلیغاتی جعلی به گروه های راست افراطی در امریکا و بعد گروه هایی در دو کشور چین و ویتنام رسیده است. این افراد غالبا به پشتیبانی و حمایت از دونالد ترامپ مشغول بوده و سعی کردند بعضی از ترافیک خود را از کشورهای دیگر راهنمایی نمایند تا کمتر شکی برانگیخته گردد.

بسیاری از گروه ها و اکانت هایی که دارای نام هایی مشابه آمریکا به رئیس جمهور ترامپ احتیاج دارد، ترامپ برای رئیس جمهور آمریکا و ما با ترامپ و پنس ایستاده ایم! هستند؛ نه از داخل خاک کشور ایالات متحده بلکه از ویتنام مدیریت می شوند.

عکس پروفایل جعلی که واقعی نشان می دهند

فارغ از محتواهای فراوری شده جعلی و تبلیغاتی منتشر شده در این صفحات و حساب های کاربری، عکس های پروفایل آن ها بسیار جلب توجه می نماید. عکس هایی که در نمای اول بسیار واقعی و حقیقی به نظر می رسند ولی در واقع با یک سیستم شبکه عصبی و دستکاری عکس های واقعی انسان ها فراوری شدند.

هیچ یک از این چهره ها در دنیای بیرون نمونه واقعی ندارند و اگر به خوبی در عکس دقت گردد؛ بعضی اشکالات و نواقص دیده می گردد. مثلا، عینک و گوشواره آن ها تقارن ندارد یا بعضی اجزای صورت درست و کامل نیست.

فناوری شبکه عصبی که برای فراوری عکس های پروفایل جعلی استفاده شده است؛ تا حدود زیادی قابل قبول است و محققان را به اشتباه می اندازد ولی چون به خوبی آموزش دیده نشده و نمی تواند آناتومی صورت انسان را درک کند؛ در بعضی عکس ها ضعف هایی نشان داده است.

محققان این تصاویر را با همکاری متخصصان دانشگاه فدریکوی 2 ناپل مورد آنالیز قرار داده و تقریبا (99 درصد) مطمئن هستند از الگوریتم های هوش مصنوعی GAN برای فراوری عکس ها استفاده شده است.

منبع