هوش مصنوعی، هر چه داده های بیشتری در اختیار داشته باشد، بهترعمل می کند و این، درست جایی است که نقطه قوت فیس بوک، توییتر و گوگل محسوب می شود. مثلا اگر بخواهید با استفاده از یادگیری ماشین یک بات هوشمند را برای یافتن اخبار جعلی آموزش دهید، در این سه شبکه اجتماعی میلیون ها پست جعلی خواهید یافت که به عنوان الگو به الگوریتم تان بدهید.
مجرمان سایبری روز به روز پیشرفته تر و مجهزتر می شوند. این مجرمان بات هایی می سازند که با ترفندهای متعدد، قادر به گمراه کردن شبکه های اجتماعی هستند و می توانند اکانت خود را بسازند. آنها از آدرس های آی پی جعلی استفاده می کنند، سرعت خود را در حد یک انسان معمولی پایین می آورند و یکدیگر را در لیست دوستان خود اضافه می کنند. اما این بات ها همچنان قادر به جعل حرکت های انسان نیستند و این همان جایی است که فیس بوک برای ضربه زدن به آنها انتخاب کرده است.
Unbotify نام استارت آپی است که به نظر می رسد در این زمینه با فیس بوک همکاری می کند. اران ماگریل، نایب رییس محصولات و عملیات این استارت آپ می گوید: کار ما جمع آوری داده ها از الگوهای رفتاری و حرکتی کاربران روی گوشی آنهاست؛ همانند اینکه وقتی وارد حساب کاربری می شوند، حرکت گوشی آنها چگونه است.
الگوریتم هوشمند تولید شده توسط این استارت آپ اسراییلی توسط هزاران کاربر که به طور مرتب با گوشی خود کار کرده اند، آموزش دیده است و به این ترتیب حتی اگر بات ها آی پی خود را تغییر دهند، باز هم به دلیل ناتوانی در جعل حرکات فیزیکی دست کاربر، گیر می افتند. البته مدیران این استارت آپ اعلام کرده اند که نرم افزارشان، اطلاعات شخصی و کاربری را جمع آوری نمی کند.
خود Unbotify حاضر به تایید همکاری اش با فیس بوک نشده و تنها اعلام کرده که با شبکه های اجتماعی اصلی همکاری دارد. فیس بوک هم این همکاری را تایید نکرده است.
البته همچنان در فیس بوک، نیروی انسانی نقشی عمده در مقابله با این اکانت ها بازی می کند. این شرکت اخیرا تعداد کارکنان موظف به بررسی محتوا را دوبرابر کرده و به 20 هزار نفر رسانده است. در ماه مه نیز فیس بوک اعلام کرد که 583 میلیون حساب کاربری جعلی را در سه ماه اول سال 2018 حذف کرده است. اما حذف ده ها میلیون اکانت در هر روز کاری نیست که از عهده انسان برآید و عمده این کار را ماشین انجام می دهد.
جمع آوری اطلاعات رفتاری اما تنها روش فیس بوک برای مقابله با بات ها نیست. این شرکت باز هم با استفاده از هوش مصنوعی، با تشخیص اینکه روی هر دستگاه چند حساب کاربری ایجاد شده، و همچنین با بررسی رفتار حساب های کاربری پس از ایجاد، به شناسایی اکانت های جعلی می پردازد. برای نمونه اگر یک حساب کاربری ایجاد شود و بلافاصله به صدنفر یا بیشتر تقاضای دوستی بفرستد، آن را به عنوان روبات نرم افزاری شناسایی می کند.
ازسوی دیگر، در ماه مارس گذشته این شبکه اجتماعی اعلام کرد که برنامه تایید صحت محتوای خود را توسعه می دهد تا تصاویر و ویدیو ها را هم دربربگیرد. این برنامه در همکاری با نهادهای خبری همچون فرانس پرس و اسوشیتدپرس اجرا می شود. در این ابزارهای تایید صحت محتوا نیز از هوش مصنوعی شرکتی به نام Adverif.ai استفاده می شود که می تواند مسیر انتشار تصاویر را دنبال کند و بفهمد که قبلا کجاها ارسال شده و آیا در این فرایند، تصویر یا ویدیو تغییر داده شده است یا نه.