«آرتمیس» پروژه‌ای برای حمایت از کودکان در فضای مجازی

برگزاری میزان _ تسنیم نوشت: امروزه بحث حمایت و صیانت از کودکان و نوجوانان در فضای مجازی از اهمیت بسیار زیادی در سطح دنیا برخوردار است و شرکت‌های فناوری اطلاعات به دنبال تولید ابزار‌هایی هستند تا از آزار‌های کودکان در فضای مجازی جلوگیری شود.

 

«آرتمیس» نام پروژه‌ای است که شرکت مایکروسافت آن را آغاز کرده است و این شرکت به دنبال آن است با کمک فناوری اطلاعات از سوء استفاده افراد از کودکان در فضای مجازی و به خصوص در گفتگو‌های آنلاین، جلوگیری شود. آرتمیس ابزار جدیدی است که به نظر می‌رسد می‌تواند در رهگیری، کنترل و شناسایی افرادی که قصد سوء استفاده از کودکان در چت‌های آنلاین دارند، مفید باشد. این پروژه بر اساس تکنیک مایکروسافت در ایکس باکس، امروزه در اختیار شرکت‌های چت آنلاین از جمله اسکایپ هم قرار گرفته است. دلیل طراحی و تولید این ابزار، افزایش سوء استفاده‌های جنسی از کودکان در چت‌های آنلاین بوده است.

 

این پروژه در نوامبر ۲۰۱۸ آغاز شد تا با کمک فناوری تولید شده از طرف مایکروسافت، خدمات مربوطه را در اختیار شرکت‌های ارائه دهنده گفتگوی آنلاین قرار دهد. در این پروژه تیمی متشکل از میت گروپ، روبلاکس، کیک، تورن در کنار طرف‌های دیگر با مایکروسافت همکاری داشته و سرپرست پروژه هانی فرید بود که ابزار PHOTO DNA را کشف و گزارش تصاویر کودک آزاری آنلاین، را طراحی و ساخته است.

 

هانی فرید یک استاد برجسته دانشگاهی است که در سال ۲۰۰۹ با همکاری مایکروسافت و کالج دارتموث در زمینه توسعه  PHOTO DNA تلاش کرده است. PHOTO DNA ابزاری رایگان است که در زمینه کشف، اختلال و گزارش دهی میلیون‌ها تصویر سوء استفاده جنسی از کودکان کمک کرده و توسط بیش از ۱۵۰ شرکت و سازمان در سراسر جهان استفاده می‌شود.

 

روند تعریف شده در آرتمیس به این صورت است که این ابزار در قدم اول، کلمات و الگو‌های گفتاری و کلام‌های مشکوک در چت را تشخیص داده و با نشانه گذاری آنها، باعث تسهیل کار ناظر انسانی می‌شود. در واقع این ابزار بر پایه ساختار مکالمات گذشته بر پایه گفتگو می‌باشد. بر این اساس، محتوای گفتگو ارزشگذاری شده و بر اساس امتیاز‌های داده شده به مکالمه رتبه بندی می‌شود.

 

در گام بعدی مکالمه در اختیار مجری ناظر که یک عامل انسانی است قرار گرفته و با ارزیابی‌های انجام شده، تهدید‌های احتمالی شناسایی می‌شود. سپس بر اساس محتوای ارزیابی شده، گزارش لازم به مراجع قضایی و انتظامی یا نهاد‌های حامی حقوق کودکان، برای کنترل و بررسی نهایی ارسال می‌شود. پیش فرض عملکرد این سیستم، انتقال داده به ناظر است؛ اما اگر مکالمه از سوی هوش مصنوعی حساس و فوی تشخیص داده شود، اطلاعات به صورت مستقیم در اختیار پلیس و سازمان‌های قضایی نیز قرار خواهد گرفت.

 

این ابزار در اختیار تمام شرکت‌های مجهز به چت آنلاین قرار گرفته تا به آن‌ها برای تنظیم استاندارد برای نظارت بر سوء استفاده کنندگان و توسعه ابزار‌های پیشگیری برای مقابله با سوء استفاده‌های آتی، کمک کند. همچنین ادعا شده است که جهانی ایمن برای تعامل کودکان در فضای مجازی با استفاده از فناوری ایجاد می‌شود که بر اساس آن با ایجاد فضایی پاک، با سوء استفاده‌های جنسی و ... که کودکان در معرض آن هستند، مقابله می‌شود.

 

شرکت‌های فناوری بر پایه چت، سازمان‌های غیر دولتی و کاربران اینترنت که  در این بستر به دنبال محافظت از کودکان در فضای مجازی بر روی سیستم عامل خود هستند، می‌توانند برای استفاده بدون هزینه از این روش درخواست دهند. در این زمینه بازخورد‌های مناسبی از نهاد‌ها و شرکت‌های فعال در زمینه حقوق کودکان در فضای مجازی برای پیش بردن بهینه این فرآیند، دریافت شده است.