گوگل یک پدر را به اشتباه به آزار فرزندش متهم کرد
ظاهرا یک پدر نگران به نام مارک، اهل سان‌فرانسیسکو آمریکا از روی نگرانی بابت تورم در ناحیه‌ی تناسلی فرزندش، از این قسمت عکس می‌گیرد و برای دکتر ارسال می‌کند؛ گوگل هم این تصویر را به اشتباه کودک‌آزاری تلقی کرده، تمام حساب‌های این شخص را می‌بندد و حتی پای پلیس را به قضیه باز می‌کند.
دیروز خبری منتشر شد مبنی بر اینکه یک فرد که فقط نام او فاش شده (مارک)، از قسمت داخلی ران (ناحیه‌ی تناسلی) پسرش به خاطر یک مشکل پزشکی عکاسی کرده تا برای پزشک او ارسال کند. او حس کرد این قسمت از بدن پسرش دچار تورم و التهاب شده و برای اینکه از وجود یا عدم وجود مشکل اطمینان حاصل کند، از این قسمت عکس می‌گیرد و برای پزشک می‌فرستد. پزشک هم تصویر را می‌بیند و حتی یک نسخه هم جهت درمان می‌نویسد.
اما داستان از جایی اوج گرفت که این تصویر در فضای ابری بارگذاری شد. به محض اینکه این اتفاق افتاد، گوگل تصویر را به عنوان کودک‌آزاری شناسایی و گزارش مربوط به آن را به «مرکز ملی کودکان مفقود و مورد سوء استفاده قرار گرفته» ارسال کرد. همین موضوع هم سبب شد پای پلیس به قضیه باز شود.
دو روز بعد از اینکه این تصویر در فضای ابری بارگذاری شد، گوگل حساب کاربری این فرد را مسدود کرد. به صورت کلی هر حساب کاربری گوگل که به نام مارک بود، از جمله سرویس محلی گوگل فای، مسدود شد. به گزارش مجله‌ی تایمز، ظاهرا گوگل حتی به خاطر این موضوع پیامی به مارک ارسال کرد و به او گفت که تصویر بارگذاری شده یک «محتوای آسیب‌زننده» به حساب می‌آید و در نتیجه با سیاست گوگل در این زمینه به شدت مغایرت دارد و شاید غیرقانونی باشد. مارک بعدا متوجه می‌شود که گوگل گزارش این کار را به مرکز ملی کودکان مفقود و مورد سوء استفاده قرار گرفته ارسال کرده و پلیس سان‌فرانسیسکو هم پیگیر ماجرا شده است.
اگرچه بعد از تحقیقات صورت گرفته، پدر کودک از اتهام تبرئه شد اما گوگل دست‌بردار نبود و حساب‌های کاربری او را مسدود نگه داشت. یکی از سخنگویان این شرکت با نام کریستا مالدون در این رابطه گفت: «ما در تشخیص سو استفاده‌ی جنسی از کودکان، مطابق قوانین آمریکا رفتار کرده و ترکیبی از فناوری تطبیق هش و هوش مصنوعی را برای شناسایی و حذف آن از پلتفرم خود استفاده می‌کنیم».
دنیل کان گیلمور، یکی از کارمندان ارشد اتحادیه آزادی‌های مدنی آمریکا (ACLU) در رابطه با این حرکت گوگل گفت:
این شرکت‌های بزرگ به بخش بزرگی از داده‌ها و اطلاعات شخصی درباره‌ی زندگی مردم دسترسی دارند ولی با این حال همچنان درک درستی از شرایط حقیقی زندگی کاربران ندارند. بسیاری از موارد هستند که حقایق زندگی ما را تشکیل می‌دهند اما این شرکت‌های بزرگ آن را قانونی تلقی نمی‌کنند.
گیلمور همچنین افزود:
نه اینکه بخواهم بگویم این سیستم‌ها توانایی تشخیص موارد کودک‌آزاری را ندارند، حرف من این است که گاهی اوقات قضاوت آن‌ها، خطای مثبت کاذب برای مردم به وجود می‌آورد و زندگی آن‌ها می‌تواند کاملا توسط ماشین‌ها وارونه شود. مردمی هم که تحت تأثیر این اتفاقات هستند ممکن است تصمیمات بدی بگیرند چرا که هیچ دلیلی برای بهبود اوضاع ندارند.
البته این اتفاق در فوریه‌ی سال ۲۰۲۱ رخ داد؛ زمانی که بسیاری از مراکز درمانی همچنان به خاطر شیوع ویروس کرونا بسته بودند و خدمات به صورت آنلاین به مردم ارائه می‌شدند. تصویری هم که مارک ثبت کرد به درخواست پرستار پزشک بود. گوگل اما پدر این کودک را بابت بارگذاری این تصویر به عنوان یک متهم شناسایی کرد و حساب‌های کاربری او را حتی بعد از گزارش پلیس هم از حالت مسدودی خارج نکرد.
گوگل ظاهرا توسط قوانین فدرال موظف است تا این سو استفاده‌های احتمالی را به سیستم CyberTipLine مرکز ملی کودکان مفقود و مورد سوء استفاده قرار گرفته گزارش دهد. سال گذشته، گوگل ۶۲۱ هزار و ۵۸۳ مورد مشابه را به این سیستم گزارش داد که در بین آن‌ها، ۴۲۶۰ مورد هم برای مقامات این مرکز ارسال شدند که به گزارش مجله‌ی تایمز، پرونده‌ی مارک هم جز آن‌ها بود.
تمام این اتفاقات نشان می‌دهد هنوز هم نمی‌شود به هوش مصنوعی برای تشخیص بسیاری از موارد مختلف اعتماد کرد.
منبع: PhoneArena
