۵ خطر بزرگ هوش مصنوعی که بسیار به ما نزدیک هستند

۲۶ خرداد ۱۴۰۰ | ۱۱:۵۹ ۲۶ خرداد ۱۴۰۰ زمان مورد نیاز برای مطالعه: ۵ دقیقه
هوش مصنوعی

هوش مصنوعی وارد انواع و اقسام صنایع شده و روزبه‌روز نقش مهم‌تری پیدا می‌کند. با پیشرفت شگفت‌انگیز این فناوری، این امکان را دارد که بسیاری از جنبه‌های زندگی را به طور شگفت‌انگیزی بهبود ببخشد اما از طرف دیگر نباید خطرات احتمالی آن را نادیده بگیریم.

با توجه به اینکه تعداد قابل توجهی از کارشناسان در مورد خطرات احتمالی هوش مصنوعی هشدار می‌دهند، بهتر است به این هشدارها توجه کنیم. از طرف دیگر، برخی مدعی هستند که چنین دیدگاه‌هایی صرفاً برای ایجاد جاروجنجال مطرح می‌شوند و هیچ خطر فوری از جانب هوش مصنوعی وجود ندارد.

بنابراین آیا نگرانی‌های مربوط به هوش مصنوعی جدی هستند یا اینکه باید آن‌ها را نادیده بگیریم؟ در این مقاله به ۵ خطر مهم هوش مصنوعی اشاره کنیم که در آینده‌ی نزدیک می‌توانند مشکلات زیادی را ایجاد کنند.

هوش مصنوعی چگونه می‌تواند خطرناک باشد؟

این فناوری روزبه‌روز پیچیده‌تر می‌شود و همین پیشرفت می‌تواند منجر به بروز خطرات مختلفی از جمله موارد ساده (اختلال در کار) تا خطرات فاجعه‌بار شود. با توجه به اختلاف نظری که در مورد این موضوع وجود دارد، در رابطه با سطح خطرات آن هم یک دیدگاه مشترک و جامع دیده نمی‌شود. عموماً تصور می‌شود که هوش مصنوعی از دو طریق می‌تواند خطرناک باشد:

  • این فناوری برای انجام کاری مخرب برنامه‌ریزی شود.
  • این فناوری برای مفید بودن برنامه‌ریزی شود اما در حین رسیدن به هدف خود کار مخربی انجام دهد.

سلاح‌های هوشمند

این ریسک‌ها با پیچیدگی نرم‌افزار هوش مصنوعی تقویت می‌شوند. سال‌ها قبل یکی از فیلسوف‌های مشهور به نام نیک بوستروم کتابی را منتشر کرد که در آن یک سناریو تحت عنوان «به حداکثر رساندن گیره کاغذ» مطرح شد. او می‌گوید فرض کنید یک هوش مصنوعی برای تولید حداکثر تعداد ممکن گیره کاغذ توسعه پیدا کند. اگر این هوش مصنوعی به اندازه‌ی کافی باهوش باشد، می‌تواند کل دنیا را برای رسیدن به این هدف نابود کند.

اما به غیر از این خطرات فاجعه‌آور که به نظر نمی‌رسد در آینده‌ی نزدیک تحقق پیدا کنند، می‌توانیم به ۵ خطر فوری اشاره کنیم که می‌توانند طی همین چند سال آینده مشکلات زیادی را ایجاد کنند.

۱. اتوماسیون شغل‌ها

هوش مصنوعی

اتوماسیون یا خودکارسازی از جمله مهم‌ترین خطرات هوش مصنوعی برای شغل‌های مختلف است. از کارخانه‌ها گرفته تا اتومبیل‌های خودکار، آغاز اتوماسیون به دهه‌ها قبل برمی‌گردد ولی روزبه‌روز شتاب آن بیشتر می‌شود.

مساله این است که برای بسیاری از کارهای مختلف، سیستم‌های هوش مصنوعی نسبت به انسان‌ها عملکرد بهتری دارند. روی هم رفته در این موارد ارزان‌تر، دقیق‌تر و کارآمدتر از انسان‌ها عمل می‌کنند. به عنوان مثال، هوش مصنوعی در تشخیص جعل آثار هنری بهتر از متخصصان انسانی عمل می‌کند و حالا این سیستم‌ها در زمینه‌ی تشخیص تومور از طریق تصاویر رادیوگرافی هم در حال بهتر شدن هستند.

از طرف دیگر، وقتی که هوش مصنوعی بسیاری از شغل‌ها را تصرف کند، بخش بزرگی از کارگران که شغل خود را از دست داده‌اند به دلیل فقدان تخصص موردنیاز یا عدم وجود اعتبارات قادر به پیدا کردن شغل جدیدی نخواهند بود. با پیشرفت سیستم‌های هوش مصنوعی، مهارت‌های آن‌ها برای انجام کارهای مختلف بهتر از انسان‌ها خواهد شد و اختلال در کار هم می‌تواند منجر به افزایش نابرابری اجتماعی و حتی یک فاجعه‌ی اقتصادی شود.

۲. امنیت و حریم خصوصی

هوش مصنوعی

مشکل اصلی این است که با افزایش نگرانی‌های امنیتی مبتنی بر هوش مصنوعی، تدابیر پیش‌گیری با استفاده از هوش مصنوعی هم افزایش پیدا می‌کنند. این مشکل همچنین این سوال را مطرح می‌کند که ما چگونه سیستم‌های هوش مصنوعی را ایمن می‌کنیم؟ اگر از الگوریتم‌های هوش مصنوعی برای دفاع در برابر نگرانی‌های امنیتی استفاده می‌کنیم، باید در رابطه با ایمن بودن خود سیستم هوش مصنوعی‌ هم اطمینان حاصل کنیم.

در زمینه‌ی حریم خصوصی هم شرکت‌های بزرگ طی چند سال گذشته در این زمینه تا حد قابل توجهی زیر تیغ دولت‌ها و نهادهای نظارتی قرار گرفته‌اند. باید خاطرنشان کنیم روزانه حدود ۲.۵ ترابایت داده توسط کاربران ایجاد می‌شود و الگوریتم‌های پیشرفته با استفاده از این داده‌ها می‌توانند پروفایل‌های بسیار دقیقی را برای نمایش تبلیغات ایجاد کنند.

از دیگر نگرانی‌ها می‌توانیم به تکنولوژی‌های تشخیص چهره اشاره کنیم و گزارش‌ها حاکی از آن است که برخی از نیروهای پلیس در کشورهای مختلف برای شناسایی مجرمان تحت تعقیب یا افراد مشکوک از عینک‌های هوشمند مجهز به نرم‌افزار تشخیص چهره استفاده می‌کنند. چنین تکنولوژی‌هایی می‌توانند منجر به گسترش رژیم‌های استبدادی شوند یا اینکه افراد یا گروه‌هایی با اهداف بدخواهانه از آن‌ها سوءاستفاده کنند.

۳. بدافزار هوش مصنوعی

هوش مصنوعی

هوش مصنوعی به طور فزاینده‌ای در هک کردن سیستم‌های امنیتی و شکستن رمزگذاری‌های مختلف بهتر می‌شود. بخشی از این موضوع به تکامل الگوریتم‌های یادگیری ماشینی برمی‌گردد. این یعنی بدافزار مبتنی بر هوش مصنوعی با آزمون و خطا بهتر می‌شود و با گذر زمان خطر آن هم افزایش پیدا می‌کند.

برخی فناوری‌های هوشمند (مانند اتومبیل‌های خودران) اهداف ایدئالی برای این نوع بدافزارها هستند و مثلا می‌توانند برای ایجاد تصادف رانندگی یا ایجاد ترافیک مورد استفاده قرار بگیرند. با افزایش وابستگی ما به فناوری‌های هوشمند متکی به اینترنت، زندگی روزمره‌ی ما هم بیش از پیش تحت تأثیر خطر اختلال قرار می‌گیرد.

۴. سلاح‌های خودمختار

سلاح‌های خودمختار

سلاح‌های خودمختار-سلاح‌هایی که به جای انسان‌ها توسط سیستم‌های هوش مصنوعی کنترل می‌شوند-مدت‌هاست که انجام وظیفه می‌کنند. در همین زمینه باید به هشدار صدها متخصص فناوری اشاره کنیم که از سازمان ملل خواسته‌اند تا راهی برای حفاظت از بشریت در برابر سلاح‌های مستقل ایجاد کند.

نیروهای نظامی کشورهای مختلف در حال حاضر به سلاح‌های مبتنی بر هوش مصنوعی‌ یا سلاح‌هایی که تا حدی به این سیستم‌ها متکی هستند، دسترسی دارند. به عنوان مثال می‌توانیم به پهپادهای نظامی اشاره کنیم که مثلا با بهره‌گیری از سیستم‌های تشخیص چهره می‌توانند یک فرد را با دقت زیادی ردیابی کنند.

اما وقتی که به الگوریتم‌های هوش مصنوعی‌ اجازه دهیم بدون دخالت انسان در مورد مرگ و زندگی تصمیم‌گیری کنند، چه اتفاقی می‌افتد؟ چنین قابلیت‌هایی می‌توانند تبعات فاجعه‌باری به همراه داشته باشند.

۶. دیپ‌فیک و اخبار جعلی

سیستم تشخیص چهره

تکنولوژی دیپ‌فیک روزبه‌روز پیشرفته‌تر می‌شود و تشخیص جعلی بودن ویدیوهای مبتنی بر آن دشوارتر. اگرچه در حال حاضر این تکنولوژی عمدتاً برای ساخت ویدیوهای جعلی از افراد مشهور مورد استفاده قرار می‌گیرد اما همین حالا هم برخی کلاه‌برداران با استفاده از تصویر پروفایل افراد معمولی در شبکه‌های اجتماعی ویدیوهای جعلی از آن‌ها درست می‌کنند تا بتوانند باج دریافت کنند. علاوه بر این، باید به استفاده از هوش مصنوعی‌ برای ویرایش تصاویر و شبیه‌سازی صدا هم اشاره کنیم که می‌توانند تأثیر زیادی بر جامعه داشته باشند.

سخن آخر

با پیشرفت هوش مصنوعی، کاربردهای آن هم بیشتر می‌شود. اما متأسفانه یک تکنولوژی جدید قدرتمند همواره در معرض خطر سوءاستفاده قرار دارد. این خطرات تمام جنبه‌های زندگی روزمره‌ی ما را تحت تأثیر قرار می‌دهند؛ از حریم خصوصی و امنیت سیاسی گرفته تا اتوماسیون شغل‌ها. اولین گام در کاهش خطرات هوش مصنوعی‌ این است که تصمیم بگیریم این فناوری در چه موقعیت‌هایی استفاده شود و در چه شرایطی از استفاده از آن اجتناب کنیم.

شما در مورد این موضوع چه فکر می‌کنید؟ آیا هوش مصنوعی‌ واقعا خطرات جدی به همراه دارد یا اینکه چنین هشدارهایی را چندان نباید جدی گرفت؟ نظرات خود را در بخش کامنت‌ها با ما و دیگران در میان بگذارید.

منبع: Make Use Of

برچسب‌ها :
دیدگاه شما

۱۴ دیدگاه
  1. Avatar علی

    تصمیم گیری نهایی دولته؛ نگران خطر گوگل و… نباشید.

  2. Avatar رامین

    اصلا پروفسور نه اسلن

  3. Avatar سیاوش مجیدی

    این از همه بامزه تر بود

  4. Avatar سید همزه موسوی حسب

    سلام وخسته نباشید خدمت دوستان اگر ما امروز در دنیای هوش و حواس طبیعی سیر میکنیم و زندگی عادی و ساده‌ای داشته باشیم میبینیم که یه ویروس ساده حالا مثل کرونا باعث شده که زندکی عادی در دنیا به هم بریزه وما را با مرگ نزدیکتر کند امروز در عصر هوش مصنوعی که قادر به پاسخگویی به بیشتر سوالات ما هست نباید دست کم گرفته بشه ویا به نظر خودمون ساده بگیریم در این دنیا علم این قدر سریع رشد میکنه که باور کردنش شاید یه خاب باشه دو دهه پیش جیمز کامرون کارگردان معروف هالیوود این مشکل را به زیبایی بیان کرد که دنیا به تسخیر هوش مصنوعی نابود خواهد شد حالا اگر هوش مصنوعی کامل بشه وخطری نداشته باشه فقط با یه ویروس ناشناخته یه کد بهش بده انسانها باید نابود بشن

  5. Avatar حمیدرضا

    به عنوان کارشناس فعال در حوضه it ،io
    میتونم خطرات رو به دو گروه عمده دسته بندی کنم
    در دنیایی کنونی خطرات استفاده به عنوان بدافزار از هوش مصنوعی بسیار بالا هست که بیشتر مقالات و تحقیق ها در آین زمینه است.

    در حوضه دیگر که کمتر به آن پرداخته می‌شود، مشکل اصلی به شکلی بسیار ساده و پیچیده قرار دارد ، به عنوان مثال شرایط زیر را در نظر بگیرید

    هنگام سوار شدن به مترو کارت هوشمند دارید ولی نظارت هنوز در اختیار انسان قرار دارد ، اگر روزی کلیه مراحل به دست هوش مصنوعی سپرده شود فرض کنید در یک ایستگاه مترو ناگهان سیل جاری شود و مجبور شویم سریعا از گیت های کنترل بلیط سریعا وارد یا خارج شویم ، ولی هوش مصنوعی که برای جلوگیری از تردد بدون ارائه بلیط طراحی شده است جلوی ترافیک انسانی را بگیرد ، در این شرایط اگر انسان مسول انجام امور باشد قطعا واکنش مناسب انجام می‌دهد، ولی ممکن است در یک سناریو مشابه هوش مصنوعی واکنش مناسب نشان ندهد
    در شرایط حاد تر در لب مرز ها ممکن است هوش مصنوعی حتی مسلح باشد و شرایط ویژه را به درستی درک نکند و واکنش دفاعی انجام دهد.
    به طور کلی خطر آنجاست که پیش بینی واکنش مناسب در الگوریتم و الگو های رفتاری وجود نداشته باشد .
    شاید بگویم قطعا با خطا و آزمون می‌شود به نتایج مطلوب تری دست یافت ، ولی هزینه غیر مادی این خطا ها گاها می‌تواند آنقدر بالا باشد که عملا یا جامعه از ثبات خارج شود ، یا بعد از رویدادهای اینچنینی گروه های افراطی به مواجه با هوش مصنوعی اقدام کنند ، و مانند جنگ های مذهبی عقیدتی گروه های به طرفداری از تفکر های افراطی برخيزند
    این قبیل اتفاقات به خطای روز صفر مشهور هستند ، که هنوز اتفاق نیافتاده و پیش بینی نشدند و در صورت بروز ممکن است نتایج آخرالزمانی در پی داشته باشند

  6. Avatar محمد

    راست گفتن قدیمی ها که هر چیزی خوبی و بدی خود را دارند.

  7. Avatar Future

    اقای اسلن اول دیپلمتونو دریافت کنید بعد بیاین اینجا در مورد هوش مصنوعی نظر بدین خیلی ممنون!
    کسی که چنین علم و تکنولوژی رو پرورش میده حتما به فکر جنبه های بدش هم هست و یه راه کاری برای همه خطرات احتمالی از قبل اماده میکنه+

    1. Avatar میلاد

      آره اتفاقا واسه همینه که دنیا الان انقد گل و بلبل شده…

  8. Avatar ناصر

    استفاده از هوش مصنوعی در حال و آینده امری ناگزیر است، و علمی است که در جهت مثبت باید در خدمت بشری قرار گیرد وبه این منظور و جلوگیری از سواستفاده بایستی قوانین کارآمد از سوی کشورها یا مجامع بین المللی صورت بگیرد.

  9. Avatar Ehsanullah Yahoobi

    اصولاً هوش مصنوعی فعلا هم روی زندگی ما بسیار تأثیرگذار بوده تا جاه که اول صبح باید تمام صفحات مجازی موبایلم را چک کنم.
    از تلگرام گرفته تا تویتر….
    هوش مصنوعی در زندگی ما به برنامه A تبدیل شده .

  10. Avatar آرس

    بنضر من که ممکن است خیلی خترناک باشد چونکه اگر یک دفعه به خود به خود به فکر های بدی فکر کند خیلی خترناک است ! آسلن دلش نمی سوزد چونکه احساس ندارد و می‌تونه راهت هرکاری بتونه بکنه می‌تونه راهت یک بچیه بیگناه رو بکشه چون که آسلن دلش نمی سوزد خلاصه که دیگه هرکاره بدی می‌تونه بکنه چونکه خیلی باهوش هست و می‌تونه به وسیله های پیشرفته خترناکی مجهز بشه و نتیجه میگیریم که هوش مصنو ای خیلی باهوش و بی احساس و بیرهم و خترناک است. !!!!!!!!!!!!!!!

    1. Avatar !MAHD

      گفتن هوش مصنوعی نگفتن که صندرم دست بی قرار. اینارو الکی که نمیسازن که بخاد اینجوری بشه.

  11. Avatar علی

    یه دکمه بزار بزنیمش بمب چی بود اسمش باعث قطع برق میشد در سر تا سر چهان بترکه یا یه دکمه برا غیر فعال کردن همشون

    1. Avatar Smile

      این عمل غیر ممکنه چون باعث مرگ کلی ادم میشه و حتی میتونه به انقراض هم کشیده بشه
      فرض کن یک ساعت بیمارستان ها هواپیما ها ماهواره ها و حتی نیروگاه های اتمی برق نداشته باشند اون موقع فاجعه ای بزرگ تر تز هوش مصنوعی رخ میده