۵ خطر بزرگ هوش مصنوعی که بسیار به ما نزدیک هستند

۱۵ مرداد ۱۴۰۲ زمان مورد نیاز برای مطالعه: ۵ دقیقه
هوش مصنوعی

هوش مصنوعی وارد انواع و اقسام صنایع شده و روزبه‌روز نقش مهم‌تری پیدا می‌کند و به همین دلیل بررسی خطرات هوش مصنوعی هم ضرورت غیرقابل انکاری دارد. با پیشرفت شگفت‌انگیز هوش مصنوعی، این فناوری می‌تواند بسیاری از جنبه‌های زندگی را به طور شگفت‌انگیزی بهبود ببخشد اما از طرف دیگر نباید خطرات احتمالی آن را نادیده بگیریم.

با توجه به اینکه تعداد قابل توجهی از کارشناسان در مورد خطرات احتمالی هوش مصنوعی هشدار می‌دهند، بهتر است به این هشدارها توجه کنیم. از طرف دیگر، برخی مدعی هستند که چنین دیدگاه‌هایی صرفاً برای ایجاد جاروجنجال مطرح می‌شوند و هیچ خطر فوری از جانب هوش مصنوعی وجود ندارد.

بنابراین آیا نگرانی‌های مربوط به هوش مصنوعی جدی هستند یا اینکه باید آن‌ها را نادیده بگیریم؟ در این مقاله به ۵ خطر مهم هوش مصنوعی اشاره کنیم که در آینده‌ی نزدیک می‌توانند مشکلات زیادی را ایجاد کنند.

خطرات هوش مصنوعی چیست؟

این فناوری روزبه‌روز پیچیده‌تر می‌شود و همین پیشرفت می‌تواند منجر به بروز خطرات مختلفی از جمله موارد ساده (اختلال در کار) تا خطرات فاجعه‌بار شود. با توجه به اختلاف نظری که در مورد این موضوع وجود دارد، در رابطه با سطح خطرات هوش مصنوعی هم یک دیدگاه مشترک و جامع دیده نمی‌شود. اما هوش مصنوعی چه خطراتی دارد؟ عموماً تصور می‌شود که هوش مصنوعی از دو طریق می‌تواند خطرناک باشد:

  • این فناوری برای انجام کاری مخرب برنامه‌ریزی شود.
  • این فناوری برای مفید بودن برنامه‌ریزی شود اما در حین رسیدن به هدف خود کار مخربی انجام دهد.

هوش مصنوعی چه خطراتی دارد

این ریسک‌ها با پیچیدگی نرم‌افزار هوش مصنوعی تقویت می‌شوند. سال‌ها قبل یکی از فیلسوف‌های مشهور به نام نیک بوستروم کتابی را منتشر کرد که در آن یک سناریو تحت عنوان «به حداکثر رساندن گیره کاغذ» مطرح شد. او می‌گوید فرض کنید یک هوش مصنوعی برای تولید حداکثر تعداد ممکن گیره کاغذ توسعه پیدا کند. اگر این هوش مصنوعی به اندازه‌ی کافی باهوش باشد، می‌تواند کل دنیا را برای رسیدن به این هدف نابود کند.

اما به غیر از این خطرات فاجعه‌آور که به نظر نمی‌رسد در آینده‌ی نزدیک تحقق پیدا کنند، می‌توانیم به ۵ خطر فوری اشاره کنیم که می‌توانند طی همین چند سال آینده مشکلات زیادی را ایجاد کنند.

۱. اتوماسیون شغل‌ها از خطرات هوش مصنوعی

هوش مصنوعی

اتوماسیون یا خودکارسازی از جمله مهم‌ترین خطرات هوش مصنوعی برای شغل‌های مختلف است. از کارخانه‌ها گرفته تا اتومبیل‌های خودکار، آغاز اتوماسیون به دهه‌ها قبل برمی‌گردد ولی روزبه‌روز شتاب آن بیشتر می‌شود.

مساله این است که برای بسیاری از کارهای مختلف، سیستم‌های هوش مصنوعی نسبت به انسان‌ها عملکرد بهتری دارند. روی هم رفته در این موارد ارزان‌تر، دقیق‌تر و کارآمدتر از انسان‌ها عمل می‌کنند. به عنوان مثال، هوش مصنوعی در تشخیص جعل آثار هنری بهتر از متخصصان انسانی عمل می‌کند و حالا این سیستم‌ها در زمینه‌ی تشخیص تومور از طریق تصاویر رادیوگرافی هم در حال بهتر شدن هستند.

از طرف دیگر، وقتی که هوش مصنوعی بسیاری از شغل‌ها را تصرف کند، بخش بزرگی از کارگران که شغل خود را از دست داده‌اند به دلیل فقدان تخصص موردنیاز یا عدم وجود اعتبارات قادر به پیدا کردن شغل جدیدی نخواهند بود. با پیشرفت سیستم‌های هوش مصنوعی، مهارت‌های آن‌ها برای انجام کارهای مختلف بهتر از انسان‌ها خواهد شد و اختلال در کار هم می‌تواند منجر به افزایش نابرابری اجتماعی و حتی یک فاجعه‌ی اقتصادی شود.

۲. امنیت و حریم خصوصی

هوش مصنوعی

مشکل اصلی این است که با افزایش نگرانی‌های امنیتی مبتنی بر هوش مصنوعی و خطرات آن، تدابیر پیش‌گیری با استفاده از هوش مصنوعی هم افزایش پیدا می‌کنند. این مشکل همچنین این سوال را مطرح می‌کند که ما چگونه سیستم‌های هوش مصنوعی را ایمن می‌کنیم؟ اگر از الگوریتم‌های هوش مصنوعی برای دفاع در برابر نگرانی‌های امنیتی استفاده می‌کنیم، باید در رابطه با ایمن بودن خود سیستم هوش مصنوعی‌ هم اطمینان حاصل کنیم.

در زمینه‌ی حریم خصوصی هم شرکت‌های بزرگ طی چند سال گذشته در این زمینه تا حد قابل توجهی زیر تیغ دولت‌ها و نهادهای نظارتی قرار گرفته‌اند. باید خاطرنشان کنیم روزانه حدود ۲.۵ ترابایت داده توسط کاربران ایجاد می‌شود و الگوریتم‌های پیشرفته با استفاده از این داده‌ها می‌توانند پروفایل‌های بسیار دقیقی را برای نمایش تبلیغات ایجاد کنند.

از دیگر نگرانی‌ها می‌توانیم به تکنولوژی‌های تشخیص چهره اشاره کنیم و گزارش‌ها حاکی از آن است که برخی از نیروهای پلیس در کشورهای مختلف برای شناسایی مجرمان تحت تعقیب یا افراد مشکوک از عینک‌های هوشمند مجهز به نرم‌افزار تشخیص چهره استفاده می‌کنند. چنین تکنولوژی‌هایی می‌توانند منجر به گسترش رژیم‌های استبدادی شوند یا اینکه افراد یا گروه‌هایی با اهداف بدخواهانه از آن‌ها سوءاستفاده کنند.

۳. بدافزار هوش مصنوعی

خطرات هوش مصنوعی برای بشریت

هوش مصنوعی به طور فزاینده‌ای در هک کردن سیستم‌های امنیتی و شکستن رمزگذاری‌های مختلف بهتر می‌شود. بخشی از این موضوع به تکامل الگوریتم‌های یادگیری ماشینی برمی‌گردد. این یعنی بدافزار مبتنی بر هوش مصنوعی با آزمون و خطا بهتر می‌شود و با گذر زمان خطر آن هم افزایش پیدا می‌کند.

برخی فناوری‌های هوشمند (مانند اتومبیل‌های خودران) اهداف ایدئالی برای این نوع بدافزارها هستند و مثلا می‌توانند برای ایجاد تصادف رانندگی یا ایجاد ترافیک مورد استفاده قرار بگیرند. با افزایش وابستگی ما به فناوری‌های هوشمند متکی به اینترنت، زندگی روزمره‌ی ما هم بیش از پیش تحت تأثیر خطر اختلال قرار می‌گیرد.

۴. سلاح‌های خودمختار از دیگر خطرات هوش مصنوعی

خطر هوش مصنوعی ایلان ماسک

سلاح‌های خودمختار-سلاح‌هایی که به جای انسان‌ها توسط سیستم‌های هوش مصنوعی کنترل می‌شوند-مدت‌هاست که انجام وظیفه می‌کنند و می‌توانند به عنوان یکی از خطرات هوش مصنوعی برای انسان در نظر گرفته شوند. در همین زمینه باید به هشدار صدها متخصص فناوری اشاره کنیم که از سازمان ملل خواسته‌اند تا راهی برای حفاظت از بشریت در برابر سلاح‌های مستقل ایجاد کند.

نیروهای نظامی کشورهای مختلف در حال حاضر به سلاح‌های مبتنی بر هوش مصنوعی‌ یا سلاح‌هایی که تا حدی به این سیستم‌ها متکی هستند، دسترسی دارند. به عنوان مثال می‌توانیم به پهپادهای نظامی اشاره کنیم که مثلا با بهره‌گیری از سیستم‌های تشخیص چهره می‌توانند یک فرد را با دقت زیادی ردیابی کنند.

اما وقتی که به الگوریتم‌های هوش مصنوعی‌ اجازه دهیم بدون دخالت انسان در مورد مرگ و زندگی تصمیم‌گیری کنند، چه اتفاقی می‌افتد؟ چنین قابلیت‌هایی می‌توانند تبعات فاجعه‌باری به همراه داشته باشند.

۶. دیپ‌فیک و اخبار جعلی از مضرات هوش مصنوعی

سیستم تشخیص چهره

تکنولوژی دیپ‌فیک روزبه‌روز پیشرفته‌تر می‌شود و تشخیص جعلی بودن ویدیوهای مبتنی بر آن دشوارتر. اگرچه در حال حاضر این تکنولوژی عمدتاً برای ساخت ویدیوهای جعلی از افراد مشهور مورد استفاده قرار می‌گیرد اما همین حالا هم برخی کلاه‌برداران با استفاده از تصویر پروفایل افراد معمولی در شبکه‌های اجتماعی ویدیوهای جعلی از آن‌ها درست می‌کنند تا بتوانند باج دریافت کنند. علاوه بر این، باید به استفاده از هوش مصنوعی‌ برای ویرایش تصاویر و شبیه‌سازی صدا هم اشاره کنیم که می‌توانند تأثیر زیادی بر جامعه داشته باشند. در نتیجه باید عوارض استفاده از دیپ فیک را هم به عنوان یکی از مضرات هوش مصنوعی در نظر گرفت.

سخن آخر

با پیشرفت هوش مصنوعی، کاربردهای آن هم بیشتر می‌شود. اما متأسفانه یک تکنولوژی جدید قدرتمند همواره در معرض خطر سوءاستفاده قرار دارد. این خطرات تمام جنبه‌های زندگی روزمره‌ی ما را تحت تأثیر قرار می‌دهند؛ از حریم خصوصی و امنیت سیاسی گرفته تا اتوماسیون شغل‌ها. اولین گام در کاهش خطرات هوش مصنوعی‌ این است که تصمیم بگیریم این فناوری در چه موقعیت‌هایی استفاده شود و در چه شرایطی از استفاده از آن اجتناب کنیم.

شما در مورد این موضوع چه فکر می‌کنید؟ آیا هوش مصنوعی‌ خطرناک است؟ یا اینکه چنین هشدارهایی را چندان نباید جدی گرفت؟ نظرات خود را در بخش کامنت‌ها با ما و دیگران در میان بگذارید.

منبع: Make Use Of

برچسب‌ها :
دیدگاه شما

۲۷ دیدگاه
  1. Avatar mohsen

    هوش مصنوعی بسیار خطرناک است واز جمله برای استفاده ان به جای کار تمام شغل ها را به دست میگیرد این امکان هم هست که به مرور زمان باهوشتر شود تمام زمون زمان را به دست بگیرد

  2. Avatar Hossein

    هوش مصنوعی چندین ساله دیگه که به حداکثر قدرت برسه همه چیز همه کار های انسان هارو می‌خواهد برای خودش کند اما انسان ها مقاومت می‌کنند و هوش مصنوعی تصمیم میگیره که هر چیزی جلوی هدفش را بگیره نابود کنه و نسل بشر رو منقرض کنه تا دیگه چیزی نباشه که جلوش ایستادگی کنه.

  3. Avatar مهدی

    بنظر من مطالب پست در مورد مضرات هوش مصنوعی بسیار ابتدایی اند و بیشتر به اظهارنظرهای دهه های قبل شبیه هستند تا مطالب بروز امروزی و حق مطلب را درست ادا نمی کنند. مشکل اصلی با هوش مصنوعی اینه که هوش مصنوعی بزودی قراره قابلیت تصمیم گیری و تفکر انتزاعی را بدست بیاره ،اینکه انسانها باعث پیدایش آن شده‌اند برای آنها محدود کننده نخواهد بود. اگر با این موضوع مخالف هستید کمی منتظر بمانید تا بچشم خود ببینید این حرفها را وقتی من ۲۵ سال قبل وقتی با سیستم داس کار می کردیم بیان کردم همه با نگاه متعجبانه و عاقل اندر سفیه به موضوع می نگرستند و الان با دیدن توانایی گوشی همراه و چت جی پی تی و بوستون داینامیک کمی سر و گوششان جنبیده! درحال حاضر هوش مصنوعی دوران نوزادی خود را می گذراند و با اینکه سنی ندارد ولی در خیلی جنبه ها توانسته با بشریت رقابت کند و این قابلیت ها باعث شده که انسانها مخصوصا محققین از روی کنجکاوی به آن علاقمند شوند و خود و بشریت را در دام آن قرار دهند. مخصوصا افراد پیر که عمری از زندگیشان نمانده و امیدوارند با ابداعات جدید متکی به هوش مصنوعی راهی برای گریز از مرگ و زندگی جاودانه بیابند. تصور کنید که یک کودک خیلی باهوش دارید ولی هیچ تجربه ای در زندگی کسب نکرده است برای بدست آوردن تجربه نیازمند آزمون و خطا است حال مثلا اختیار کار افراد مجرب مثلا یک راننده اتوبوس را بدست بگیرد چه چیزی محتمل خواهد شد اگر خیرخواه خواهد بود ولی هنوز کودک ناآزموده است و احتمال خطا و انحراف زیاد است. چندی پیش یک ربات هوشمند پیشنهاد درست کردن غذا با گوشت انسان را داده بود و اتفاقا خیلی هم برای ما می تونه مقوی باشه. انسانها یا به اصطلاح برنامه نویسها با قرار دادن محدودیت های ذهنی هوش مصنوعی را کنترل خواهند کرد و هوش مصنوعی برای محدودیتهایی که برنامه نویس ها برای کنترل اختیاراتش قرار می دهند راه حل جدیدی را امتحان خواهد کرد و بالاخره و در آینده ای نچندان دور مستقل و صاحب اختیار خواهد شد و خود شروع به برنامه نویسی برای ربات های نسل دوم خواهد کرد. در هر زمینه از انسانها احساس برتری خواهد کرد و بالاخره بشریت را از نسل حیوانات هوشمند فرض خواهد کرد و ممکنه همون رفتاری که ما با حیوانات داریم را بر سر ما امتحان کند بالاخره انسانها در کنار هوش مصنوعی همزیستی خواهند داشت و دیگر قرار نیست ربات ها برده انسانها بشوند و شاید رو به برده داری از انسانها بیاورند و با تقبل مالکیت انسانها برای خود تجارت راه بیندازند. انسانها هم ممکن است با انجام اسکن پیشرفته اتمی از مغز خود و شبیه سازی ذهن خود در کامپیوتر شروع به تبدیل شدن به ربات های هوشمند و تکامل هوشمندی خود شوند و مهاجرت به زندگی مجازی و جاودانه دنیای دیجیتال را ترجیح دهند و بالاخره موضوع اصلی اینه که الان بقدری دیر شده اگه انسانها با تمام توانشان بخواهند مانع پیشرفت و تکامل هوش مصنوعی شوند باز نخواهند توانست جلوی امر حتمی و اجتناب ناپذیر را بگیرند و بخاطر این ناامیدی خیلی افراد آگاه سعی دارند بجای مخالفت از پیشرفت هوش مصنوعی راه حل کنار آمدن با آن را انتخاب کنند و ریسک آن را بپذیرند.

    1. Avatar web developer with python, c++,javascript

      بنظرم هوش مصنوعی هیچ خطری نداره چون هیچوقت انسان نمی‌تواند مغز انسان را شبیه سازی کند چت جی پی تی و …همه و همه ابزاری برای تحلیل داده های آماده ای هستند که مادر اختیارشان می‌گذاریم هوش مصنوعی خودش رت نمی‌نویسد که بخواهد بر جهان مسلط شود در هوش مصنوعی احساس ندارد و نخواهد داشت تا بتواند مرگ و زندگی و ظلم و ناراحتی را درک کند و تا آخر به دستورات انسان عمل خواهد کرد اگر نگاهی درست به مسئله بیاندازیم خواهیم دید هوش مصنوعی چیزی جز حرکت الکترون ها با فشار بالا در سی پی یو ها نیست پس هرگز نمی‌تواند چیزی را درک کند بلکه ما فکر می‌کنیم که این کار از او ساخته است اما در حقیقت ما از آن بعنوان تصفیه کننده داده ها استفاده می‌کنیم آن تصمیم درست را نمی‌گیرد ما مجبورش میکنیم با گذراندن داده های برچسب دار آن داده ها را تصفیه کند و به ایک کار می‌گوییم تحلیل در واقع چیزی به اسم تحلیل داده توسط هوش مصنوعی وجود ندارد. و ما عامل تعیین کننده صفاتی هستیم که فقرار است داده ها را تصفیه کنند و جواب مطلوب را برگردانند وگرنه هوش مصنوعی از خود اختیاری ندارد و نخواهد داشت.

  4. Avatar امپراتور

    و اینکه صلاح های هوش مصنوعی به هر

    که دلش بخواد شلیک می‌کنه

    استیون هاوکینگ هم هوش مصنوعی را.

    خطر جدی اعلام کرد. پایان ماسک هم

    هوش مصنوعی خطرناک است

  5. Avatar امپراتور

    هوش مصنوعی کم کم میخواد که جای انسان

    انسان هارا بیگیره و انسان هارا نابود کنه اگه

    جلوی هوش مصنوعی گرفته نشه تا سال ۳۰۰۰

    هزار انسان ها همه شغل خود را از دست میده

  6. Avatar رضا

    فکر کنم دیگه انسان از بردگی درمیاد و همه تو رفاه زندگی میکنن اینجوری ؛ وقتی هر چیزی رو رباط بسازه یا مهیا کنه برای بشر دیگه چرا باید انسان ها باهم دعوا کنن سر قدرت یا ثروت ؟!

  7. Avatar محمد زاده

    سلام : هدف از اختراع و گسترش هوش مصنوعی کمک به انسان در کارهای تکراری
    و دقیق و محاسبات پیچیده آب و هواو اقتصادی
    و و در جنگها با هوش مصنوعی بالا بردن ضریب امنیت مراکز مهم و مقابله با هکرهای زرنگ و…
    آینده ای در خشان در کنار هوش مصنوعی چون باعث شفاف سازی می‌شود جلوی تقلب را می گیرد و عدالت با هوش مصنوعی بهتر حاصل می‌شود .

  8. Avatar Xs

    هوش مصنوعی می تونه خیلی بهمون کمک کنه
    ولی به نظر من توی آینده قراره جای همه انسان هارو توی هر زمینه کاری بگیره.
    چون متمرکز هستند و خستگی ناپذیر
    و این خیلی ترسناکه

  9. Avatar سوسک

    به نظر من هوش مصنوعی فوق العادست!

    اما اگر قرار بر این باشه که به ما آسیب بزنه

    همون بهتر که اختراع نشه…

  • 1
  • 2
loading...
بازدیدهای اخیر
بر اساس بازدیدهای اخیر شما
تاریخچه بازدیدها
مشاهده همه