اگر تفکر انتقادی ندارید از هوش مصنوعی استفاده نکنید!
هنوز در حال بحث بودیم که چرا نباید ویکیپدیا را منبع بیچونوچرای ادعاهای مختلف در نظر گرفت که هوش مصنوعی از راه رسید. در جبهه ویکی موفقیتهای محدودی حاصل شده بود و شانس موفقیتهای بیشتری در کار بود اما در جبهه هوش مصنوعی از پیش قافیه را باختهایم. کاربرهای توییتر همزمان با شرکت در بحثهای داغ و پرحاشیه به شکل مداوم گروک را صدا میزنند و باقی، اسکرینشاتهای چتجیپیتی را همچون منبع حقیقت مطلق دست به دست میکنند. هوش مصنوعی میتواند ذهن غیرانتقادی را یکسره تباه کند؛ به شیوهای قویتر و خطرناکتر از قبل.
اول اینکه از خاطر نبریم همین حالا هم تکنولوژی وجوه منفیاش را تا حد قابل ملاحظهای در فرسودن مهارتهای شناختی نمایش داده است. بعضی تحقیقات نشان میدهند ظرفیتهای ذهنی انسان طی دهه گذشته رو به کاهش رفته است. ما کمتر به خاطر میسپاریم، کمتر تحلیل میکنیم و اساسا کمتر از مغزمان کار میکشیم. در فرایند واگذاری شناختی، تکنولوژی تا همین سالها و حتی پیش از ورود هوش مصنوعی هم اختیار کار را به دست گرفته بود. با معرفی هوش مصنوعی شتاب همان فرایندها دوچندان شده و ظرف مدت کوتاهی چندبرابر هم میشود.
اما مشکل جدیتر هوش مصنوعی یا بهتر است بگوییم مشکل جدیتر مواجهه ذهن غیرانتقادی با هوش مصنوعی پذیرش بیچونوچرای پاسخهاست. دههها پیش برای پاسخ به پرسشها باید در کتابخانهها دنبال منابع میگشتیم. کتابهایی که دست کم شناختهشدهترهایشان از آزمون زمان سربلند بیرون آمده بودند. مدتی بعد با وبسایتها و موتور جستوجو سروکار داشتیم. منابعی بعضا کماهمیتتر و کمارزشتر، مهمتر از آن منابعی که کمتر صحتسنجی شده بودند. با این وجود احتمالا متوجه بودیم که فلان وبلاگ گمنام لزوما منبع قابل اتکایی نیست و جایگاه مطلب در موتور جستوجو ارتباط تنگاتنگی با صحت و کیفیت احتمالیش ندارد.
در دوران هوش مصنوعی با یک چراغ جادوی همهچیزدان طرفیم که پاسخ همه سوالها را در آستین دارد اما منبع بخش بزرگی از اطلاعاتش همان دانش موجود فضای وب است؛ گاهی بسیار زرد یا کممایه. همانها اینبار با صورتبندی جدید در قالب حقایق مطلق از زبان مرجع پراقتدار بیان میشوند. ذهنی که شاید پیشتر قادر بود کمی جنبههای انتقادیش را حفظ کند حالا خیلی بیشتر متمایل است با تنبلی همین پاسخ/فصل الخطاب را بپذیرد.
دست آخر نباید از یاد برد که هوش مصنوعی، اساسا در سطح طراحیاش به شکلی ساخته و پرداخته شده که به تمام سوالات شما پاسخ دهد. هوش مصنوعی به ندرت میگوید نمیدانم و در نتیجه از فضیلت بزرگی محروم است. وقتی «نمیدانم» یکی از پاسخها نباشد یعنی هوش مصنوعی موظف است برای هر سوالی پاسخ تولید کند. تبدیلشدن به دستگاه تولید پاسخ، هذیانگویی را به یکی از بخشهای جداییناپذیر غالب ابزارهای هوش مصنوعی فعلی تبدیل کرده اما جوابِ بهکلی باطل احتمالی یک هوش مصنوعی در ساختاری بزک میشود که تردید در آن بسیار دیرتر و پیچیدهتر سراغتان میآید. حتی ممکن است به دروغ با منابعی دقیق از فصل و حتی صفحهی چندین کتاب مرتبط مواجه شوید. هوش مصنوعی در جعل منبع هم از ذهن و فکر غیرانتقادی چند پله جلوتر است.
خلاصه کنم: نه همیشه اما در بسیاری از موارد هوش مصنوعی همان منابع و همان مواضع میانمایه قبلی موجود در وب را صرفا از طریق بازآرایی به شیوههایی نو از طریق یک واسطه مقتدر در اختیارتان قرار میدهد و کار تشخیص جنس اصل از بنجل در این شرایط به مراتب دشوارتر از قبل است. هوش مصنوعی لزوما منبع دقیقی نیست.
با یه بخش هایی ش موافقم یه بخش هایی ش ولی خیلی نگاه منفی داره به هوش مصنوعی
به شدت موافقم
دسترسی پذیری سریع از عمق رفتن جلوگیری میکنه.
هوش مصنوعی هم یه جوری مثل باقی تکنولوژی های پیشرو فعلا نواقص زیادی داره. علاوه بر این نکات گفته شده در مقاله حتی خود این ابزارها هم میگن که نباید چشم بسته پاسخ هاشون رو قبول کرد.
درسته، برای تست این موضوع کافیه سوالاتی درباره شخصیت های انتزاعی یا خیالی رو در ارتباط با اتفاقات واقعی بپرسید تا ببینید چطور داستان سرایی می کنن و حتی به کتاب و مراجع هم استناد می کنن
به طور مثال هوش مصنوعی کوپایلوت مایکروسافت، در جواب سوال ” نقی معمولی که بود و چرا توسط نادر شاه افشار کشته شد، چندین خط داستان تاریخی تعریف کرد و منابعش رو هم با ذکر صفحه و خط کتاب معرفی می کرد.
سلام مقاله به شدت مبتدی نوشته شده
هوش مصنوعی من در زمینه مهندسی برق کمک میگیرم فوق العاده هست – اشتباهات جزئی هم با سوال مجدد میشه برطرف کرد و اینم یادمون نره اینها تازه ابتدای کار هستند – قسمت عجیب مقاله که کاملا مخالفم اینه که میگه هوش مصنوعی میاد نتایج وب را امیخته میکنه در حالیکه همه میدونیم با نتایج وب نمیشه انتگرال پنج گانه حل کرد اونم با راه حل کامل هوش مصنوعی قابلیت محاسبات پیچیده داره