تعطيل شدن تفكر نقادانه

 دهمين نشست از سلسله برنامه‌هاي «زيست‌ارتباطي در جهان‌ معاصر» روز سه‌شنبه، نهم دي‌ماه با سخنراني حميدرضا رحماني‌دهكردي، عضو هيات‌ علمي دانشكده حقوق و علوم ‌سياسي دانشگاه علامه‌طباطبايي، در سالن شوراي دانشكده علوم ‌ارتباطات اين دانشگاه برگزار شد. آنچه در ادامه مي‌خوانيد، گزارشي از سخنراني دكتر رحماني‌دهكردي در اين نشست است.رحماني‌دهكردي در ابتداي سخنراني خود به كلي بودن مفهوم هوش‌ مصنوعي اشاره كرد و به اين نكته تاكيد كرد كه به دليل كلي بودن آن نمي‌توان به همه ابعاد هوش‌مصنوعي پرداخت.او درباره ماهيت اطلاعات گفت: « ماهيت اطلاعات نيز طبيعتا از زواياي مختلفي قابل بررسي است؛ از جمله اينكه چگونه اطلاعات از وجه كمي خارج شده و وجه كيفي پيدا مي‌كند و چگونه مي‌تواند بر بسياري از امور تاثير مي‌گذارد. در گرايش‌هاي ماركسيستي، بسياري بر اين مساله كار شده است، با تاكيد بر وجه ديالكتيكي و اينكه همان‌گونه كه پيشگامان ماركسيست مي‌گفتند، با افزايش كمي يك پديده، به تدريج از آن وجه كمي تغيير كرده و وجه كيفي پيدا مي‌كند و اثرگذار مي‌شود. همچنين اينكه چگونه اطلاعات تبديل به سرمايه شده است؛ چيزي كه ماركس آن را پيش‌بيني نكرده بود و قاعدتا با توجه به رخدادهاي بعدي نيز نمي‌توانست به آن بپردازد».رحماني‌دهكردي در ادامه صحبت‌هايش به سه مفهوم در حوزه اطلاعات پرداخت و گفت: «MISINFORMATION را «كژ آگاهي» ترجمه مي‌كنم كه به اطلاعات نادرستي اشاره دارد كه قصد آگاهانه‌اي در پشت آنها نيست. DISINFORMATION را نيز « دژ آگاهي» ترجمه مي‌كنم كه به معناي گمراه‌سازي عامدانه است. MALINFORMATION نيز به اطلاعات درستي گفته مي‌شود كه خارج از زمينه خود و با قصد آسيب رساندن استفاده مي‌شود». او در ادامه صحبت‌هايش درباره آنچه كه آن را منبع اطلاعات يا كارگزار اطلاعات يا فاعل شناسا مي‌ناميد سخن گفت و به بررسي اين فاعل شناسا در چت جي‌پي‌تي پرداخت. در اين باره گفت: «بحث فاعل شناسا با دكارت آغـاز شـد كـه با اصـل «من مي‌انديشم، پس هستم» وجود خود را توجيه كرد و انديشيدن را تنها چيز غيرتوهمي دانست. تجربه‌گرايان اين ديدگاه را نقد كردند و بر نقش تجربيات حسـي  تأكيد داشـتند، در حـالي كه متفكراني مانـند    كانت، ويتگــنشتاين، فرويد و فوكو محــدوديت‌هاي آن   را    از جنبه‌هاي           CONTEXT-BASED ساختارهاي ذهني، زبان، ناخودآگاه و قدرت بررسي كردند. ديدگاه‌هاي پست‌مدرن نيز انديشه را محدود به بستر زمان، مكان و فرهنگ دانستند. در عصر هوش مصنوعي، فاعل شناسا در توليد اطلاعات ناپديد مي‌شود، منبع پاسخ‌ها مبهم است و مسووليت بر عهده كسي نيست، كه اين تحولي عجيب به شمار مي‌رود».رحماني‌دهكردي در ادامه به سه مفهومي كه در حوزه اطلاعات نام برده بود برگشت و به اين مساله پرداخت كه با پيدايش هوش‌ مصنوعي، اين مفاهيم در متون توليد شده چه جايگاهي پيدا كرده‌اند. او درباره مدل‌هاي زباني‌اي كه ادعاي بي‌طرفي دارند و در پشت الگوريتم‌هايشان ايدئولوژي و قدرت نهفته است، گفت: « در يكي از مقالات خوبي كه در اين زمينه منتشر شده است، سه پژوهشگر برجسته، دو مدل زباني چت‌جي‌پي‌تي و ديسپ‌سيك را بررسي و پنجاه پرسش حساس را براساس سه شاخص «درستي اطلاعات»، «بي‌طرفي» و «فيلترينگ محتوا يا امتناع از پاسخ» ارزيابي كردند. نتايج به دست آمده از اين پژوهش نشان مي‌دهد كه اين مدل‌هاي زباني بي‌طرف نيستند. گاهي اين سوگيري به صورت سانسور آشكار و گاه به صورت سوگيري نرم است كه در چت‌جي‌پي‌تي به صورت لطيف‌تر بيان شده است».رحماني‌دهكردي گفت: « ماشين ياد مي‌گيرد گاه برخلاف آنچه برايش برنامه‌ريزي شده عمل كند و اين پديده شگفت‌انگيزي است. ما با نوعي خودمختاري مواجهيم؛ كژ آگاهي فقط از جانب طراحان نيست، بلكه خود مدل‌هاي ماشيني به شيوه خودمختار اطلاعات غلط توليد مي‌كنند. بنابراين در اينجا با چندگونه قاب‌بندي مواجهيم: قاب‌بندي طراحان مدل، قاب‌بندي خود ساختار هوش مصنوعي و قاب‌بندي كاربر كه مي‌تواند مدل را به سمتي غيرمنتظره هدايت كند. طبيعتا هوش مصنوعي هنوز فاصله زيادي با عامليت انساني دارد».او در ادامه درباره كژ آگاهي و مشكلاتي كه چت جي‌پي‌تي ايجاد مي‌كند، گفت: « در مورد كژ آگاهي نيز، چت‌هاي جي‌پي‌تي مشكلاتي ايجاد مي‌كند: اطلاعاتي ارايه مي‌دهد كه «مغزپسند» هستند و از نظر علوم شناختي، يعني دسترسي آسان به اطلاعات مورد نياز كاربر را فراهم مي‌كند. اين شبيه عملكرد ايدئولوژي در علوم سياسي است؛ در حالي كه انديشه سياسي با شك و پرسش همراه است، ايدئولوژي قطعيت و برنامه عمل ارايه مي‌دهد. اطلاعاتي كه اين چت‌ها به افراد عادي مي‌دهند، سريع، قطعي و كم‌ابهام است و خطاي شناختي «تعصب تأييدي» را تقويت مي‌كند؛ يعني اطلاعاتي مي‌دهد كه كاربر دوست دارد بشنود، بدون قضاوت و حتي پس از دادن پاسخ، براي آن دنبال دليل مي‌گردد. همچنين خطاي «توسل به مرجعيت» را دامن مي‌زند».رحماني دهكردي گفت: در زمينه malformation نيز، اطلاعات درست اما بر ضد كاربر استفاده مي‌شود. اينجا پاي داده‌هاي فرافردي در ميان است؛ رديابي ديجيتالي لايك‌ها، فالوها و رفتارهاي كاربر و تأثيرگذاري بر او از طريق پيشنهادهاي هدفمند، فيلتر كردن و رتبه‌بندي اطلاعات مطابق علاقه‌اش و حذف ديدگاه‌هاي رقيب. نتيجه اين است كه كاربر تصور مي‌كند خودش به اين سمت حركت كرده است».رحماني در پايان گفت: «به نظر مي‌رسد در چنين شرايطي، ما شاهد تعطيل شدن تفكر نقادانه هستيم، زيرا اطلاعات را بدون بررسي عميق مي‌پذيريم و نيز آگاهي واقعي شكل نمي‌گيرد، زيرا حجم زياد اطلاعات و سطحي‌خواني، مانع از پردازش عميق و تبديل اطلاعات به آگاهي مي‌شود. از نظر علوم شناختي، آگاهي نيازمند تأثيرگذاري هيجاني و انتقال اطلاعات به قشر پيش‌پيشاني مغز است، كه در اين شتاب‌زدگي اطلاعاتي به درستي اتفاق نمي‌افتد».