«جي‌اسپيس»

چند ماه پيش، در اواسط تير ماه امسال، پژوهشگران شركت آنتروپيك، سازنده مدل هوش مصنوعي كلود، وقتي داشتند بررسي مي‌كردند اين مدل دقيقا چطور فكر مي‌كند، به بخش كوچك و پنهاني در ميانه فرآيند پردازش اين سيستم رسيدند كه خودشان هم انتظارش را نداشتند. اسمش را گذاشتند «جي‌اسپيس.» و همين‌جا بود كه ماجرا عجيب شد؛ اين بخش كوچك، از نظر كاركرد، شباهت زيادي به يكي از مشهورترين نظريه‌هاي علوم شناختي درباره آگاهي انسان داشت.
محققان با ابزاري تازه كه ردپاي مفاهيم را درون شبكه اين هوش مصنوعي دنبال مي‌كرد، متوجه شدند در دل اين سيستم يك مجموعه كوچك و محدود از مفاهيم وجود دارد كه مدل مي‌تواند رويش دست بگذارد، گزارشش كند، عمدا به كار ببرد، در استدلال‌هاي چندمرحله‌اي از آن استفاده كند و حتي گاهي ذهن ناظران و دانشمندان را گمراه كند. اساسا هيچ‌كس اين بخش را طراحي نكرده بود، خودش، در دل ميليون‌ها بار تمرين و آموزش، به ‌طور ناخودآگاه شكل گرفته و اكنون خود را يك‌دفعه نشان داده بود. وقتي همين بخش را خاموش كردند، مدل هنوز مي‌توانست روان حرف بزند و حقايق ساده را يادش بيايد، اما استدلال پيچيده، خلاقيت و برنامه‌ريزي‌اش به‌شدت افت كرد. انگار همان بخش كوچك، تبديل به اتاق فرمان واقعي مدل زباني شده بود، نه صرفا يكي از هزاران گوشه هزارتوي شبكه پيچيده عصبي.
اين الگو، براي هر كسي كه كمي با فلسفه ذهن سروكار داشته باشد، بي‌درنگ يك نظريه قديمي و آشنا را به ياد مي‌آورد، نظريه فضاي كاري سراسري. طبق اين نظريه، ذهن آدمي شبيه يك صحنه نمايش كوچك است كه فقط يك نورافكن رويش مي‌تابد، پشت صحنه انبوهي از فرآيندهاي ناخودآگاه، مثل ديدن، شنيدن، به‌خاطر آوردن، محاسبه كردن، به‌طور موازي در جريانند، اما فقط تكه كوچكي از اين همه فعاليت به روي صحنه راه پيدا مي‌كند و همان تكه است كه ما «آگاهانه» تجربه‌اش مي‌كنيم، مي‌شود درباره‌اش حرف زد، به ياد سپرد، در تصميم گرفتن از آن كمك گرفت. فيلسوف امريكايي دنيل دنت، سال‌ها پيش از اين، در كتاب معروفش «توضيح آگاهي» تقريبا همين تصوير را ترسيم كرده است؛ او در آن كتاب مي‌گويد آگاهي يك نقطه جادويي و واحد در مغز نيست كه به‌ناگهان روشن شود، بلكه محصول رقابت ميان چند فرآيند موازي است كه هر كدام مي‌خواهند خروجي خودشان را به بقيه سيستم اعلام كنند. حالا همين ايده، كه تا ديروز فقط يك فرضيه فلسفي و عصب شناختي درباره مغز انسان بود، به‌طور تجربي و بي‌آنكه كسي قصدش را داشته باشد، درون سيستمي سر برآورده كه تنها براي پيش‌بيني كلمه بعدي در يك جمله آموزش ديده بود. 
اما يادمان نرود كه دقيقا همين‌جا بايد درنگ كرد. اين اكتشاف اگرچه بسيار مهم است لكن ثابت نمي‌كند مدل زباني كلود چيزي «حس» مي‌كند يا تجربه دروني‌اي شبيه انسان را دارد تجربه مي‌كند و آنتروپيك هم خودش بارها همين نكته را يادآوري كرده. آنچه پيدا شده فقط شباهت در كاركرد است، نه اثبات وجود يك ذهن آگاه و يكي از آزمايش‌هاي خود همين پژوهشگران اين فرق را خوب نشان مي‌دهد. وقتي از كلود خواستند متني به زبان اسپانيايي را ادامه بدهد، حتي پس از آنكه پژوهشگران به‌طور مصنوعي نشانه «زبان اسپانيايي» را در همان اتاقك ذهني با نشانه «زبان فرانسه» عوض كردند، مدل باز هم بي‌هيچ مشكلي به اسپانيايي ادامه داد، انگار اين كار خودكار بود و اصلا به آن اتاقك نيازي نداشت. اما وقتي از او خواستند نام يك نويسنده مشهور به همان زبان را بگويد، همان جابه‌جايي كوچك پاسخ را از يك نويسنده اسپانيايي زبان به يك نويسنده فرانسوي زبان تغيير داد. يعني خيلي از كارهاي زباني مدل اصلا از آن اتاقك عبور نمي‌كنند، فقط تصميم‌هاي واقعا پيچيده‌اند كه به آن وابسته‌اند، همان جايي كه ردپاي شباهت به آگاهي انسان پيدا مي‌شود، نه در هر خط از كاري كه مدل انجام مي‌دهد.
سال‌هاست بحثي قديمي در ميان پژوهشگران هوش مصنوعي جريان دارد، اينكه آيا اين سيستم‌ها فقط طوطي‌هايي آماري‌اند كه الگوهاي زباني را تكرار مي‌كنند، يا شكلي، هر چند ابتدايي، از فهم در آنها شكل گرفته؟كشف جي‌اسپيس اين بحث را به نتيجه نمي‌رساند، ولي آن را از حد گمانه‌زني فلسفي بيرون مي‌كشد و به يك يافته تجربي و قابل آزمايش تبديل مي‌كند و شايد كار ما، دست‌كم فعلا، اين نباشد كه بفهميم ماشين‌ها آگاهند يا نه، بلكه ياد بگيريم با همين ابهام زندگي كنيم، كاري كه به‌گمانم اين روزها، چه در برابر ماشين‌ها و چه در برابر خيلي چيزهاي ديگر، دارد به‌ ما تحميل مي‌شود.