مديريت هوش مصنوعي در جهان آشفته

ترجمه: بهجت عباسي| ماه گذشته از صدها جوان از سراسر اروپا پرسيدم كه فكر مي‌كنند اينترنت در سال ۲۰۳۶ چه تغييراتي خواهد داشت؟ ۴۶ درصد پاسخ دادند: «هنوز نمي‌توانيم تصور كنيم كه چه شكل خواهد بود.» اين پاسخ نشان مي‌دهد كه انقلاب فناورانه‌اي كه هوش مصنوعي نقش محرك را دارد، با سرعتي بيش از قدرت تصور ما پيش مي‌رود؛ چه برسد به اينكه بتوانيم مقرراتي براي مديريت آن وضع كنيم. 
آنچه اين اوضاع را بدتر مي‌كند، اين است كه هوش مصنوعي وارد جهاني باثبات نمي‌شود. از اوكراين تا غزه، هر تهديدي كه حل نشده باقي بماند، نظم حقوقي بين‌الملل را يك گام ديگر به آنچه مارك كارني، نخست‌وزير «گسست» ناميده است، نزديك‌تر مي‌كند. قواعد مشترك حاكم بر نظم بين‌المللي كه ۸۰ سال دوام آورده‌اند، درست در زماني در حال فروپاشي‌اند كه همان فناوري‌اي كه بيش از هر چيز به قواعد مشترك نياز دارد، هر روز قدرتمندتر مي‌شود و بر همه جوانب زندگي ما تاثير مي‌گذارد.
جهاني كه نتواند بر سر قواعد به توافق برسد، هوش مصنوعي را به دست كساني خواهد سپرد كه در برابر هيچ‌ كس پاسخگو نيستند. اين تهديد بايد هر كسي را كه هنوز به اصل پاسخگويي باور دارد، نگران كند. اين تهديد هيچ جا به اندازه دستكاري در آنچه مردم مي‌بينند و حقيقت مي‌پندارند، آشكار نيست. هوش مصنوعي اين دستكاري را بسيار آسان‌تر كرده است.
اكنون ديگر لازم نيست براي آسيب زدن به يك دموكراسي، در نتيجه انتخابات تقلب كنيد. كافي است آن را با انبوهي از مطالب جعلي و جار و جنجال پُر كنيد. الگوريتم‌ها مشوق خشم و تحريك‌پذيري هستند. هوش مصنوعي اين خشم را به سلاح تبديل مي‌كند و اغلب تبعيض جنسيتي، نژادپرستي و طرد اجتماعي را كه دهه‌ها براي مقابله با آن تلاش كرده‌ايم، تشديد مي‌كند. آنچه در معرض خطر است، اعتماد است كه جامعه آزاد بر پايه آن عمل مي‌كند. به همين دليل، ظهور هوش مصنوعي اكنون به آزموني براي امنيت دموكراتيك تبديل شده؛ امنيتي كه بر حقوق، نهادها و قانون استوار است.
بدون قانون و مقررات، هوش مصنوعي در برابر هيچ ‌كس پاسخگو نيست. اين فناوري تصميم مي‌گيرد چه كسي وام بگيرد، چه كسي شغل پيدا كند يا چه كسي درمان پزشكي دريافت كند. تعيين مي‌كند كدام خانواده در مرز بازگردانده شود، دوربين‌ها چهره چه كسي را دنبال كنند و پليس سراغ كدام همسايه اعزام شود. هوش مصنوعي مي‌تواند صرفا به بهانه يك نام، نشاني يا رنگ پوست افراد، افراد را رد كند و در نهايت هيچ‌ كس مسوول پيامد اين تصميم‌ها نخواهد بود. حسن نيت و خودتنظيمي اين مشكل را حل نخواهد كرد، فقط به قانون نياز است.
اين قوانين نبايد فقط درباره هوش مصنوعي‌اي باشد كه ما امروز مي‌شناسيم، بلكه بايد تحولات آينده هوش مصنوعي را نيز در بر گيرند. قانون بايد فارغ از تحولات فناوري، از انسان‌ها محافظت كند.
در همين حال، آنچه انسان‌ها از قانون انتظار دارند، ساده است. مردم بايد حق داشته باشند، بدانند چه زماني يك ماشين درباره سرنوشتشان تصميم مي‌گيرد، دليل آن تصميم را بفهمند و بتوانند آن را به چالش بكشند. فناوري همچنان تغيير خواهد كرد، اما اين حقوق نبايد تغيير كنند.
خبر خوب اين است كه دشوارترين بخش اين كار تاكنون انجام شده است. دو سال پيش، گروهي از كشورها اين قواعد را تدوين كردند. حاصل آن، «كنوانسيون چارچوب شوراي اروپا درباره هوش مصنوعي» بود كه نخستين سند از اين دست محسوب مي‌شود. اين معاهده الزام‌آور بين‌المللي، دولت‌ها را متعهد مي‌كند كه از سامانه‌هاي هوش مصنوعي‌اي استفاده كنند كه به حقوق بشر، دموكراسي و حاكميت قانون احترام مي‌گذارند. اين كنوانسيون با ۲۱ امضاكننده، نخستين مورد از قوانين مصوب اتحاديه اروپا در مه ۲۰۲۶ است.
نبايد اجازه داد كه تكه‌تكه شدن ژئوپليتيكي، مديريت هوش مصنوعي را نيز از هم بپاشد به گونه‌اي كه هر قدرت بزرگ و هر منطقه، قواعد و استانداردهاي مخصوص خود را داشته باشد. چنين وضعيتي جهان را به حوزه‌هاي رقيب و معيارهاي دوگانه تقسيم مي‌كند و كساني را كه بيش از همه مي‌توانند از هوش مصنوعي سود ببرند، از اين منافع محروم خواهد كرد.
دقيقا براي مقابله با اين خطر، كنوانسيون چارچوب هوش مصنوعي طراحي شد. اين يك بلوك سياسي نيست و مجمعي است كه هم‌اكنون نزديك به يك‌چهارم كشورهاي عضو سازمان ملل متحد از همه قاره‌ها را در كنار همه كساني كه در زمينه هوش مصنوعي مسوولانه فعاليت مي‌كنند، گرد هم آورده است.
ما در آينده، با دو مسير روبه‌رو هستيم: مسيري كه در آن فناوري از انسان‌ها محافظت مي‌كند، آنها را به هم پيوند مي‌دهد و به پيشرفتشان كمك مي‌كند و مسيري ديگر كه فناوري موجب تفرقه، بهره‌كشي و فرسايش اعتماد مي‌شود. نخستين اجلاس «هوش مصنوعي با اهداف خيرخواهانه» در سال ۲۰۱۷، يك‌سال پس از آنكه برنامه «آلفاگو»، لي سدول قهرمان بازي گو را شكست داد، در ژنو برگزار شد. زماني كه اين برنامه حركتي را انجام داد كه احتمال انجام آن تنها يك در ده هزار بود، سدول تصديق كرد: «بي‌ترديد، آلفاگو خلاق است.»
اين خلاقيت همچنان نويدبخش دستاوردهاي تازه در پزشكي، علم و حلال بسياري از مشكلاتي است كه ما انسان‌ها به تنهايي نمي‌توانيم از عهده آنها بر‌آييم. اما همين توانايي مي‌تواند عليه همان مردمي به كار گرفته شود كه قرار است هوش مصنوعي در خدمتشان باشد.
در نظمي جهاني كه دچار گسست شده است، حقوق بين‌الملل همچنان تنها زباني است كه قدرت به ناچار بايد در برابر آن پاسخگو باشد.
دبيركل شوراي اروپا
منبع: تايم