هشدار فولکر تورک درباره خطرات وجودی هوش مصنوعی و درخواست برای حکمرانی جهانی

فولکر تورک، رئیس حقوق بشر سازمان ملل متحد، با انتشار نامه‌ای خطاب به دولت‌ها و توسعه‌دهندگان فناوری، خواستار اقدام فوری برای مهار خطرات ناشی از هوش مصنوعی شد. او در این پیام که در اختیار رسانه‌ها قرار گرفته، هشدار داده است که توسعه شتابان این فناوری می‌تواند «خطرات بی‌سابقه‌ای» را به همراه داشته باشد و جهان را در آستانه تغییری برگشت‌ناپذیر قرار دهد که نسل‌های کنونی و آینده بشریت را تحت تأثیر قرار خواهد داد.

تورک در بخشی از نامه خود نوشت: «رقابت کنونی برای ساخت هوش مصنوعی قدرتمندتر، گامی بزرگ به‌سوی افزایش خطرات وجودی برای همه جنبه‌های زندگی ماست.» او بر این باور است که وابستگی بخش بزرگی از جهان به تعداد محدودی از شرکت‌های قدرتمند برای اتخاذ تصمیمات کلان درباره توسعه این فناوری، وضعیت نگران‌کننده‌ای ایجاد کرده است. از این رو، رئیس حقوق بشر سازمان ملل از دولت‌ها و شرکت‌ها خواسته است تا از طریق مجامع چندجانبه، فوراً برای تعیین چارچوبی جهت حکمرانی بر مدل‌های پیشرفته و مرزی هوش مصنوعی اقدام کنند. این چارچوب باید بر پایه قوانین بین‌المللی حقوق بشر استوار باشد.

یکی از محورهای اصلی نامه تورک، هشدار درباره خطرات ناشی از ظهور «ایجنت‌های هوش مصنوعی» با قابلیت‌های فزاینده است. به گفته او، مردم ممکن است در آینده نزدیک دسترسی خود به خدمات بنیادین مانند آب سالم، گرمایش و خدمات مالی را از دست بدهند. او همچنین مدعی شد که هوش مصنوعی ایجنتی در حال حاضر سرعت و دامنه جنگ‌ها را افزایش داده و سازوکارهای حفاظتی میان انسان و استفاده از سلاح‌های کشتار جمعی را تضعیف می‌کند. تورک تأکید کرد که شرکت‌هایی که در خط مقدم توسعه هوش مصنوعی مرزی قرار دارند و عمدتاً در چین و آمریکا مستقر هستند، هم مسئولیت و هم توانایی دارند که فوراً برای کاهش این خطرات اقدام کنند.

در شرایطی که این نامه منتشر شده است، بحث‌های شدیدی درباره سرعت توسعه هوش مصنوعی و ضرورت کاهش آن در جریان است. دونالد ترامپ، رئیس‌جمهور آمریکا، و برخی متحدان اصلی این کشور، با درخواست‌های مطرح شده برای کاهش سرعت توسعه هوش مصنوعی مخالفت کرده‌اند. تورک در نامه خود به این تفاوت دیدگاه‌ها نیز اشاره کرده و گفته است که خودتنظیمی مشترک صنعت و دولت‌ها تنها اولین گام ضروری است و به‌تنهایی به‌هیچ‌وجه کافی نیست.

رئیس حقوق بشر سازمان ملل بر ضرورت همکاری بین‌المللی نیز تأکید کرده و بیان داشته است که هیچ کشوری نمی‌تواند به‌تنهایی بر این فناوری حکمرانی کند و هیچ شرکتی نباید بتواند به‌تنهایی درباره خطراتی که جهان باید بپذیرد، تصمیم بگیرد. این درخواست‌ها در حالی مطرح می‌شود که نگرانی‌ها درباره پیامدهای اخلاقی و امنیتی هوش مصنوعی در سطح جهانی رو به افزایش است و کارشناسان و مقامات بین‌المللی بر لزوم تدوین استانداردهای جهانی برای کنترل این فناوری تأکید دارند.

نامه تورک نشان‌دهنده تلاش‌های دیپلماتیک برای ایجاد اجماع جهانی در قبال چالش‌های پیش‌رو در حوزه هوش مصنوعی است. او خواستار شفافیت بیشتر در فرآیند توسعه و استقرار این فناوری شده و بر این نکته تأکید کرده که حکمرانی بر هوش مصنوعی باید با مشارکت همه ذی‌نفعان، از جمله جوامع مدنی و نهادهای حقوق بشری، انجام شود تا از سوءاستفاده‌های احتمالی و نقض حقوق بنیادین جلوگیری شود.