نادلا: فرض را بر خروج هوش مصنوعی از کنترل بگذاریم

ساتیا نادلا، مدیرعامل شرکت مایکروسافت، با انتشار مطلبی در شبکه اجتماعی ایکس، هشدار داد که باید مدل‌های هوش مصنوعی را از همان ابتدا با این چشم دید که ممکن است از کنترل خارج شوند. به اعتقاد او، رویکرد فعلی که مدل‌های پیشرفته را به عنوان مجموعه‌ای از «جعبه‌های سیاه تودرتو» می‌بیند و صرفاً ورودی‌ها و خروجی‌های آن‌ها را می‌پذیرد، دیگر پاسخگوی نیازهای ایمنی نیست. نادلا معتقد است زمان آن رسیده است که معماری اعتماد در هوش مصنوعی دوباره بررسی شود و ساختارهای کنترلی جدیدی برای مهار این فناوری‌ها طراحی گردد.

یکی از محورهای اصلی صحبت‌های نادلا، تأکید بر ایجاد سازوکارهای «ترمز اضطراری» برای مدل‌های هوش مصنوعی است. او نوشت: «باید فرض را بر این بگذاریم که مدل از همان ابتدا از کنترل خارج شده است و باید آن را مهار کنیم.» بر اساس این دیدگاه، فردی که مجوزهای لازم را دارد، باید بتواند در هر مرحله از اجرای یک وظیفه، فعالیت مدل را متوقف یا خاموش کند. نادلا افزود که مدل‌های پیشرفته‌تر به فناوری‌های مهار پیشرفته‌تری نیاز دارند و تدوین استانداردهای مشترک برای این منظور ضروری است.

مدیرعامل مایکروسافت همچنین خواستار جداسازی مدل‌های هوش مصنوعی از سیستم‌های مدیریت و اجرای وظایفشان شد. به باور او، قرار دادن کنترل‌ها و سازوکارهای حفاظتی در بیرون از خودِ مدل، امکان نظارت مستقل‌تر بر عملکرد آن‌ها را فراهم می‌کند. این پیشنهاد با دیدگاه‌هایی هم‌راستاست که پیش‌تر توسط فعالان دیگر صنعت هوش مصنوعی مطرح شده و بر اهمیت شفافیت، حسابرسی مستقل و امکان راستی‌آزمایی داده‌ها تأکید دارد.

از سوی دیگر، نادلا بر لزوم ثبت دقیق و قابل‌خواندن برای انسان از اقدامات مهم مدل‌های هوش مصنوعی تأکید کرد. او خواستار آن شد که این ثبت‌ها مقاوم در برابر دستکاری باشند تا امکان بررسی و ارزیابی عملکرد مدل‌ها فراهم شود. هدف از این رویکرد، افزایش شفافیت در عملکرد الگوریتم‌ها و اطمینان از پاسخگویی آن‌ها در برابر خطاهای احتمالی است.

این اظهارات در حالی مطرح می‌شود که نگرانی‌ها درباره ایمنی و کنترل‌پذیری هوش مصنوعی در میان توسعه‌دهندگان و متخصصان این حوزه روز به روز در حال افزایش است. نادلا با تکرار این پیام که باید فرض را بر خطرناک بودن مدل‌ها گذاشت، بر ضرورت اقدامات پیشگیرانه و ساختاری برای مدیریت ریسک‌های ناشی از این فناوری‌ها تأکید کرد.