۱۱۰۰ متخصص خواستار کاهش سرعت توسعه هوش مصنوعی شدند

بیش از ۱۱۰۰ کارمند شرکت‌های بزرگ هوش مصنوعی خواستار کاهش سرعت توسعه AI شدند

بیش از ۱۱۰۰ کارمند، پژوهشگر و متخصص حوزه‌ی هوش مصنوعی با امضای یک نامه‌ی عمومی خواستار تغییر رویکرد شرکت‌های فناوری در توسعه‌ی سیستم‌های پیشرفته‌ی AI شده‌اند.

امضاکنندگان این نامه معتقدند رقابت شدید میان شرکت‌های بزرگ برای ساخت مدل‌های قدرتمندتر هوش مصنوعی، سرعت توسعه را افزایش داده؛ اما هم‌زمان توجه کافی به خطرات احتمالی این فناوری، ایمنی مدل‌ها و پیامدهای اجتماعی آن نشده است.

درخواست برای توسعه‌ی مسئولانه‌تر AI

این گروه تأکید کرده‌اند هدف آن‌ها مخالفت با پیشرفت هوش مصنوعی نیست، بلکه خواهان توسعه‌ی محتاطانه‌تر و مسئولانه‌تر این فناوری هستند.

به گفته‌ی آن‌ها، شرکت‌های فعال در حوزه‌ی AI باید پیش از عرضه‌ی مدل‌های جدید، ارزیابی‌های امنیتی دقیق‌تری انجام دهند و شفافیت بیشتری درباره‌ی توانایی‌ها و محدودیت‌های سیستم‌های خود ارائه کنند.

نگرانی اصلی امضاکنندگان این است که افزایش سریع توانایی مدل‌های هوش مصنوعی می‌تواند پیامدهایی مانند انتشار اطلاعات نادرست، سوءاستفاده‌های امنیتی، تغییرات گسترده در بازار کار و ایجاد سیستم‌هایی با رفتارهای غیرقابل پیش‌بینی داشته باشد.

نگرانی از رقابت میان شرکت‌های بزرگ هوش مصنوعی

در سال‌های اخیر رقابت میان شرکت‌هایی مانند OpenAI، Google DeepMind، Anthropic و دیگر توسعه‌دهندگان مدل‌های بزرگ زبانی شدت گرفته است.

شرکت‌ها برای ساخت مدل‌هایی با توانایی بیشتر در تولید متن، تصویر، کدنویسی و انجام وظایف پیچیده‌تر، میلیاردها دلار در زیرساخت، تراشه و تحقیقات سرمایه‌گذاری کرده‌اند.

بااین‌حال، برخی پژوهشگران معتقدند سرعت این رقابت ممکن است از توانایی جامعه برای ایجاد استانداردهای ایمنی و قوانین مناسب جلو بزند.

درخواست برای نظارت و شفافیت بیشتر هوش مصنوعی

امضاکنندگان نامه خواستار ایجاد استانداردهای سخت‌گیرانه‌تر برای آزمایش مدل‌های هوش مصنوعی، گزارش‌دهی عمومی درباره‌ی خطرات و افزایش مسئولیت‌پذیری شرکت‌ها شده‌اند.

یکی از نگرانی‌های مطرح‌شده، توسعه‌ی سیستم‌هایی است که در آینده توانایی انجام طیف گسترده‌ای از وظایف را داشته باشند و در صورت نبود کنترل مناسب، امکان استفاده‌ی مخرب از آن‌ها افزایش یابد.

آن‌ها معتقدند شرکت‌های هوش مصنوعی نباید تنها بر سرعت عرضه‌ی محصولات و رقابت تجاری تمرکز کنند، بلکه باید ایمنی و منافع عمومی را نیز در اولویت قرار دهند.

آیا این درخواست به معنای توقف AI است؟

با وجود عنوان‌هایی که گاهی از «توقف توسعه‌ی هوش مصنوعی» صحبت می‌کنند، محتوای این نامه چنین درخواستی ندارد.

امضاکنندگان خواهان توقف کامل تحقیقات یا کنارگذاشتن هوش مصنوعی نیستند؛ بلکه معتقدند سرعت فعلی توسعه باید با ظرفیت‌های موجود برای مدیریت ریسک‌ها هماهنگ شود.

این دیدگاه مشابه نگرانی‌هایی است که طی سال‌های اخیر توسط برخی از مدیران صنعت فناوری، پژوهشگران دانشگاهی و قانون‌گذاران مطرح شده است.

بحث جهانی درباره آینده هوش مصنوعی

در کنار توسعه‌ی سریع AI، دولت‌ها نیز در حال تدوین قوانین جدید برای کنترل ریسک‌های این فناوری هستند.

اتحادیه‌ی اروپا با قانون AI Act تلاش کرده چارچوبی برای دسته‌بندی و نظارت بر سیستم‌های هوش مصنوعی ایجاد کند. در آمریکا نیز بحث درباره‌ی استانداردهای ایمنی، رقابت فناوری با چین و نقش دولت در نظارت بر شرکت‌های بزرگ فناوری ادامه دارد.

نامه‌ی جدید نشان می‌دهد حتی در داخل صنعت هوش مصنوعی نیز درباره‌ی سرعت توسعه و نحوه‌ی مدیریت خطرات، اختلاف‌نظر جدی وجود دارد.

در حالی که برخی معتقدند رقابت سریع برای حفظ برتری فناوری ضروری است، گروهی دیگر هشدار می‌دهند بدون ایجاد سازوکارهای ایمنی کافی، توسعه‌ی شتاب‌زده می‌تواند هزینه‌های سنگینی برای جامعه به همراه داشته باشد.

سلب مسئولیت:

مطالب منتشرشده صرفاً با هدف اطلاع‌رسانی تهیه شده و فاقد هرگونه وابستگی، جانبداری یا جهت‌گیری سیاسی و حزبی است و به‌هیچ‌وجه توصیه‌ای برای خرید، فروش یا نگهداری دارایی‌های مالی، سهام، ارزهای دیجیتال یا سایر ابزارهای سرمایه‌گذاری محسوب نمی‌شود. تصمیم‌گیری برای سرمایه‌گذاری بر عهده‌ی مخاطب است و توصیه می‌شود پیش از هر اقدامی، تحقیقات کافی انجام داده و در صورت نیاز با مشاور مالی متخصص مشورت کنید.