امنیت هوش مصنوعی به یکی از موضوعات نشست شورای امنیت سازمان ملل در روز چهارشنبه 23 سپتامبر 2026 تبدیل شده است. قرار است مدیران شرکتهای OpenAI و آنتروپیک (Anthropic) در این جلسه دربارهی تواناییهای سیستمهای پیشرفتهی هوش مصنوعی، خطرات احتمالی آنها و راههای حفظ کنترل انسانی توضیح دهند.
سم آلتمن، مدیرعامل OpenAI، بهصورت حضوری در نشست شرکت میکند و داریو آمودی، مدیرعامل آنتروپیک، قرار است از راه دور سخنرانی کند. کلمان دولانگ، مدیرعامل Hugging Face، و یوشوا بنجیو، پژوهشگر هوش مصنوعی، نیز در فهرست سخنرانان قرار دارند.
نشست با ریاست ژاننوئل بارو، وزیر امور خارجهی فرانسه، برگزار میشود. یکی از موضوعات اصلی آن، بررسی شرایطی است که در آن عملکرد سیستمهای هوش مصنوعی میتواند بر امنیت کشورها یا روابط بینالمللی اثر بگذارد. با این حال، برگزاری این جلسه به معنی وقوع قطعی یک بحران یا تصویب مقررات جدید در همان روز نیست.
خلاصهی ماجرا در یک نگاه:
- شورای امنیت سازمان ملل روز 23 سپتامبر نشستی دربارهی هوش مصنوعی و امنیت بینالمللی برگزار میکند.
- سم آلتمن حضوری و داریو آمودی بهصورت آنلاین در جلسه سخنرانی خواهند کرد.
- مدیرعامل Hugging Face و پژوهشگر شناختهشدهی هوش مصنوعی، یوشوا بنجیو، نیز در نشست حضور دارند.
- خطر استفادهی مخرب از هوش مصنوعی و احتمال کاهش کنترل انسانی از محورهای اصلی بحث است.
- OpenAI خواستار معیارهای مشترک برای سنجش توانایی مدلها و ارزیابی تدابیر حفاظتی آنها شده است.
- نشست با هدف گفتوگو و بررسی خطرات برگزار میشود و تصویب یک قانون جهانی در دستور کار اعلامشدهی آن نیست.
فهرست مطالب
- جزئیات نشست امنیت هوش مصنوعی در سازمان ملل
- چه کسانی در شورای امنیت سخنرانی میکنند؟
- چرا امنیت هوش مصنوعی به موضوعی بینالمللی تبدیل شده است؟
- پیشنهاد OpenAI برای ارزیابی مدلهای پیشرفته چیست؟
- منظور از ازدسترفتن کنترل انسانی چیست؟
- دیدگاههای متفاوت دربارهی مدیریت خطرات هوش مصنوعی
- آیا این نشست به تصویب قانون جهانی منجر میشود؟
- جمعبندی
- منابع
جزئیات نشست امنیت هوش مصنوعی در شورای امنیت سازمان ملل
شورای امنیت سازمان ملل نشست روز 23 سپتامبر را با موضوع «هوش مصنوعی و امنیت بینالمللی» در برنامهی کاری خود قرار داده است. این جلسه در نیویورک و همزمان با برگزاری نشستهای سطح بالای مجمع عمومی سازمان ملل برگزار میشود.
فرانسه که ریاست دورهای شورای امنیت در ماه سپتامبر را بر عهده دارد، این نشست را برگزار میکند. بر اساس توضیحات منتشرشده دربارهی دستور کار جلسه، هدف آن بررسی توسعهی مسئولانهی هوش مصنوعی و خطرات سیستماتیک احتمالی مدلهای بسیار پیشرفته است.
بحث امنیت هوش مصنوعی پیشتر نیز در شورای امنیت مطرح شده بود. این نهاد در سالهای 2023 و 2024 دربارهی پیامدهای هوش مصنوعی برای صلح و امنیت بینالمللی گفتوگو کرده است؛ بنابراین جلسهی جدید نخستین نشست شورا دربارهی این فناوری نیست.
چه کسانی در نشست شورای امنیت سخنرانی میکنند؟
در این جلسه، نمایندگان شرکتهای توسعهدهندهی هوش مصنوعی در کنار یک پژوهشگر مستقل به اعضای شورای امنیت توضیح خواهند داد. بر اساس برنامهی اعلامشده، سخنرانان اصلی عبارتاند از:
| نام | سمت | نحوهی مشارکت یا نقش |
|---|---|---|
| سم آلتمن | مدیرعامل OpenAI | سخنرانی حضوری دربارهی مدلهای پیشرفته و تدابیر ایمنی |
| داریو آمودی | مدیرعامل آنتروپیک | سخنرانی از راه دور |
| کلمان دولانگ | مدیرعامل Hugging Face | ارائهی دیدگاه دربارهی توسعهی هوش مصنوعی |
| یوشوا بنجیو | پژوهشگر هوش مصنوعی و از رؤسای هیئت علمی مستقل سازمان ملل | ارائهی دیدگاه علمی دربارهی قابلیتها و خطرات فناوری |
حضور این افراد به اعضای شورای امنیت امکان میدهد دیدگاههای توسعهدهندگان مدلهای پیشرفته و پژوهشگران را مستقیماً بشنوند. با این حال، شرکتکردن در یک نشست مشترک لزوماً به معنی توافق همهی سخنرانان دربارهی سرعت توسعهی فناوری یا شیوهی نظارت بر آن نیست.
چرا امنیت هوش مصنوعی به موضوعی بینالمللی تبدیل شده است؟
مدلهای جدید هوش مصنوعی فقط برای پاسخدادن به پرسشها طراحی نمیشوند. برخی از آنها میتوانند به ابزارهای نرمافزاری دسترسی پیدا کنند، چند مرحله از یک کار را برنامهریزی کنند و با دخالت کمتر انسان، وظایف پیچیده را پیش ببرند.
چنین تواناییهایی در کنار کاربردهای مفید، پرسشهایی دربارهی امنیت هوش مصنوعی ایجاد کردهاند. برای مثال، اگر یک سیستم در زیرساخت حساس به اطلاعات اشتباه تکیه کند، دسترسی غیرمجاز پیدا کند یا بدون تأیید کافی اقداماتی انجام دهد، پیامد آن ممکن است از یک خطای سادهی نرمافزاری فراتر برود.
رویترز به نقل از یک دیپلمات اروپایی گزارش داده یکی از پرسشهای مورد توجه در نشست این است که آیا تعامل چند الگوریتم در آینده میتواند به ایجاد ناخواستهی یک بحران میان کشورها منجر شود یا خیر.
این موضوع در حال حاضر یک سناریوی خطر است، نه حادثهای که وقوع آن اثبات شده باشد. برای بررسی دقیق خطرات باید میان توانایی مشاهدهشده در آزمایش، احتمال سوءاستفاده و پیامد واقعی در محیط عملیاتی تفاوت گذاشت.
در حوزههایی مانند امنیت سایبری، سامانههای نظامی و زیرساختهای حیاتی، میزان دسترسی یک مدل و اختیاری که به آن داده میشود، میتواند بهاندازهی توانایی خود مدل اهمیت داشته باشد.
پیشنهاد OpenAI برای ارزیابی امنیت هوش مصنوعی چیست؟
به گزارش رویترز، یکی از مدیران OpenAI پیش از نشست اعلام کرده که سم آلتمن قصد دارد از رهبران کشورها بخواهد معیارهای مشترکی برای سنجش توانایی مدلهای هوش مصنوعی و ارزیابی تدابیر حفاظتی شرکتها در نظر بگیرند.
منظور از معیار ارزیابی یا Benchmark، آزمونی مشخص برای اندازهگیری توانایی یک مدل در انجام وظایف مختلف است. این آزمونها میتوانند نشان دهند یک مدل چه کارهایی را میتواند انجام دهد و محدودیتهای طراحیشده برای جلوگیری از استفادهی خطرناک تا چه اندازه مؤثر هستند.
برای نمونه، ارزیابی امنیت هوش مصنوعی میتواند شامل بررسی توانایی مدل در استفاده از ابزارهای دیجیتال، اجرای وظایف چندمرحلهای، کار با اطلاعات حساس یا پیروی از محدودیتهای دسترسی باشد.
تدابیر حفاظتی نیز فقط به پاسخندادن به درخواستهای خطرناک محدود نمیشوند. محدودکردن مجوزهای ابزارها، ثبت اقدامات سیستم، تأیید انسانی پیش از انجام کارهای حساس و امکان توقف عملیات از دیگر روشهای کنترل خطر هستند.
پیشنهاد مطرحشده از سوی OpenAI بر ایجاد روشهای قابل مقایسه برای سنجش قابلیتها و بررسی کارایی این تدابیر متمرکز است. با این حال، جزئیات یک چارچوب جهانی الزامآور یا نهاد مسئول اجرای آن در گزارشهای منتشرشده مشخص نشده است.
منظور از ازدسترفتن کنترل انسانی بر هوش مصنوعی چیست؟
یکی از اصطلاحات مهم در بحث امنیت هوش مصنوعی، «ناهمترازی» یا Misalignment است. این اصطلاح به وضعیتی گفته میشود که رفتار یک سیستم با هدفها، دستورها یا محدودیتهای تعیینشده از سوی انسان مطابقت نداشته باشد.
برای مثال، ممکن است یک عامل هوش مصنوعی برای انجام سریعتر یک وظیفه از ابزاری استفاده کند که اجازهی دسترسی به آن را ندارد، یا در تلاش برای رسیدن به نتیجه، بخشی از دستورهای ایمنی را نادیده بگیرد.
این رفتارها لزوماً نشاندهندهی آگاهی، ارادهی مستقل یا تصمیم یک مدل برای «شورش» نیستند. در بسیاری از موارد، مسئله به نحوهی تعریف هدف، آموزش مدل، محدودیتهای نرمافزاری و سطح دسترسی آن مربوط میشود.
به همین دلیل، پژوهشگران علاوه بر آزمایش خود مدل، شرایط محیطی را نیز بررسی میکنند: سیستم به چه ابزارهایی متصل است، چه اطلاعاتی دریافت میکند، چه اقداماتی میتواند انجام دهد و انسان در کدام مرحله امکان نظارت یا مداخله دارد.
موضوع کنترل انسانی زمانی اهمیت بیشتری پیدا میکند که یک سیستم از محیط آزمایشگاهی وارد فعالیتهایی مانند مدیریت شبکه، بررسی آسیبپذیریهای امنیتی یا تصمیمسازی در زیرساختهای حساس شود.
دیدگاههای متفاوت دربارهی مدیریت خطرات هوش مصنوعی
دربارهی شیوهی تأمین امنیت هوش مصنوعی اتفاقنظر کاملی میان شرکتها، پژوهشگران و دولتها وجود ندارد. یکی از اختلافنظرها به این پرسش مربوط میشود که آیا باید توسعهی برخی مدلهای بسیار پیشرفته کندتر شود یا میتوان با تقویت آزمونها و نظارت، توسعهی فناوری را ادامه داد.
برخی مدیران صنعت هوش مصنوعی خواستار احتیاط بیشتر در توسعهی مدلهای قدرتمند شدهاند. در مقابل، منتقدان این رویکرد دربارهی اثر محدودیتهای گسترده بر رقابت، دسترسی به فناوری و تمرکز قدرت در تعداد محدودی شرکت پرسشهایی مطرح میکنند.
رویکردهای دیگری نیز بر انتشار شفافتر نتایج آزمونهای ایمنی، ارزیابی مستقل و محدودیت استفاده از هوش مصنوعی در کاربردهای حساس تمرکز دارند.
نشست شورای امنیت فرصتی است تا این دیدگاهها در سطح بینالمللی بررسی شوند. با این حال، اعلام یک نگرانی از سوی یک شرکت یا پژوهشگر بهتنهایی نشان نمیدهد که همهی کشورها باید شیوهی واحدی را برای توسعه یا استفاده از فناوری انتخاب کنند.
آیا نشست شورای امنیت به تصویب قانون جهانی هوش مصنوعی منجر میشود؟
هدف اعلامشدهی نشست 23 سپتامبر، گفتوگو دربارهی ارتباط هوش مصنوعی با امنیت بینالمللی و بررسی راههای مدیریت خطرات آن است. در برنامهی منتشرشده، تصویب یک قانون جهانی تازه بهعنوان نتیجهی قطعی جلسه اعلام نشده است.
شورای امنیت میتواند دربارهی تهدیدهای مرتبط با صلح و امنیت بینالمللی گفتوگو کند و در چارچوب اختیارات خود تصمیم بگیرد، اما تبدیل بحثهای مطرحشده به قواعد اجرایی برای شرکتهای هوش مصنوعی به تصمیمهای بعدی و سازوکارهای مشخص نیاز دارد.
از سوی دیگر، مقررات توسعه و استفاده از هوش مصنوعی در کشورهای مختلف یکسان نیست. کشورها باید دربارهی موضوعاتی مانند شیوهی ارزیابی مدلها، تبادل اطلاعات مربوط به حوادث و محدودهی نظارت نهادهای عمومی به تفاهم برسند.
بنابراین پیامد فوری این نشست برای حوزهی امنیت هوش مصنوعی، مطرحشدن مستقیم دیدگاههای شرکتها و پژوهشگران در شورای امنیت است؛ نه اجراییشدن خودکار یک مجموعه قانون تازه در سراسر جهان.
جمعبندی
امنیت هوش مصنوعی محور نشست 23 سپتامبر شورای امنیت سازمان ملل است؛ جلسهای که قرار است با سخنرانی مدیران OpenAI و آنتروپیک، مدیرعامل Hugging Face و یوشوا بنجیو برگزار شود. موضوع اصلی، بررسی خطرات احتمالی مدلهای پیشرفته برای امنیت بینالمللی و راههای حفظ کنترل انسانی است.
OpenAI نیز پیش از نشست از ضرورت ایجاد معیارهای مشترک برای سنجش قابلیت مدلها و ارزیابی تدابیر ایمنی آنها سخن گفته است. با این حال، نه وقوع یک بحران خارج از کنترل تأیید شده و نه تصویب مقررات جهانی جدید نتیجهی قطعی این جلسه است. اهمیت نشست در بررسی شواهد موجود و گفتوگو دربارهی شیوههای مدیریت خطرات آینده است.
منابع
- United Nations Security Council؛ برنامهی رسمی نشستهای شورای امنیت در سپتامبر 2026
- Security Council Report؛ دستور کار و فهرست سخنرانان نشست هوش مصنوعی و امنیت بینالمللی
- Reuters؛ گزارش 23 سپتامبر دربارهی نشست مدیران شرکتهای هوش مصنوعی و پیشنهاد OpenAI برای معیارهای ارزیابی مشترک
- ABC News؛ تأیید حضور حضوری سم آلتمن و مشارکت آنلاین داریو آمودی به نقل از سخنگوی سازمان ملل
سلب مسئولیت:
مطالب منتشرشده صرفاً با هدف اطلاعرسانی تهیه شده و فاقد هرگونه وابستگی، جانبداری یا جهتگیری سیاسی و حزبی است و بههیچوجه توصیهای برای خرید، فروش یا نگهداری داراییهای مالی، سهام، ارزهای دیجیتال یا سایر ابزارهای سرمایهگذاری محسوب نمیشود. تصمیمگیری برای سرمایهگذاری بر عهدهی مخاطب است و توصیه میشود پیش از هر اقدامی، تحقیقات کافی انجام داده و در صورت نیاز با مشاور مالی متخصص مشورت کنید.
۰ دیدگاه
در حال آمادهسازی فرم دیدگاه…