Jacob Coxon، پژوهشگر Anthropic که پیشتر در OpenAI فعالیت میکرد، در 8 سپتامبر 2026 از سمت خود استعفا داد. او دلیل این تصمیم را نگرانی عمیق دربارهی سرعت رقابت شرکتهای هوش مصنوعی برای توسعهی سیستمهایی اعلام کرده که در آینده ممکن است بتوانند تواناییهای خود را بهصورت خودکار بهبود دهند. Coxon معتقد است رقابت فعلی میان آزمایشگاههای پیشرو، ایمنی را در برابر سرعت توسعه تحت فشار قرار داده است.
فهرست مطالب
Jacob Coxon کیست؟
Coxon یک پژوهشگر 27 سالهی هوش مصنوعی است که میگوید طی 3 سال گذشته در بخش Pre-training یا پیشآموزش مدلها در OpenAI و سپس Anthropic فعالیت کرده است. پیشآموزش مرحلهای است که مدلهای بزرگ هوش مصنوعی با حجم عظیمی از دادهها آموزش میبینند تا تواناییهای پایهای مانند درک زبان، استدلال و تولید محتوا را به دست آورند.
او از سال 2023 تا جولای 2026 عضو تیم فنی OpenAI بود و سپس به Anthropic پیوست. فهرست رسمی مشارکتکنندگان GPT-4o در وبسایت OpenAI نیز نام Jacob Coxon را در میان مشارکتکنندگان اصلی این مدل ثبت کرده است.
چرا پژوهشگر Anthropic استعفا داد؟
Coxon پس از استعفا در شبکهی X نوشت که از نظر او هیچیک از دو شرکت OpenAI و Anthropic در مسیر توسعهی سیستمهای بسیار قدرتمند «به اندازهی کافی مسئولانه» عمل نمیکنند. نگرانی اصلی او رقابت برای رسیدن به چیزی است که از آن با عنوان Self-improving Superintelligence یا «فراهوش خودبهبوددهنده» یاد میشود.
منظور او سیستمی است که نهتنها از انسان در بسیاری از فعالیتهای فکری جلوتر باشد، بلکه بتواند در توسعهی نسل بعدی هوش مصنوعی نیز نقش مستقیم داشته باشد. چنین فرایندی در صورت امکان میتواند سرعت پیشرفت AI را افزایش دهد و کنترل و ارزیابی رفتار مدلها را دشوارتر کند.
Coxon معتقد است مسئلهی اصلی فقط یک شرکت نیست، بلکه ساختار رقابت است. اگر یک آزمایشگاه سرعت خود را کاهش دهد، ممکن است نگران باشد که رقیب زودتر به مدل قدرتمندتر برسد. همین منطق میتواند شرکتها را حتی در صورت وجود نگرانیهای ایمنی به ادامهی مسابقه سوق دهد.
هوش مصنوعی خودبهبوددهنده یعنی چه؟
اصطلاح «خودبهبوددهنده» در این بحث به سیستمی اشاره دارد که بتواند به توسعهی نرمافزار، طراحی مدلهای جدید، تحقیقات AI یا بهبود فرایند آموزش نسل بعدی مدلها کمک کند. این مفهوم با هوش مصنوعی فعلی که صرفاً یکباره خودش را بازنویسی و قدرتمندتر کند، یکسان نیست.
نگرانی پژوهشگران ایمنی این است که اگر مدلهای آینده در تحقیق و توسعهی هوش مصنوعی از انسانها توانمندتر شوند، چرخهی پیشرفت ممکن است سریعتر شود. در چنین شرایطی، روشهای فعلی برای ارزیابی، کنترل و محدودکردن مدلها شاید نتوانند با همان سرعت پیشرفت کنند.
هشدار دربارهی نابودی بشر چقدر جدی است؟
بخش جنجالی اظهارات Coxon این بود که به گفتهی او، بعضی از افرادی که در حال ساخت سیستمهای پیشرفتهی AI هستند واقعاً احتمال میدهند فناوری آینده بتواند تا پایان این دهه پیامدهای فاجعهباری برای بشر ایجاد کند.
یکی از پژوهشگران ایمنی Anthropic به نام Evan Hubinger نیز در واکنش به این اظهارات گفت ارزیابی شخصی او از احتمال نابودی بشر در اثر هوش مصنوعی طی دههی آینده «بیش از 10%» است. او در عین حال تأکید کرد که خطر مدلهای فعلی را پایین میداند و نگرانی اصلیاش مربوط به نسلهای آیندهی فراهوش و امکان خودبهبوددهی است.
عدد 10% یک برآورد شخصی از سوی Hubinger است و نباید آن را احتمال علمی اثباتشده یا ارزیابی رسمی شرکت دانست. پژوهشگران دربارهی احتمال، زمانبندی و حتی امکان وقوع چنین سناریوهایی اختلاف نظر قابلتوجهی دارند.
Coxon چه تفاوتی میان OpenAI و Anthropic میبیند؟
Coxon هر دو شرکت را مورد انتقاد قرار داده، اما نگاه او به آنها کاملاً یکسان نیست. به گفتهی او، در Anthropic خطرات احتمالی سیستمهای بسیار قدرتمند جدیتر درک میشوند، اما شرکت همچنان در رقابتی قرار دارد که نمیخواهد آن را به رقبا واگذار کند.
او دربارهی OpenAI نیز معتقد است بخشی از کارکنان هنوز ابعاد احتمالی خطرات بلندمدت را به اندازهی کافی جدی نگرفتهاند. OpenAI و Anthropic در زمان انتشار گزارشهای اولیه پاسخی مستقیم به اظهارات Coxon ارائه نکرده بودند.
محدودیت مهم در تفسیر این هشدار چیست؟
استعفای یک پژوهشگر داخلی قابلتوجه است، اما بهتنهایی اثبات نمیکند که هوش مصنوعی در مسیر قطعی خروج از کنترل یا نابودی بشر قرار دارد. بسیاری از ادعاهای مطرحشده دربارهی فراهوش آینده بر سناریوها و مدلسازی ریسک استوار هستند، نه بر فناوریای که امروز بهطور عملی وجود داشته باشد.
همچنین اصطلاحاتی مانند AGI، Superintelligence و Self-improvement تعریف واحد و پذیرفتهشدهای در سراسر صنعت ندارند. زمان رسیدن به چنین سیستمهایی نیز مشخص نیست و پیشبینیها میان چند سال تا چند دهه یا حتی غیرممکنبودن آن متفاوت است.
بنابراین دقیقتر است که استعفای Coxon را نشانهای از اختلاف جدی داخل صنعت دربارهی میزان ریسک قابل قبول بدانیم، نه مدرکی برای قطعیبودن یک سناریوی آخرالزمانی.
استعفای Coxon اختلاف بر سر سرعت توسعهی AI را پررنگتر کرد
استعفای پژوهشگر سابق OpenAI از Anthropic در شرایطی رخ داده که بحث دربارهی سرعت توسعهی مدلهای پیشرفته دوباره شدت گرفته است. Coxon میگوید مسئلهی اصلی برای او این نیست که خطر حتماً رخ خواهد داد، بلکه معتقد است پیامد احتمالی آن آنقدر بزرگ است که ادامهی رقابت بدون هماهنگی و سازوکارهای ایمنی قوی، ریسک غیرقابل قبولی ایجاد میکند.
اظهارات او با واکنش مثبت برخی پژوهشگران ایمنی همراه شده، اما دیدگاههای بسیار متفاوتی نیز دربارهی احتمال خطر وجود دارد. واقعیت فعلی این است که هیچ مدرکی نشان نمیدهد مدلهای موجود در آستانهی نابودی بشر هستند؛ در عین حال، بحث دربارهی نحوهی کنترل نسل بعدی سیستمهای خودمختار و بسیار قدرتمند به یکی از جدیترین اختلافها در صنعت هوش مصنوعی تبدیل شده است.
سلب مسئولیت:
مطالب منتشرشده صرفاً با هدف اطلاعرسانی تهیه شده و فاقد هرگونه وابستگی، جانبداری یا جهتگیری سیاسی و حزبی است و بههیچوجه توصیهای برای خرید، فروش یا نگهداری داراییهای مالی، سهام، ارزهای دیجیتال یا سایر ابزارهای سرمایهگذاری محسوب نمیشود. تصمیمگیری برای سرمایهگذاری بر عهدهی مخاطب است و توصیه میشود پیش از هر اقدامی، تحقیقات کافی انجام داده و در صورت نیاز با مشاور مالی متخصص مشورت کنید.
۰ دیدگاه
در حال آمادهسازی فرم دیدگاه…