پژوهشگر هوش مصنوعی پس از استعفا هشدار داد: احتمال نابودی تمام بشر در دههٔ آینده بیش از ۱۰ درصد است.
گزارش CNBC – ۹ سپتامبر ۲۰۲۶
جیکوب کاکسون (Jacob Coxon)، پژوهشگری که سابقهٔ فعالیت در دو شرکت بزرگ هوش مصنوعی OpenAI و Anthropic را دارد، از مقام خود در Anthropic استعفا کرد و با هشدار دربارهٔ آیندهٔ هوش مصنوعی، این دو شرکت را متهم کرده است که در رقابت برای دستیابی به ابرهوش، «با جان ما قمار می‌کنند».
کاکسون می‌گوید افرادی که در قلب صنعت هوش مصنوعی فعالیت دارند، واقعاً نگران‌اند که سیستم‌های فوق‌پیشرفتهٔ آینده بتوانند به تهدیدی برای بقای بشر تبدیل شوند.

او هشدار داده است:
«قدرت این فناوری را دست‌کم نگیرید. این سیستم‌ها به‌زودی می‌توانند به سامانه‌هایی فراتر از توانایی انسان تبدیل شوند؛ سیستم‌هایی که قادرند هر چیزی را هک کنند، یک حوزه را یک‌شبه متحول سازند و به قدرت و منابع واقعی دست پیدا کنند.»
پست او در شبکهٔ X بیش از ۷۰ میلیون بار دیده شده و بحث گسترده‌ای را دربارهٔ خطرات مسابقه برای ساخت ابرهوش برانگیخته است.
یکی از نگرانی‌های اساسی، رسیدن هوش مصنوعی به مرحلهٔ «خودبهبوددهی بازگشتی» است؛ یعنی سیستمی که بتواند در توسعه و طراحی نسل پیشرفته‌تر خود نقش داشته باشد. این قابلیت هنوز تحقق نیافته، اما نگرانی این است که در چنین مرحله‌ای کنترل انسانی بر سیستم‌های بسیار پیشرفته دشوارتر شود.

کاکسون می‌گوید:
«هیچ‌یک از این دو شرکت مسوولانه رفتار نمی‌کنند. آنها مستقیماً در حال رقابت برای رسیدن به ابرهوشِ خودبهبوددهنده هستند.»
اما هشدار مهم‌تر از سوی اِوِن هابینگر (Evan Hubinger)، پژوهشگر حوزهٔ ایمنی و هم‌راستاسازی در Anthropic، مطرح شده است. او گفته شخصاً احتمال می‌دهد خطر نابودی تمام انسان‌ها توسط هوش مصنوعی در دههٔ آینده بیش از ۱۰ درصد باشد.
او همچنین اذعان کرده است که هنوز راه‌حل مطمئنی برای کنترل و هم‌راستاسازی «ابرهوش» با اهداف و ارزش‌های انسانی وجود ندارد.
نگرانی به Anthropic محدود نیست. جاکوب پاچوکی (Jakub Pachocki)، دانشمند ارشد OpenAI، نیز هشدار داده است که هیچ شرکت هوش مصنوعی تاکنون مسالهٔ هم‌راستاسازی و نظارت را به اندازه‌ای حل نکرده که بتوان برای مدت طولانی با حداکثر سرعت به توسعهٔ این سیستم‌ها ادامه داد.
او خواستار کاهش داوطلبانهٔ سرعت توسعه تا زمان ایجاد معیارهای مشترک ایمنی و همچنین هماهنگی بین‌المللی دولت‌ها دربارهٔ آیندهٔ هوش مصنوعی شده است.

این نگرانی‌ها کاملاً تازه نیستند. در سال ۲۰۲۳ نیز شماری از برجسته‌ترین پژوهشگران و مدیران این صنعت، از جمله سم آلتمن و داریو آمودی، بیانیه‌ای را امضا کردند که در آن خطر احتمالی انقراض ناشی از هوش مصنوعی در کنار خطراتی مانند جنگ هسته‌ای و همه‌گیری‌های جهانی مطرح شده بود.
البته رقم «بیش از ۱۰ درصد» یک پیش‌بینی علمی قطعی نیست، بلکه ارزیابی شخصی یکی از پژوهشگران این حوزه است. با این حال، وقتی چنین هشدارهایی از درون شرکت‌هایی مطرح می‌شود که خود در خط مقدم ساخت پیشرفته‌ترین سیستم‌های هوش مصنوعی قرار دارند، نمی‌توان به‌سادگی از کنار آن گذشت.

با احترام
محمد عارف عرفان
لندن،سپتامبر ۲۰۲۶
منبع: Global research به نقل از ۹،CNBC سپتامبر ۲۰۲۶