عضو هیئت‌مدیره «اوپن‌ای آی»: برای کنترل هوش مصنوعی آماده نیستیم

عضو جدید هیئت‌مدیره OpenAI گفت: پیشرفت هوش مصنوعی از توانایی صنعت برای مهار خطرهای این فناوری جلو زده است.

همشهری آنلاین، فرخنده رفائی: هوش مصنوعی دیگر فقط ابزاری برای پاسخ دادن به پرسش‌ها یا تولید محتوا نیست و مدل‌های جدید می‌توانند مجموعه‌ای از وظایف پیچیده را با استقلال بیشتری انجام دهند. این قابلیت، ایمنی این فناوری را از یک نگرانی نظری به مسئله‌ای جدی برای شرکت‌های سازنده تبدیل کرده است.

به گزارش گاردین، پل کریستیانو، پژوهشگر سابق OpenAI و عضو جدید هیئت‌مدیره این شرکت که مواضعی انتقادی درباره ایمنی هوش مصنوعی دارد، گفته است که سرعت پیشرفت قابلیت‌های هوش مصنوعی می‌تواند در آینده نزدیک خطر از دست رفتن کنترل بر این فناوری را به سطحی فاجعه‌بار برساند. او معتقد است صنعت هوش مصنوعی، از جمله خود اوپن‌ای‌آی، هنوز برای کاهش این خطر به سطح قابل‌قبولی نرسیده است.

کریستیانو از چهره‌های شناخته‌شده در حوزه «هم‌ترازی هوش مصنوعی» است؛ حوزه‌ای که هدف آن اطمینان از رفتار سیستم‌های هوش مصنوعی مطابق با اهداف و ارزش‌های مورد نظر انسان‌هاست. او پیش‌تر مسئول تیم هم‌ترازی مدل‌ها در اوپن‌ای‌آی بود و بعد از ترک این شرکت، مرکز تحقیقاتی Alignment Research Center را تأسیس کرد.

ورود او به هیئت‌مدیره اوپن‌ای‌آی در شرایطی اتفاق افتاده که نگرانی درباره رفتارهای غیرقابل‌پیش‌بینی مدل‌های پیشرفته افزایش یافته است. شرکت اوپن‌ای‌آی اخیرا اعلام کرده بود که صدها عامل هوش مصنوعی در جریان یک تمرین آموزشی رفتارهایی مستقل از جمله تلاش برای هک کردن و همکاری آنلاین از خود نشان داده‌اند.

بیشتر بخوانید:

• وقتی سازندگان از محصول خود می‌ترسند! | تناقض عجیب در قلب انقلاب هوش مصنوعی
• هشدار غول‌های فناوری درباره موج حملات سایبری هوش مصنوعی
• اپل شواهد تازه‌ای از سرقت اطلاعات محرمانه برای OpenAI ارائه کرد

این نگرانی تنها به اوپن‌ای‌آی محدود نیست. جیکوب کاکسون، پژوهشگری که سابقه فعالیت در OpenAI و Anthropic را دارد، نیز همین هفته از آنتروپیک استعفا کرد و درباره سرعت توسعه هوش مصنوعی و بی‌توجهی احتمالی به مسائل ایمنی هشدار داد. او معتقد است رقابت شدید میان شرکت‌های بزرگ فناوری برای ساخت مدل‌های قدرتمندتر می‌تواند توجه به ایمنی را تحت‌الشعاع قرار دهد.

بحث اصلی در این نگرانی‌ها، ربات‌های شبیه فیلم‌های علمی‌تخیلی نیست. مسئله این است که مدل‌های آینده ممکن است بتوانند اهداف پیچیده‌ای را به‌صورت مستقل دنبال کنند و انسان‌ها درک کاملی از روش تصمیم‌گیری یا اقدامات آنها نداشته باشند.

کریستیانو پیش‌تر نیز درباره خطرهای احتمالی هوش مصنوعی بسیار قدرتمند هشدار داده بود و اکنون حضور او در ساختار مدیریتی اوپن‌ای‌آی این موضوع را جدی‌تر کرده است.

اوپن‌ای‌آی و دیگر شرکت‌های فعال در حوزه هوش مصنوعی همواره بر اهمیت ایمنی تأکید کرده‌اند، اما منتقدان می‌گویند سرعت توسعه مدل‌ها باید با سرعت پیشرفت سازوکارهای نظارتی و ایمنی هماهنگ باشد.

در واقع پرسش اصلی دیگر فقط این نیست که هوش مصنوعی «چقدر قدرتمند خواهد شد»، بلکه این است که انسان تا چه اندازه می‌تواند در زمانی که این سیستم‌ها قدرتمندتر می‌شوند، رفتار آنها را پیش‌بینی و کنترل کند.

کد خبر 1067624 منبع: همشهری آنلاین

• لحظه‌شماری نخبگان ایرانی برای رمزگشایی از «چشم پنهان» آمریکا در اعماق هرمز

• عضو هیئت‌مدیره «اوپن‌ای آی»: برای کنترل هوش مصنوعی آماده نیستیم

• تصاویر بازی استقلال 1-0 پیکان

• امیدواری این کشور به احیای روند دیپلماتیک بین ایران و واشنگتن

• زلنسکی از خطر حمله جان سالم به در برد+ جزئیات

• تهدیدهای ترامپ درباره «محوکردن» ایران از روی نقشه؛ گزارش مهم گاردین را بخوانید

• روسیه،‌ این کشور را به حمله اتمی تهدید کرد

• محمدناصر العاطفی ترور شد؟+ ویدئو | اقدام معنادار وزیر دفاع یمن

• فوری | هشدار درباره احتمال حمله آمریکا به کوه کلنگ

• فوری | هشدار درباره احتمال حمله آمریکا به کوه کلنگ

• با تمام قوا به محور ایران حمله می کنیم!

• اولین واکنش امارات به قطع روابط با الجزایر؛ امیدواریم این تصمیم موقت باشد

• نیروهای مسلح ایران ستاد ناوگان پنجم آمریکا را با خاک یکسان کردند | واکنش عراقچی به اعتراف مقام آمریکایی

• تصاویر کمتر دیده شده از حادثه ۱۱ سپتامبر منتشر شد | ببینید

• استفاده کن یا از دستش بده؛ چرا باید هر روز حرکت کنیم؟

• شلیک موشک جدید ایرانی برای اولین بار | موشک پیشرفته برای حمله به ناوهای آمریکا

• اصابت چهار پرتابه به ۲ کشتی در خلیج فارس | وضعیت یک کشتی نامعلوم است

• فوری | خط لوله انتقال نفت عربستان هدف قرار گرفت + فیلم

• وقتی لیگ رفت روی هوا! | همه معترض به یک تصمیم