با افزایش استفاده از چند عامل هوشمند در کنار یکدیگر، پیدا کردن تناقض میان تصمیمهای آنها به چالشی تازه تبدیل شده است. همکاری چند هوش مصنوعی یک مشکل تازه ایجاد میکند: گاهی هیچکدام از عاملها بهتنهایی اشتباه نمیکنند، اما وقتی تصمیمهایشان کنار هم قرار میگیرد، نتیجه نهایی ناسازگار میشود.
همشهری آنلاین -یکتا فراهانی: اگر چند هوش مصنوعی همزمان تصمیم بگیرند، آیا میتوان مطمئن بود نتیجه نهایی درست است؟ نه لزوماً. ممکن است هر عامل بهتنهایی منطقی عمل کند، اما مجموعه تصمیمهای آنها با یکدیگر تناقض داشته باشد. سپهر بیات، پژوهشگر ایرانی حوزه هوش مصنوعی، برای شناسایی این تناقضهای پنهان شاخصی به نام «فرونسیس» یا Φ پیشنهاد کرده است.
تشخیص سازگاری در سامانههای چندعاملی
سپهر بیاتپژوهشگر و متخصص هوش مصنوعیدر پژوهشی با عنوان «روشهای ابتکاری طیفی مبتنی بر بافه برای تشخیص سازگاری در سامانههای چندعاملی»، شاخصی محاسباتی به نام فرونسیس را پیشنهاد کرده است؛ روشی که قرار است این ناسازگاریهای پنهان را در سطح کل شبکه آشکار کند
نسخه عمومی این پژوهش در فوریه ۲۰۲۶ بهصورت پیشچاپ منتشر شده و کدها و دادههای آزمایشها نیز در دسترس قرار گرفتهاند.
بیشتر بخوانید:
- اوپنایآی از چتجی پیتی ۵.۵ رونمایی کرد
- امین امینی با اندرز مسیر تازهای برای آموزش شخصیسازیشده ایجاد کرد
وقتی همه درست میگویند، اما نتیجه غلط است!
فرض کنید چند پهپاد امدادی در حال جستوجوی افراد گرفتار هستند. هر پهپاد اطلاعاتی درباره موقعیت افراد ارائه میکند. ممکن است رابطه اطلاعات هر دو پهپاد با یکدیگر منطقی باشد، اما وقتی اطلاعات همه پهپادها کنار هم قرار میگیرد، یک تناقض غیرممکن شکل بگیرد.
نمونه سادهتر، سه نفر هستند: نفر اول میگوید از نفر دوم بلندتر است؛ نفر دوم میگوید از نفر سوم بلندتر است و نفر سوم میگوید از نفر اول بلندتر است. هر جمله بهتنهایی قابلتصور است، اما هر سه جمله نمیتوانند همزمان درست باشند.
در سامانههای چندعاملی نیز خطای حسگر، اطلاعات قدیمی، تأخیر ارتباطی یا تفاوت فرضهای عاملها میتواند چنین مشکلی ایجاد کند.
فرونسیس چه چیزی را اندازه میگیرد؟
ایده اصلی سپهر بیات این است که بهجای بررسی جداگانه رابطه هر دو عامل، کل شبکه یکجا بررسی شود. پایه ریاضی این روش، مفهومی به نام بافههای سلولی (Cellular Sheaves) است. در این چارچوب، هر عامل داده یا باور خود را دارد و ارتباط میان عاملها نشان میدهد اطلاعات آنها چگونه با یکدیگر مرتبط میشود.
فرونسیس با تحلیل یک ساختار ریاضی موسوم به «لاپلاسیَن اتصال» تلاش میکند نشانههایی از هماهنگی یا وجود چرخههای ناسازگار را شناسایی کند.
در تفسیر پیشنهادی پژوهش، مقدار بالاتر Φ معمولاً نشاندهنده هماهنگی بیشتر و تناقض کمتر است و کاهش آن میتواند هشداری برای بروز ناسازگاری باشد.
از رباتها تا ۵۰ هزار عامل
این روش در چهار سناریو آزمایش شده است؛ از یک هزارتوی منطقی که در آن تناقض سراسری ایجاد میشد تا محیطهای یادگیری تقویتی و هماهنگی چند ربات.
در یکی از آزمایشها، ایجاد اختلال در اطلاعات موقعیتیابی یک ربات باعث افت شاخص شد و پس از اصلاح اطلاعات، مقدار آن افزایش یافت.
پژوهش همچنین مقیاسپذیری روش را روی شبکههایی از ۱۰۰ تا ۵۰ هزار عامل بررسی کرده است. طبق نتایج گزارششده، محاسبه شاخص برای شبکه ۵۰ هزار عاملی روی یک هسته پردازنده حدود ۸.۵ ثانیه زمان برده است.
تصمیم نهایی
با پیچیدهتر شدن هوش مصنوعی، ممکن است یک عامل اطلاعات جمع کند، عامل دیگری برنامهریزی کند و عامل سوم تصمیم نهایی را ارزیابی یا اجرا کند.
به گفته این پژوهشگر و متخصص هوش مصنوعی در چنین شرایطی، پرسش فقط این نیست که «کدام عامل اشتباه کرده است؟» بلکه سؤال مهمتر این است:
«آیا تصمیمهای همه عاملها میتوانند همزمان درست باشند؟»
فرونسیس هنوز یک راهحل نهایی برای ایمنی هوش مصنوعی نیست و نتایج آن به ارزیابیهای مستقل و آزمایش در محیطهای واقعی نیاز دارد. بااینحال، ایده اصلی پژوهش جذاب است: ایجاد یک لایه هشدار برای پیدا کردن تناقضهایی که ممکن است بررسی تکتک عاملهای هوش مصنوعی هرگز آنها را آشکار نکند.
کد خبر 1060591
-
شکار جاسوسهای ایلان ماسک
-
تحقیقات جدید یک پژوهشگر و متخصص هوش مصنوعی ایرانی در مورد کشف تناقضهای پنهان در هوش مصنوعی
-
هوش مصنوعی، امنیت دیجیتال و آینده ایران | نشست خبری نمایشگاه الکامپ برگزار شد
-
به زودی هرمز را بخشی از خاک آمریکا اعلام میکنم!
-
توانایی نابودی کل منطقه را داریم، اما نمیخواهیم این کار را بکنیم
-
شجاع: ترامپ در رد شدن گل من نقش داشت | قهرمان فصل قبل 100درصد ماییم نه استقلال
-
سخنان مهم قالیباف درباره تفاوت آیتالله سیدمجتبی خامنهای با رهبر شهید انقلاب
-
حمله اف۵های ایران به پایگاه آمریکا در کویت برای من شرمآور است
-
آیتالله مجتبی خامنهای در حال برنامهریزی برای یک جنگ طولانی است | گزارش مهم فارنپالیسی درباره انتصابات رهبر انقلاب
-
ترامپ باز هم ایران را به "ضربه سنگین" تهدید کرد
-
ما کوتاه نمیآییم و بسیار بیرحمانهتر از قبل نابودشان می کنیم
-
سرمربی استقلالی: دروازه بان من نفر اول ایران می شود | از بودن او در تیمم لذت می برم
-
توانایی نابودی کل منطقه را داریم، اما نمیخواهیم این کار را بکنیم
-
آیتالله مجتبی خامنهای در حال برنامهریزی برای یک جنگ طولانی است | گزارش مهم فارنپالیسی درباره انتصابات رهبر انقلاب
-
مثل سگ می ترسد… | پشتپرده ۲ خبر در تهران و مشهد
-
به زودی هرمز را بخشی از خاک آمریکا اعلام میکنم!
-
شکایت فوری از استقلال؛ بازی اول ۳ بر صفر می شود؟
-
دعوای دو دسته عزاداری بر سر چه بود؟
-
من می دانم با رامین رضاییان چه کار کنم | با مدیران هم در مورد او صحبت کرده ام
-
کالابرگ چهار گروه فردا شارژ میشود؛ زمانبندی جدید برای دریافت کالابرگ