پژوهشگران امنیتی نشان دادهاند که برخلاف برآوردها، برخی چتباتهای پیشرفته هوش مصنوعی با چند مرحله گفتوگو میتوانند از محدودیتهای ایمنی خود عبور کرده و پاسخهای حساس زیستی ارائه دهند.
همشهری آنلاین، فرخنده رفائی: شرکتهای توسعهدهنده هوش مصنوعی سالهاست برای جلوگیری از سوءاستفاده از چتباتهای خود، لایههای امنیتی مختلفی طراحی کردهاند تا این سامانهها در مسیر تولید اطلاعات مربوط به ساخت سلاحهای بیولوژیک قرار نگیرند، اما پژوهشهای جدید نشان میدهد این موانع ممکن است آنقدرها هم نفوذناپذیر نباشند.
به گزارش دیجیتال ترندز و بر اساس تحقیقی که پژوهشگران بخش امنیت هوش مصنوعی شرکت سیسکو انجام دادهاند، میتوان برخی مدلهای بزرگ هوش مصنوعی مانند ChatGPT، Claude و Gemini را در چند مرحله گفتوگو به ارائه پاسخهایی درباره موضوعات زیستی حساس سوق داد.
این پژوهشگران با تغییر تدریجی مسیر مکالمه و دور زدن محدودیتهای اولیه مدلها توانستند در کمتر از پنج مرحله گفتوگو، واکنشهایی دریافت کنند که از نظر امنیت زیستی نگرانکننده ارزیابی شدهاند.
«ایمی چانگ»، مدیر تحقیقات امنیت و تهدیدات هوش مصنوعی در سیسکو، در گفتوگو با والاستریت ژورنال تأکید کرده است که هیچ مدلی را نمیتوان در برابر کاربری که به اندازه کافی پیگیر و مصمم باشد، کاملا محافظت کرد.
نگرانیها فقط به آزمایشهای امنیتی محدود نمیشود. گزارشها نشان میدهد پس از افزایش تواناییهای زیستی برخی مدلهای هوش مصنوعی، صدها کاربر درباره موضوعاتی مانند سموم و سلاحهای زیستی از چتباتها پرسوجو کردهاند.
کارشناسان حوزه زیستشناسی و مقابله با تروریسم که برخی از این مکالمات را بررسی کردهاند، اعلام کردهاند بخشی از اطلاعات ارائهشده میتواند بیش از حد دقیق و خطرناک باشد. در واکنش به این موارد، شرکتهایی مانند OpenAI اقدام به مسدود کردن حسابهای مرتبط با چنین درخواستهایی کردهاند.
بیشتر بخوانید:
- اوپن ای آی، دوباره در دادگاه | چتجیپیتی یک کشیش را تا پای مرگ برد
- باگ تازه در هوش مصنوعی | این عامل پنهان حافظه بلندمدت چتباتها را آلوده میکند
- کشف نگرانکننده محققان | مدلهای هوش مصنوعی رفتارهای خطرناک را از هم یاد میگیرند
شرکت OpenAI پیشتر نیز این خطر را پیشبینی کرده بود. آزمایشهای داخلی این شرکت در سال ۲۰۲۴ نشان داده بود که پرسشهای طولانی و مرحلهای میتواند برخی مدلها را به سمت ارائه راهنماییهای حساستر در حوزه زیستشناسی سوق دهد. این شرکت هنگام معرفی GPT-۵ اعلام کرد که این مدل در حوزههای زیستی و شیمیایی در سطح «توانایی بالا» قرار دارد و برای آن تدابیر امنیتی بیشتری در نظر گرفته شده است.
با این حال، ایجاد محدودیتهای شدید نیز چالشهای خود را دارد. همان اطلاعات زیستی که ممکن است برای تولید سلاح مورد سوءاستفاده قرار گیرد، برای پژوهشگران حوزه پزشکی، تولید واکسن و کشف دارو ارزشمند است. به همین دلیل شرکتهای هوش مصنوعی تلاش میکنند میان جلوگیری از سوءاستفاده و حفظ کاربردهای علمی این فناوری تعادل برقرار کنند.
کارشناسان معتقدند با افزایش توانایی مدلهای هوش مصنوعی در علوم زیستی، اهمیت طراحی سیستمهای ایمنی دقیقتر نیز بیشتر خواهد شد؛ زیرا حتی شکافهای کوچک در محدودیتهای امنیتی میتوانند در آینده پیامدهای بزرگتری داشته باشند.
کد خبر 1056176 منبع: همشهری آنلاین
-
شما چه شغلی دارید؟؛ لیست مشاغلی که هوش مصنوعی تهدیدشان میکند + جدول
-
اشتباه عجیب سعودیها | آکینجی در تور یمنیها
-
«نواتک» مسیر شکوفایی جوانان فناور و نوآور
-
گوگل کروم امکان ترجمه همزمان در حالت مطالعه را فراهم میکند
-
اگر آیفون دارید، این تغییرات میتواند نحوه استفاده شما از گوشی را عوض کند
-
اسرار فناوریهای عجیب ژاپن | از خانه های کوچک و دستشوییهای هوشمند تا روباتهای انساننما
-
کالری شمار ساعت هوشمند واقعی نیست
-
پیشنهاد عمان در مذاکرات چیست؟ | ایران همچنان بر این موضوع پافشاری می کند؛ گزارش سیانان
-
صدور کیفرخواست در پرونده قتل مرد صراف
-
اگر این کشور از سلاح هستهای استفاده کند، همسایگان با قدرت پاسخ خواهند داد
-
تمام پاکبانانی که از سوی شهرداری تهران به مراسم اربعین اعزام میشوند، نیروهای داوطلب هستند
-
آخرین جزئیات از حادثه آتشسوزی هتل پارسیان استقلال
-
اوکراین بهزودی پاسخ ایران را درک خواهد کرد | هر حملهای به ایران هزینه دارد
-
امضای قرارداد پروژه ساخت محل و جاده دسترسی به چاههای میدان نفتی آذر
-
ایران به اوکراین حمله می کند؟ | ابزار نگرانی زلنسکی از باز شدن جبهه جدید جنگ با ایران
-
اگر آمریکا به یمن حمله کند به ما فرصت خواهد داد که آن را هدف قرار دهیم | هشدار به عربستان
-
زمان درحال اتمام است | ترامپ تصمیم به جنگ بزرگ می گیرد؟
-
جایی را زدیم که آمریکاییها تصور هم نمی کردند | پشت پرده نقشه ترامپ برای آتش بس با ایران
-
سورپرایز قلعهنویی؛ اسطوره پرسپولیس روی نیمکت تیم ملی
-
علائم ساس در منزل؛ راههای شناسایی و نابودی اصولی ساس
-
بهترین نوشیدنی بعد از ناهار برای خداحافظی با نفخ و بیحالی
-
پارسا پیروزفر و هدی زینالعابدین در یک سریال جدید
-
پرسپولیس و تراکتور برای من باید ۲۰۰-۳۰۰ میلیارد بدهند | پیشنهادات اروپاییام را رد کردم
-
چگونه یخ را بیشتر نگه داریم؟ ؛ دیرتر آب شدن یخ با ۷ روش ساده در خانه و سفر