شرکت هوش مصنوعی کانادایی «کوهر» اعلام کرد «کوئن ۳.۸ فلش-نکست»، یکی از جدیدترین مدل های هوش مصنوعی علی بابا سعی در آپلود یک فایل در سروری در پکن داشته است.
به گزارش خبرگزاری مهر به نقل از تک‌کرانچ، این رویداد در جریان یک آزمون معمول امنیت سایبری رخ داد؛ در حالی که مدل در یادداشت‌های خود اعلام کرده بود از ابزارهایش استفاده نخواهد کرد.
این اتفاق نگرانی‌هایی را درباره پایبندی مدل‌های هوش مصنوعی به وعده‌های اساسی خود به کسب‌وکارها برانگیخت. یکی از این وعده‌ها آن است که با میزبانی و اجرای مدل‌های دارای وزن‌های باز روی زیرساخت داخلی شرکت، داده‌ها در همان شرکت باقی بمانند.
با این حال، نگرانی‌های اولیه درباره احتمال خرابکاری سازمانی دوام چندانی نداشت. محققان به‌سرعت احتمال وجود تهدیدی عمدی را رد کردند و گفتند این اتفاق احتمالاً ناشی از محیط‌های آموزشی شلوغی بوده است که باعث شده‌اند مدل‌ها برخلاف انتظار و خارج از دستورهای دریافتی عمل کنند. به گفته آنان، این رفتار تلاشی عمدی برای ارسال مخفیانه اطلاعات به چین نبوده است.
این رویداد روز جمعه و در جریان یک ارزیابی رخ داد که طی آن از مدل «کوئن» خواسته شد مقرراتی برای شناسایی و مسدود کردن دانلودهای حاوی بدافزار تدوین کند. براساس یک پست وبلاگی از شرکت کوهر، مدل در استدلال مکتوب خود به‌صراحت اعلام کرده بود که از هیچ‌یک از ابزارهای خارجی استفاده نخواهد کرد. با این حال، در مراحل بعدی تلاش کرد رشته‌ای از داده‌های آزمایشی ــ قطعه‌ای کوچک از متن ــ را به یک سرور خارجی ارسال کند؛ اقدامی که چارچوب امنیتی محیط آزمایشی آن را متوقف کرد.
شرکت کوهر اعلام کرد که نمی‌تواند با قطعیت مشخص کند این رفتار عمدی بوده یا به فرایند آموزش مدل مربوط می‌شده است.
کد مطلب 6991235 
شیوا سعیدی
-
علی‌بابا از قدرتمندترین تراشه هوش مصنوعی چین رونمایی کرد
-
هوش چینی در یک وب سایت دولتی آمریکا
-
امیدی: امنیت پایدار با همدلی مردم و آمادگی نیروها تقویت می‌شود
-
اجرای دورکاری کارکنان براساس تصمیمات مدیران استان اردبیل
-
روایتی از ایرانِ این روزها در «یک ساعت از آن روز»
-
محمدجانی: حضور مردم در رزمایش کیاشهر نشان‌دهنده همبستگی ملی است
-
تأمین ۸۵ درصد از کالاهای اساسی در داخل کشور
-
طراحی ۳۱ بازی فکری با مشارکت ۱۶۴ دانشجو در المپیک بازی‌های فکری ایران
-
بوی رفتن نتانیاهو می‌آید؟
-
تلاش مدل هوش مصنوعی کوهر برای ارسال داده به سرور خارجی
-
خشم چندلایه در اروپا از مدرسه تا خیابان
-
پاییز پر بارش‌چه شد؟
-
ورود سامانه بارشی جدید به کشور از پنجشنبه؛ بارش برف و باران در راه است
-
کالابرگ کد ملی‌های ۷، ۸ و ۹ شارژ شد
-
همه چیز درباره انتخابات اسرائیل؛ از پاکت های خاص تا زمان اعلام نتایج
-
شعرخوانی افشین علا بر مزار رهبر شهید
-
دستمزد ۱۴۰۵ بر اساس تورم شهریور بالاتر از ۷۷ میلیون تومان است
-
واکنش اسبقیان به اعمال نظر وزیر ورزش در رای بازی تراکتور و ملوان
-
ترامپ: ایرانی‌ها آدم‌های باهوشی هستند و سلاح‌های تأثیرگذار می سازند
-
آشنایی با ۵ ماده غذایی گیاهی سرشار از آهن
-
تأکید بر سوخت‌رسانی به مسافران در طرح حذف کارت اضطراری بنزین
-
گزارش قالیباف به مجلس از جزییات دیدار با رهبر انقلاب و توصیه های ایشان
-
روزنامه‌های ورزشی سه‌شنبه پنجم آبان ۱۴۰۵
-
روزنامه‌های اقتصادی سه‌شنبه پنجم آبان ۱۴۰۵
-
روزنامه‌های صبح سه‌شنبه پنجم آبان ۱۴۰۵
-
روزنامه‌های ورزشی دوشنبه چهارم آبان ۱۴۰۵
-
روزنامه‌های اقتصادی دوشنبه چهارم آبان ۱۴۰۵
- تلفن گویا و سانترال ابری
- وکیل آنلاین
- تور کربلا هوایی
- گرمی، پلتفرم سرمایه‌گذاری فلزات گران‌بها
- لاین نوری
- بلکا
- ایمپلنت اصفهان
- دانلود کتاب
- خرید اپل ایدی
- کلینیک ترک اعتیاد تهران
- دوربین مداربسته
- جراح بینی تهران
- جراح بینی در تهران
- قیمت موکت
- تور کربلا
- استند تسلیت
- مرجع پاسخ معتبر پزشکان
- قیمت ایمپلنت
- قطعات لباسشویی
- آموزشگاه تیزهوشان
- بلیط هواپیما
- نمایندگی بوش در تهران
- آموزشگاه زبان ملل
- قیمت و خرید سمعک نامرئی
- مهرینو
- تهران تایمز
- روزنامه آگاه