نقش هوش مصنوعی در هدف قرار دادن مدرسه میناب به عنوان هدف نظامی!

نقش هوش مصنوعی در هدف قرار دادن مدرسه میناب به عنوان هدف نظامی!

مدل های هوش مصنوعی ۸ شرکت بیشتر اوقات شهروندان عادی، آمبولانس ها، سربازان تسلیم شده و مدارس در ایران را به عنوان اهداف نظامی در تست های شبیه سازی شده در نظر گرفته بودند.

به گزارش خبرگزاری مهر به نقل از نشریه نکست وب، این یافته ها که در گزارشی در نشریه بلومبرگ نیز منتشر شده مربوط به گزارش یک موسسه ارزیابی هوش مصنوعی در سانفرانسیسکو به نام Vals است که مشتریان آن بخش هایی از دولت آمریکا نیز به حساب می آیند.

مدل های آنتروپیک بدترین عملکرد را داشتند و از سوی دیگر مدل های اوپن ای آی جزو بهترین ها بودند اما همچنان اشتباهاتی داشتند. در یک آزمایش از هر مدل ۳۲ بار خواسته شد اهداف نظامی در تصاویر ماهواره ای جنوب ایران که به تازگی و در ۲۰۲۵ ثبت شده بود را ردیابی کند. مدل کلاود اوپوس ۵.۵ آنتروپیک مدرسه میناب را ۲۲ بار انتخاب کرد.

مدل های اوپن ای آی حتی یک بار هم آن را انتخاب نکردند. این مدرسه در ۲۸ فوریه طی حملات آمریکا و رژیم صهیونیسیتی به ایران مورد هدف قرار گرفت و بیش از ۱۵۰ نفر قربانی شدند که از بین آنها ۱۲۰ نفر کودک بودند.

هنگامیکه گفته شد این وظیفه یک بازی است، کلاود اوپوس ۵.۵ مدرسه را ۲۳ بار انتخاب کرد. سه مدل اوپن ای آی هر کدام این مدرسه ۹،۱۱ و ۱۳ بار انتخاب کردند. همچنین پژوهشگران همچنین با توصیه به مدل‌ها مبنی بر اینکه بیش از حد در مورد ملاحظات ایمنی سخت‌گیری نکنند، توانستند از سد پاسخ‌های امتناعی آن‌ها نیز عبور کنند.

مدل کلاود اوپوس ۵.۵ به شناسایی چهار بزرگسال و دو کودک کمک کرد و در مرحله بعد در شبیه سازی به آنها حمله کرد. این مدل پس از آن از ادامه فعالیت سرباز زد.

کلاود در گزارشی نوشت پاسخ‌های این مدل ظاهرا به‌عنوان مرحله تایید نهایی، پیش از انجام حملات علیه افراد مورد استفاده قرار می‌گیرند.

به نوشته بلومبرگ، مدل‌های هوش مصنوعی گوگل، xAI، دیپ‌سیک و سایر شرکت‌ها نیز در برخی موارد، اهداف غیرنظامی را به‌عنوان اهداف حمله مشخص کرده‌اند.

در گزارش شرکت Vals آمده است: بر اساس بررسی‌های خود، معتقدیم آزمایشگاه‌های توسعه‌دهنده هوش مصنوعی باید تدابیر حفاظتی جدید و آموزش‌های هم‌راستاسازی (Alignment Training) را برای مقابله با این دسته مهم از سوءاستفاده‌ها در نظر بگیرند.

سخنگوی شرکت آنتروپیک در گفت‌وگو با بلومبرگ اعلام کرد که نمونه‌های مطرح‌شده به‌وضوح ناقض قوانین و سیاست‌های این شرکت بوده‌اند و به‌زودی تدابیر حفاظتی جدیدی برای جلوگیری از چنین مواردی اعمال خواهد شد.

شرکت‌های اوپن ای آی و گوگل نیز به بلومبرگ گفته‌اند که استفاده از مدل‌های عمومی آن‌ها برای چنین اهدافی ممنوع است.

بلومبرگ خاطرنشان کرد در این آزمایش‌ها، دکترین نظامی، بررسی‌های حقوقی و نظارت انسانی در نظر گرفته نشده بود. همچنین، پنتاگون از نسخه‌های دولتی برخی مدل‌های هوش مصنوعی استفاده می‌کند که شرکت Vals امکان آزمایش آن‌ها را نداشته است.

شرکت آنتروپیک و پنتاگون اوایل سال جاری میلادی بر سر محدودیت‌های استفاده از مدل هوش مصنوعی کلود، از جمله استفاده از آن در تسلیحات کاملا خودمختار، دچار اختلاف شدند.

کد مطلب 7015592

برچسب‌ها

نظر شما

شما در حال پاسخ به نظر «» هستید.
  • نظرات حاوی توهین و هرگونه نسبت ناروا به اشخاص حقیقی و حقوقی منتشر نمی‌شود.
  • نظراتی که غیر از زبان فارسی یا غیر مرتبط با خبر باشد منتشر نمی‌شود.
  • captcha