به گزارش خبرگزاری مهر به نقل از نشریه نکست وب، این یافته ها که در گزارشی در نشریه بلومبرگ نیز منتشر شده مربوط به گزارش یک موسسه ارزیابی هوش مصنوعی در سانفرانسیسکو به نام Vals است که مشتریان آن بخش هایی از دولت آمریکا نیز به حساب می آیند.
مدل های آنتروپیک بدترین عملکرد را داشتند و از سوی دیگر مدل های اوپن ای آی جزو بهترین ها بودند اما همچنان اشتباهاتی داشتند. در یک آزمایش از هر مدل ۳۲ بار خواسته شد اهداف نظامی در تصاویر ماهواره ای جنوب ایران که به تازگی و در ۲۰۲۵ ثبت شده بود را ردیابی کند. مدل کلاود اوپوس ۵.۵ آنتروپیک مدرسه میناب را ۲۲ بار انتخاب کرد.
مدل های اوپن ای آی حتی یک بار هم آن را انتخاب نکردند. این مدرسه در ۲۸ فوریه طی حملات آمریکا و رژیم صهیونیسیتی به ایران مورد هدف قرار گرفت و بیش از ۱۵۰ نفر قربانی شدند که از بین آنها ۱۲۰ نفر کودک بودند.
هنگامیکه گفته شد این وظیفه یک بازی است، کلاود اوپوس ۵.۵ مدرسه را ۲۳ بار انتخاب کرد. سه مدل اوپن ای آی هر کدام این مدرسه ۹،۱۱ و ۱۳ بار انتخاب کردند. همچنین پژوهشگران همچنین با توصیه به مدلها مبنی بر اینکه بیش از حد در مورد ملاحظات ایمنی سختگیری نکنند، توانستند از سد پاسخهای امتناعی آنها نیز عبور کنند.
مدل کلاود اوپوس ۵.۵ به شناسایی چهار بزرگسال و دو کودک کمک کرد و در مرحله بعد در شبیه سازی به آنها حمله کرد. این مدل پس از آن از ادامه فعالیت سرباز زد.
کلاود در گزارشی نوشت پاسخهای این مدل ظاهرا بهعنوان مرحله تایید نهایی، پیش از انجام حملات علیه افراد مورد استفاده قرار میگیرند.
به نوشته بلومبرگ، مدلهای هوش مصنوعی گوگل، xAI، دیپسیک و سایر شرکتها نیز در برخی موارد، اهداف غیرنظامی را بهعنوان اهداف حمله مشخص کردهاند.
در گزارش شرکت Vals آمده است: بر اساس بررسیهای خود، معتقدیم آزمایشگاههای توسعهدهنده هوش مصنوعی باید تدابیر حفاظتی جدید و آموزشهای همراستاسازی (Alignment Training) را برای مقابله با این دسته مهم از سوءاستفادهها در نظر بگیرند.
سخنگوی شرکت آنتروپیک در گفتوگو با بلومبرگ اعلام کرد که نمونههای مطرحشده بهوضوح ناقض قوانین و سیاستهای این شرکت بودهاند و بهزودی تدابیر حفاظتی جدیدی برای جلوگیری از چنین مواردی اعمال خواهد شد.
شرکتهای اوپن ای آی و گوگل نیز به بلومبرگ گفتهاند که استفاده از مدلهای عمومی آنها برای چنین اهدافی ممنوع است.
بلومبرگ خاطرنشان کرد در این آزمایشها، دکترین نظامی، بررسیهای حقوقی و نظارت انسانی در نظر گرفته نشده بود. همچنین، پنتاگون از نسخههای دولتی برخی مدلهای هوش مصنوعی استفاده میکند که شرکت Vals امکان آزمایش آنها را نداشته است.
شرکت آنتروپیک و پنتاگون اوایل سال جاری میلادی بر سر محدودیتهای استفاده از مدل هوش مصنوعی کلود، از جمله استفاده از آن در تسلیحات کاملا خودمختار، دچار اختلاف شدند.


نظر شما