5 ضعف امنیتی که سیستم های هوش مصنوعی را تهدید می کنند
به گزارش آجاک، نتایج یک پژوهش 5 ضعف امنیتی که سیستم های هوش مصنوعی را تهدید می کنند، آشکار کرد.
آجاک به نقل از خبرنگاران جوان: دانشمندان دانشگاه لنکستر در بریتانیا هزاران مطالعه علمی را تحلیل و بررسی کرده و پنج آسیب پذیری امنیتی عمده در حوزه هوش مصنوعی را شناسایی کرده اند.
این مطالعه به سفارش داونینگ استریت انجام شده است. یک تیم تحقیقاتی، شیوه های جهانی برای تضمین امنیت شبکه های عصبی مدرن را بررسی نموده و بیشتر از ۹۰۰۰ نشریه علمی مرتبط انتشار یافته از سال ۲۰۲۰ را، همانطور که هایکا گزارش داده است، بررسی کردند.
۵ حوزه نیازمند پشتیبانی
گزارش نهائی پنج حوزه حیاتی را شناسایی کرد که احتیاج به بودجه و توجه بیشتر دولت دارند. محققان تاکید کردند که یکی از اولویت های اصلی، تضمین یکپارچگی داده های مورد استفاده برای آموزش الگوریتم های هوش مصنوعی است.
این گزارش همینطور بر ضرورت رسیدگی به خطرات ناشی از اعتماد بیش از اندازه کاربران به نتایج مخرب یا آن چه بعنوان توهمات شبکه عصبی شناخته می شود، تاکید کرد. همینطور بر اهمیت نظارت بر مدلهای شخص ثالث موجود در بازار و درک هرگونه آسیب پذیری پنهانی که امکان دارد در آنها وجود داشته باشد، تاکید کرد.
درخواست ها برای اقدامات سختگیرانه تر
دانشمندان خواهان تدوین فوری پروتکلهای سختگیرانه برای از رده خارج کردن ایمن و دفع سازگار با محیط زیست سیستم های هوش مصنوعی در انتها چرخه عمر آنها شدند. در این گزارش همینطور اشاره شده است که Science Mail قبل از این گزارش داده بود که محققان در آموزش هوش مصنوعی برای ایجاد زبان های جدید موفق بوده اند. به طور خلاصه یک تیم تحقیقاتی، شیوه های جهانی برای تضمین امنیت شبکه های عصبی مدرن را بررسی کرده و بیشتر از ۹۰۰۰ نشریه علمی مرتبط منتشر شده از سال ۲۰۲۰ را، همانطور که هایکا گزارش داده است، بررسی کردند.
۵ حوزه نیازمند پشتیبانی
گزارش نهایی پنج حوزه حیاتی را شناسایی کرد که نیاز به بودجه و توجه بیشتر دولت دارند. همچنین بر اهمیت نظارت بر مدل های شخص ثالث موجود در بازار و درک هرگونه آسیب پذیری پنهانی که امکان دارد در آنها وجود داشته باشد، تصریح کرد.
درخواست ها برای اقدامات سختگیرانه تر
دانشمندان خواستار تدوین فوری پروتکل های سختگیرانه برای از رده خارج کردن ایمن و دفع سازگار با محیط زیست سیستم های هوش مصنوعی در پایان چرخه عمر آنها شدند.
منبع: acak.ir
این مطلب آجاک را پسندیدید؟
(0)
(0)
تازه ترینهای مرتبط
نظر بینندگان آجاک در این باره