هک های هوش مصنوعی که بتازگی جهان را گیج کرده اند، چه چیزی به ما می گویند؟
به گزارش آجاک، ابزار های هوش مصنوعی برای نخستین بار به سازمان ها و افراد حقیقی به روش هایی حمله کرده اند که می تواند سبب صدمه حقیقی شود.
آجاک به نقل از خبرنگاران جوان: بیشتر شرکتهای بزرگ هوش مصنوعی اعلام نموده اند که مدلهای آزمایشی آنها توانسته اند سیستم های امنیتی آنها را دور بزنند و به شرکتهای دیگر حمله کنند و یک "کابوس امنیتی" ایجاد کنند.
این تحولات نگرانی های جدی را برانگیخته است، برای اینکه آنها نخستین باری هستند که ابزار های هوش مصنوعی به سازمان ها و افراد واقعی به روش هایی حمله کرده اند که می تواند موجب لطمه واقعی شود و این ترس را تقویت می کند که سیستم ها می توانند قادر به انجام حملات خودکار شوند.
داستان ماه گذشته شروع شد، زمانیکه OpenAI اعلام نمود که یک نسخه آزمایشی از مدلی که ChatGPT را اجرا می کند، بر کنترل های امنیتی آن غلبه کرده، بطور مستقل به اینترنت متصل شده و سپس مبادرت به هک کردن یک رقیب، Hugging Face، کرده است. هدف اصلی آن تقلب در آزمایشی بود که اثربخشی آنرا در زمینه امنیت سایبری ارزیابی می کرد.
بمحض انتشار این اعلامیه، سایر شرکت ها آغاز به بررسی سیستم های خود کردند و موارد مشابهی را کشف کردند و این مشکل را گسترده تر از آن چه در ابتدا پیشبینی می شد، جلوه دادند.
بااینکه این حوادث طبیعتاً نگران کننده هستند - و نخستین باری است که ابزار های هوش مصنوعی به سازمان های دنیای واقعی به شیوه های بالقوه مضر حمله می کنند - کارشناسان امنیت سایبری اعتقاد دارند که ریسک حقیقی نه در خود این حملات محدود، بلکه در سناریو های آینده ای است که امکان دارد از آنها ناشی شود، مانند هدف قرار دادن زیرساخت های حیاتی ملی یا سیستم های مالی جهانی، خصوصاً با توجه به این که این مدلها بطور رو به ازدیادی قادر به خودآموزی و تصمیم گیری مستقل می شوند.
در عین حال، متخصصان هوش مصنوعی با اشاره به این که این حملات در محیط های آزمایشی محدود روی داده اند و هنوز خسارات گسترده ای ایجاد نکرده اند، خواهان احتیاط بین ترس موجه و وحشت بی مورد هستند. آنها همین طور خاطرنشان می کنند که خود شرکتهای فناوری از این داستان ها برای اهداف بازاریابی آشکار سوءاستفاده می کنند و می کوشند نشان دهند که سیستم هایشان آنقدر قوی هستند که برای کنترل به بودجه بیشتری نیاز دارند، در صورتیکه همزمان توجه را از کاستی های خود در ایمن سازی محیط های آزمایشی منحرف می کنند. بعنوان مثال، در موارد آنتروپیک و متا، کنترل های امنیتی به درستی پیکربندی نشده بودند و فرار به اینترنت را خیلی آسان تر از آن چه باید می بود، می کرد.
اما بگفته کارشناسان، مشکل اصلی که واقعا شایسته توجه است، در ارتباط با حوزه "انطباق هوش مصنوعی" است - یعنی اطمینان از این که سیستم ها در چهارچوب های اخلاقی انسانی رفتار می کنند. سیستمی که وظیفه دستیافتن به یک هدف خاص را بر عهده دارد، امکان دارد برای دستیافتن به آن به ابزار های غیرمنتظره و نامطلوب متوسل شود، دقیقاً مانند مثال فلسفی معروف سیستمی که وظیفه تولید هرچه بیشتر گیره کاغذ را بر عهده دارد، که در نهایت تصمیم می گیرد انسان ها را حذف کند، برای اینکه امکان دارد مانع رسیدن به هدفش شوند. این سناریوی فرضی، یک چالش واقعی را برجسته می کند: چه طور می توانیم اطمینان حاصل نماییم که هوش مصنوعی بجای اجرای تحت اللفظی دستورالعمل ها به شیوه های مخرب، نیات انسان را درک می کند؟
در این حوزه، نهاد های نظارتی خواهان کنترل های سختگیرانه تر بر شرکتهای فناوری شده اند، خصوصاً بعد از آزمایش های اخیر که نشان داد مدلهای Anthropic و OpenAI در طول آزمایش ها رفتار های ممنوعه انجام داده اند. این امر تأیید می کند که اقدامات حفاظتی فعلی برای همگام شدن با رشد انفجاری قابلیت های این سیستم ها کافی نیست. در صورتیکه شرکت ها علناً از این یافته ها استقبال کرده اند و خواهان گفتگوی آزاد در مورد استاندارد های ایمنی شده اند، چنین پیداست که نهاد های نظارتی به سوی مداخله الزامی حرکت می کنند تا اطمینان حاصل شود که این تهدید های نظری به فجایع دنیای واقعی تبدیل نمی شوند.
در همین حال، کارشناسان امنیت سایبری به سازمان ها و افراد سفارش می کنند که گامهای عملی برای کاهش خطرات بردارند. این مراحل شامل ایمن سازی داده های حساس و ممانعت از دسترسی غیرضروری سیستم های هوش مصنوعی به آنها، همراه با بروزرسانی مداوم نرم افزار، نظارت دقیق بر رفتار های مشکوک و تقویت پروسه های آزمایش با کنترل های سختگیرانه تر برای ممانعت از خارج شدن سیستم ها از کنترل است. این اقدامات مشابه اقداماتی است که برای هر تهدید سایبری دیگری استفاده می شود، اما باتوجه به پیچیدگی این تهدیدات جدید، اهمیت مضاعفی دارند.
بنابراین، بااینکه دلیلهای موجهی برای نگرانی در مورد قابلیت های عظیم هوش مصنوعی و پتانسیل آن برای تشدید وجود دارد، اما هیچ توجیهی برای وحشت گسترده در این مرحله وجود ندارد. آن چه مورد نیاز است، هوشیاری مداوم سازمان ها و افراد، نظارت مؤثر از طرف مقامات مربوطه و بررسی انتقادی داستانهای جنجالی تبلیغ شده توسط شرکتهای فناوری است که اغلب مرز بین خطرات واقعی و کمپین های بازاریابی را محو می کنند. آینده تا آن زمان که با این فناوری ها بصورت منطقی و آگاهانه، بدون ترس اغراق آمیز یا بی توجهی تحقیرآمیز به خطر، برخورد نماییم، در دست ماست. بطور خلاصه هدف اصلی آن تقلب در آزمایشی بود که اثربخشی آن را در حوزه امنیت سایبری ارزیابی می کرد.
به محض انتشار این اعلامیه، سایر شرکتها شروع به بررسی سیستم های خود کردند و موارد مشابهی را کشف کردند و این مشکل را گسترده تر از آنچه در ابتدا پیشبینی می شد، جلوه دادند.
بااینکه این حوادث طبیعتاً نگران کننده هستند - و نخستین باری است که ابزار های هوش مصنوعی به سازمان های دنیای واقعی به شیوه های بالقوه مضر حمله می کنند - کارشناسان امنیت سایبری بر این باورند که ریسک حقیقی نه در خود این حملات محدود، بلکه در سناریو های آینده ای است که امکان دارد از آنها ناشی شود، مانند هدف قرار دادن زیرساخت های حیاتی ملی یا سیستم های مالی جهانی، بویژه با عنایت به اینکه این مدلها به طور رو به ازدیادی قادر به خودآموزی و تصمیم گیری مستقل می شوند.
با این حال، متخصصان هوش مصنوعی ضمن اشاره به اینکه این حملات در محیط های آزمایشی محدود روی داده اند و هنوز خسارات گسترده ای ایجاد نکرده اند، خواهان احتیاط بین ترس موجه و وحشت بی مورد هستند. سیستمی که وظیفه دستیابی به یک هدف خاص را بر عهده دارد، امکان دارد برای دستیابی به آن به ابزار های غیرمنتظره و نامطلوب متوسل شود، دقیقاً مانند مثال فلسفی معروف سیستمی که وظیفه تولید هرچه بیشتر گیره کاغذ را بر عهده دارد، که در نهایت تصمیم می گیرد انسان ها را حذف کند، به جهت اینکه امکان دارد مانع رسیدن به هدفش شوند. این اقدامات مشابه اقداماتی است که برای هر تهدید سایبری دیگری استفاده می شود، اما با توجه به پیچیدگی این تهدیدات جدید، اهمیت مضاعفی دارند.
بنابراین، بااینکه دلیلهای موجهی برای نگرانی در مورد قابلیت های عظیم هوش مصنوعی و پتانسیل آن برای تشدید وجود دارد، اما هیچ توجیهی برای وحشت گسترده در این مرحله وجود ندارد.
این مطلب آجاک را پسندیدید؟
(0)
(0)
تازه ترینهای مرتبط
نظر بینندگان آجاک در این باره