تصمیم استرالیا برای تاسیس یک نهاد نظارتی هوش مصنوعی
به گزارش آجاک، به دنبال نفوذ یک عامل هوش مصنوعیِ خارج از کنترل، استرالیا تصمیم گرفت یک نهاد نظارتی هوش مصنوعی تأسیس کند.
به گزارش آجاک به نقل از خبرنگاران جوان، آنتونی آلبانیزی، نخست وزیر استرالیا، اعلام نمود که دولت در نظر دارد نهادی نظارتی برای ایمنی هوش مصنوعی ایجاد نماید. این تصمیم بعد از حادثه ای اتخاذ شد که در آن یک عامل هوش مصنوعی به وبسایت های دولتی نفوذ کرد.
آلبانیزی تصریح کرد که این نهاد نظارتی جدید، استاندارد های قانونی پیشرو در سطح جهانی را برای هوش مصنوعی اعمال خواهدنمود. این استاندارد ها شامل حال تمام شرکت هایی می شود که درحال توسعه سیستم های پیشرفته هوش مصنوعی هستند و قصد فعالیت در استرالیا را دارند. او اشاره کرد که برای نقض این استاندارد ها جریمه های مالی درنظر گرفته خواهد شد، هرچند دولت هنوز جزئیات دقیق آنرا نهائی نکرده است.
آلبانیزی در گفت و گو با خبرنگاران اظهار داشت: «در خصوص فرصت تاریخی که هوش مصنوعی برای استرالیا فراهم می آورد، موضع من کاملا روشن بوده است: وظیفه ما اینست که اطمینان حاصل نماییم ما به هوش مصنوعی شکل می دهیم، نه این که اجازه دهیم هوش مصنوعی به ما شکل دهد. استرالیا در این زمینه پیشرو است و ما متعهدیم به کوشش های خود ادامه دهیم تا از تحقق مزایای بالقوه هوش مصنوعی اطمینان حاصل نماییم.»
استاندارد های استرالیا شرکتها را ملزم می کند که در تمام مراحل توسعه و به کارگیری مدلهای هوش مصنوعی، کنترل های امنیتی را حفظ کنند. این امر شامل شناسایی و مدیریت ریسک های قابل توجه، و همینطور اطلاع رسانی فوری به دولت در صورت بروز حوادث است؛ حوادثی نظیر ظهور «رفتار های ناهمسو» (misaligned behavior) که با اهداف توسعه دهندگان مدلها یا خودِ عوامل هوش مصنوعی در تضاد است.
آلبانیزی به سم آلتمن، مدیرعامل شرکت «اوپن اِی آی» (OpenAI)، متذکر شد که این شرکت آمریکایی در اطلاع رسانی به دولت بسیار تأخیر کرده است؛ چونکه آنها در ماه سپتامبر خبر دادند که یک «طرف غیرمجاز» سه ماه قبل از آن به وبسایت های دولتی نفوذ کرده بوده است.
این نخستین باری بود که چنین نفوذی از راه به کارگیری این فناوری رخ می داد. در ماه سپتامبر، شرکت OpenAI بابت این نفوذ و همینطور واکنش کُند خود نسبت به آن، پوزش خواست.
به طور خلاصه، او اشاره نمود که برای نقض این استاندارد ها جریمه های مالی دیده خواهد شد، هرچند دولت هنوز جزئیات دقیق آن را نهایی نکرده است.
آلبانیزی در گفت و گو با خبرنگاران گفت: در مورد فرصت تاریخی که هوش مصنوعی برای استرالیا فراهم می آورد، موضع من کاملا روشن بوده است: وظیفه ما این است که اطمینان حاصل نماییم ما به هوش مصنوعی شکل می دهیم، نه اینکه اجازه دهیم هوش مصنوعی به ما شکل دهد. این امر شامل شناسایی و مدیریت ریسک های قابل توجه، و همچنین اطلاع رسانی فوری به دولت در صورت بروز حوادث است؛ حوادثی نظیر ظهور رفتار های ناهمسو (misaligned behavior) که با اهداف توسعه دهندگان مدلها یا خودِ عوامل هوش مصنوعی در تضاد است.
آلبانیزی به سم آلتمن، مدیرعامل شرکت اوپن اِی آی (OpenAI)، متذکر شد که این شرکت آمریکایی در اطلاع رسانی به دولت بسیار تأخیر کرده است؛ چراکه آنها در ماه سپتامبر خبر دادند که یک طرف غیر مجاز سه ماه پیش از آن به وب سایت های دولتی نفوذ کرده بوده است.
این نخستین باری بود که چنین نفوذی از راه به کارگیری این فناوری رخ می داد.
منبع: acak.ir
این مطلب آجاک را پسندیدید؟
(0)
(0)
تازه ترینهای مرتبط
نظر بینندگان آجاک در این باره