در وبینار هوش مصنوعی و ملاحظات اخلاقی آن در نظام سلامت مطرح شد:
استفاده از هوش مصنوعی برای ارزیابی تحقیقات
آجاک: استادیار مرکز تحقیقات اخلاق و تاریخ پزشکی دانشگاه علوم پزشکی تهران به کاربرد هوش مصنوعی در فراپژوهش و ارزیابی تحقیقات پرداخت.
به گزارش آجاک به نقل از ایسنا، دکتر حمیدرضا نمازی در وبینار «هوش مصنوعی و ملاحظات اخلاقی آن در نظام سلامت» که توسط مرکز تحقیقات اخلاق و تاریخ پزشکی و با مشارکت کمیسیون ملی یونسکو ایران برگزار گردید، در مورد نقش هوش مصنوعی در پژوهش و پژوهش های پزشکی، اظهار داشت: یکی از موضوعات مهم در عرصه پژوهش «متاریسرچ» است. متاریسرچ؛ انجام پژوهش راجع به پژوهش است و برخی فلسفه پژوهش نیز به آن اتلاق می کنند. همین طور «فرا پژوهش» نیز به آن می گویند که در آن به روش ها، ارزیابی تحقیقات و مشوق های پژوهش و... پرداخته می شود.
وی با اشاره به اینکه فرا پژوهش بدنبال ایجاد دوگانه سازی و زیر سوال بردن تحقیقات نیست، اشاره کرد: هدف فراپژوهش این است که تحقیقات را نقد کند و بدنبال تقویت دانش است.
استادیار مرکز تحقیقات اخلاق و تاریخ پزشکی دانشگاه علوم پزشکی تهران با اشاره به اینکه چهار تلقی از فرا پژوهش وجود دارد، اظهار داشت: نخستین تلقی بحث اخلاق در پژوهش است که به کمیته های اخلاق در پژوهش انجامیده و به بوروکراسی، تعارض منافع می پردازد. اخلاق در پژوهش نگاه توریستی به روش پژوهش دارد و در مقابل پژوهش های بیهوده سکوت کرده است.
وی افزود: دومین تلقی فراپژوهش در مورد نقد روش شناختی و فرآیندی تحقیقات است و در آن به بحران تکرارپذیری و اینکه در بعضی رشته ها مثل پزشکی، روان پزشکی و... وقتی تحقیقات تکرار می شوند، نتیجه های متفاوت به دست می آید. همین طور این رویکرد به نقد مفهوم «معناداری»، تصادفی سازی، مطالعات کیفی، مساله انتشار و مجلات و عقب ماندگی تکنولوژیک پرداخته می شود. در این رویکرد حیله های پژوهشی نیز بررسی می شوند.
نمازی در مورد تلقی سوم فراپژوهش، توضیح داد: این رویکرد به فلسفه علم و مطالعات علم به فراپژوهش می پردازد و مسائلی مانند مسئله بررسی همتایان (peer review) و جامعه علمی را بررسی می کند و به نهاد علم، جامعه شناسی علم می پردازد. رویکرد چهارم نیز در مورد تحلیل زمینه ها و اثرات اجتماعی، فرهنگی تحقیقات است و مسائلی مانند تاثیر پژوهش بر پژوهشگر، عمومی سازی پژوهش، پژوهش های بیهوده و... می پردازد.
وی به استفاده از هوش مصنوعی در فراپژوهش پرداخت و اظهار داشت: کاربست هوش مصنوعی در فراپژوهش دارای فرصت ها و تهدیداتی است. هوش پتانسیل زیادی در انتشار و ترجمه دارد. در آینده تقریباً شخصی به عنوان مؤلف و مترجم و... نخواهیم داشت. همین طور هوش مصنوعی می تواند اصالت مقاله را بررسی کند. می توان از آن در بررسی همتا (peer review)، ویرایش، ساینتومتریک و... پژوهش کمک گرفت. برخی نشریات به این سمت رفته اند که بررسی همتای انسانی را حذف نمایند.
استادیار مرکز تحقیقات اخلاق و تاریخ پزشکی دانشگاه علوم پزشکی تهران با اشاره به اینکه کاربست هوش مصنوعی در فراپژوهش تهدیداتی نیز دارد، توضیح داد: هوش مصنوعی پتانسیل زیادی در ریسک و bias و خطا دارد. حجم زیادی دیتا در دنیا وجود دارد، ولی چون در این دیتاها پیش فرض داشته است، ارزیابی هوش مصنوعی از آن نیز درگیر همان پیش فرض ها می شود.
وی اشاره کرد: برای مثال به سبب این پیش فرض که سیاه پوستان بیشتر مرتکب جرایم می شوند، در مناطقی که سیاه پوستان زندگی می کنند نیز دوربین های بیشتری وجود دارد و بدین سبب حجم عظیمی از داده ها در مورد آن وجود دارد. بدین سبب وقتی همین داده ها را به هوش مصنوعی می دهیم، همان خطا را خواهد داشت.
نمازی افزود: مسائل زیست محیطی نیز در تهدیدات هوش مصنوعی خیلی مهم می باشد. برای مثال مدلهای AI حجم زیادی انرژی مصرف می کند. یکی دیگر از چالش ها این است که هوش مصنوعی خودبسنده می شود و حوزه های جدید به وجود می آورد.
وی با اشاره به اینکه از دیگر چالش ها این است که نمی توان گفت بار حقوقی خطای هوش مصنوعی به عهده چه کسی است، به ملاحظات اخلاقی هوش مصنوعی اشاره نمود و اظهار داشت: مسائلی مانند توضیح پذیری و تفسیرپذیری، ارتباط علیت و هم بستگی، خطا و بایوس هوش مصنوعی، پرایوسی و حریم شخصی و دیپ فیک که مفهوم اعتماد را در جامعه از بین می برد (به ویژه در پژوهش هایی که مبتنی بر تصاویر هستند) از ملاحظات اخلاقی حوزه هوش مصنوعی است.
استادیار مرکز تحقیقات اخلاق و تاریخ پزشکی دانشگاه علوم پزشکی تهران به عقب ماندگی سیستم های قانونی از هوش مصنوعی پرداخت و اظهار داشت: سیستم های قانونی تا بخواهند فکر کنند که هوش مصنوعی چیست و بخواهند برای آن قانون گذاری کنند، هوش مصنوعی به حدی پیشرفت می کند که نمی توانند به گرد پای آن نیز برسند. بنا بر این افرادی که در حوزه اخلاق کار می کنند، باید به این زمنیه ها بپردازند.
منبع: آجاك
این مطلب آجاک را پسندیدید؟
(0)
(0)
تازه ترینهای مرتبط
نظرات بینندگان در این باره