خطر ایجاد کارخانه تولید مقاله با هوش مصنوعی!
به گزارش مداربسته، یک پژوهشگر مطالعات علم و فناوری با تشریح اصول و ضوابط جهانی استفاده از هوش مصنوعی در تولیدات علمی اظهار داشت: سوگیری و تبعیض، عدم شفافیت و تصاویر جعلی برخی نگرانی ها در این حوزه می باشد.
به گزارش مداربسته به نقل از مهر، دکتر زهره زاهدی؛ عضو هیأت علمی و پژوهشگر گروه علم اطلاعات و دانش شناسی مرکز مطالعات علم و فناوری اطلاعات دانشگاه خلیج فارس و دانشگاه لایدن ضمن اشاره به جوایز نوبل فیزیک و شیمی سالجاری اظهار داشت: اهدای جایزه نوبل شیمی به پیشبینی ساختار پروتئین ها با استفاده از هوش مصنوعی و نوبل فیزیک به یادگیری ماشین و شبکه های عصبی اهمیت استفاده از هوش مصنوعی را در پژوهش های علمی جدید نشان داده است.
وی تصریح کرد: در سالهای اخیر استفاده از هوش مصنوعی در انتشارات علمی روندی روبه رشد داشته و در حوزه علوم کامپیوتر، پزشکی و زیست شناسی از هوش مصنوعی بیشتر استفاده شده است. ۶۴ درصد از محققان حوزه علوم کامپیوتر از ۲۰۰۰ تا ۲۰۲۱ از هوش مصنوعی در انتشارات خود استفاده کردند.
زاهدی ضمن اشاره به نظرسنجی «نیچر» از ۱۶۰۰ پژوهشگر در رابطه با کاربرد هوش مصنوعی در پژوهش اظهار داشت: در این نظرسنجی بیشتر از ۵۰ درصد از پاسخگویان به اهمیت و لزوم استفاده از هوش مصنوعی در پژوهشها اشاره کردند. نگرانی هایی هم همچون خطرات انتشار اطلاعات نادرست، افزایش احتمال تقلب و دشورای در تشخیص آنها وجود داشت.
به گفته این پژوهشگر ابزارهایی مثل Elsevier Scopus AI، Clarivate Analytics AI Research Asistant، Semantic Scholar و Open Knowledge Map با ادغام ابزارهای هوش مصنوعی در پایگاه های اطلاعاتی به محققان کمک می کنند.
وی با بیان اینکه دستورالعمل های مختلفی در دنیا برای کاربرد هوش مصنوعی در پژوهش تدوین شده است، اظهار داشت: اصول مسئولانه الزویر، رویکرد اتحادیه اروپا و دستورالعمل یونسکو همچون دستورالعمل هایی هستند که جهت استفاده از هوش مصنوعی در آموزش، پژوهش و سیاستگذاری تدوین شده اند.
اصول الزویر در رابطه با استفاده از هوش مصنوعی
پژوهشگر دانشگاه لایدن در مورد اصول الزویر در ارتباط با هوش مصنوعی توضیح داد: الزویر در کنار عرضه Scopus AI، اصول ۵ گانه را تدوین کرده تا اطمینان ایجاد شود که هوش مصنوعی بشکلی منصفانه، شفاف، پاسخگو، ایمن طراحی و به کار گرفته شده است.
وی افزود: این اصول شامل درنظر گرفتن تاثیر واقعی چاره ها بر زندگی افراد، اقدام برای پیشگیری از ایجاد یا تقویت سوگیری های ناعادلانه، توضیح پذیری در مورد چاره ها، مسئولیت پذیری از راه نظارت انسانی و احترام به حریم خصوصی و حاکمیت قوی داده ها است.
زاهدی در مورد رویکرد اتحادیه اروپا در ارتباط با هوش مصنوعی در آموزش و پژوهش اظهار داشت: هدف اتحادیه اروپا در مبحث هوش مصنوعی برای تسریع در پذیرش مسئولانه و بموقع هوش مصنوعی است. این گزارش که در مارچ ۲۰۲۴ عرضه شده یک مشاوره علمی به کمیسیون اروپا است که شامل مباحث تقویت نوآوری و پیشرفت علمی در اتحادیه اروپا، تقویت موقعیت علمی و فناوری اتحادیه اروپا، پاسخ به چالش ها و ایجاد چارچوب های مسئولانه، پیشنهاد راهکارهای کاربردی برای ادغام هوش مصنوعی در علوم و ایجاد زیرساخت ها و آموزش برای پذیرش هوش مصنوعی است.
عضو هیأت علمی مرکز مطالعات علم و فناوری اطلاعات دانشگاه خلیج فارس در مورد دستورالعمل یونسکو در استفاده از هوش مصنوعی در آموزش و پژوهش توضیح داد: این دستورالعمل به استفاده مسئولانه، اخلاقی و نوآورانه از هوش مصنوعی در پژوهش های علمی تاکید دارد و شامل ۱۰ اصل است.
وی ضمن اشاره به مزایای استفاده از هوش مصنوعی در پژوهش اظهار داشت: هوش مصنوعی می تواند فرآیندهای ارزیابی، ویرایش و انتشار مقالات را سرعت بخشد و یکپارچگی آنها را بهبود دهد و این اجتناب ناپذیر است. می تواند از راه شناسایی سرقت ادبی، تضمین اصالت مقالات، کاهش زمان داوری و …سبب بهبود و ارتقای فرایند داوری مقالات علمی شود. همینطور با ابزارهایی می تواند تصاویر مقالات را بررسی نموده و از دستکاری تصاویر جلوگیری نماید و در نهایت می تواند در تولید متون و تصاویر علمی به محققان کمک نماید.
به گفته زاهدی هوش مصنوعی در کنار مزایایی که دارد با چالش ها و مسائل اخلاقی هم روبرو است. مسائلی همچون سوگیری و تبعیض، عدم شفافیت، سوءاستفاده و تصاویر جعلی و نگرانی های اخلاقی و حقوقی در این حوزه وجود دارد. همینطور کارخانه های تولید مقاله هم یکی از چالش های جدی است.
وی پیشنهاداتی در زمینه جلوگیری از چالش های هوش مصنوعی عرضه کرد و اظهار داشت: مواردی مثل وضع دستورالعمل های اخلاقی توسط ناشران، توسعه ابزارهای پیشرفته برای شناسایی و بررسی محتوای جعلی همچون تصاویر، همکاری سازمان ها، ناشران و نهادهای علمی برای ایجاد استانداردهای یکپارچه در استفاده از هوش مصنوعی می تواند در این حوزه کمک نماید.
این پژوهشگر تصریح کرد: تأسیس شورای ملی هوش مصنوعی (کارگروه هوش مصنوعی) هم جهت تدوین سیاست هایی برای کاربرد هوش مصنوعی در انتشار علمی ضروری می باشد. در ایران سازمان ها و کارگروه هایی که در زمینه هوش مصنوعی راه اندازی شده اند می توانند در این حوزه نقش آفرینی کنند. همینطور در این حوزه نیازمند استفاده مسئولانه هستیم که سواد هوش مصنوعی و آگاهی از مسائل اخلاقی می تواند در این حوزه کمک نماید.
منبع: newcctv.ir
این مطلب را می پسندید؟
(1)
(0)
تازه ترین مطالب مرتبط
نظرات بینندگان در مورد این مطلب