استفاده از هوش مصنوعی در پژوهش مشروط شد  

وزارت علوم کشور اخیرا راهنمای استفاده از ابزارهای هوش مصنوعی در پژوهش را ابلاغ کرده است. در این ابلاغیه ضمن تعیین چارچوب استفاده از هوش مصنوعی در نگارش مقاله، پایان‌نامه و رساله بر شفافیت، مسئولیت‌پذیری، حفاظت از داده‌ها و ممنوعیت واگذاری کامل فعالیت پژوهشی به هوش مصنوعی تاکید شده است. بر اساس راهنمای وزارت علوم، استفاده از هوش مصنوعی برای نگارش، ویرایش، ترجمه، ایده‌پردازی، مرور منابع، تحلیل داده، تولید کد و بهبود نمودار یا تصویر باید به‌صورت شفاف اعلام شود. بر همین اساس، اعلام نکردن استفاده از هوش مصنوعی در پژوهش مصداق تخلف شناسایی خواهد شد. همچنین، تولید کامل مقاله، پایان‌‌نامه یا رساله با هوش مصنوعی ممنوع اعلام شده است. جعل داده و نتایج، ساخت منابع و ارجاعات جعلی، تحریف متون علمی و ارائه محتوای هوش مصنوعی به‌عنوان اثری کاملا انسانی ممنوع است.

با این حال، وزارت علوم استفاده از ابزارهایی مانند ChatGPT برای ویراش زبانی، اصلاح نگارش، بازنویسی زیر نظر مولف، ایده‌پردازی اولیه، خلاصه‌سازی مقالات، تحلیل داده، تولید پیش‌نویس کدهای ساده و بهبود کیفیت نمودارها و تصاویر را مجاز شناخته است. در مقابل، تولید کامل مقاله، پایان‌نامه یا رساله با هوش مصنوعی ممنوع است. جعل داده و نتایج آزمایشگاهی، ساخت منابع و ارجاعات جعلی، تحریف متون علمی، ارائه محتوای تولیدشده با هوش مصنوعی به‌عنوان اثر کاملا انسانی و استفاده پنهانی از این ابزارها برای انجام تکالیف درسی نیز از مصادیق استفاده غیرمجاز عنوان شده‌اند.

راهنمای وزارت علوم درباره استفاده از هوش مصنوعی در دانشگاه‌‌ها مسئولین خطا و سوگیری در نتایج پژوهش را برعهده پژوهشگر قرار داده است.

چارچوب‌های بین‌المللی استفاده ایمن از هوش مصنوعی در دانشگاه‌ها

ممنوعیت واردکردن داده‌های حساس به ابزارهای عمومی صرفا یک رویکرد داخلی برای استفاده از هوش مصنوعی در دانشگاه‌ها نیست؛ بلکه در توصیه‌های بین‌المللی نیز بر حفاظت از داده و حفظ کنترل انسان بر فرایند استفاده از هوش مصنوعی تاکید شده است. راهنمای یونسکو درباره هوش مصنوعی مولد در آموزش و پرورش یکی از این دستورالعمل‌هاست. این دستورالعمل بر رویکرد انسان‌محور و حفاظت از داده‌های کاربران در زمان استفاده از هوش مصنوعی تاکید دارد.

اما چارچوب مدیریت ریسک هوش مصنوعی NIST صرفا درباره استفاده یا عدم استفاده از هوش مصنوعی صحبت نمی‌کند و بر شناسایی، ارزیابی، اندازه‌گیری و مدیریت ریسک این فناوری هم تاکید دارد. بر اساس این چارچوب، در زمان استفاده از هوش مصنوعی باید امنیت، تاب‌آوری، شفافیت، پاسخ‌گویی، حفظ حریم خصوصی و مدیریت سوگیری مورد توجه قرار گیرد.

چت‌بات‌ها و حریم خصوصی؛ چه اطلاعاتی را هرگز نباید با هوش مصنوعی به اشتراک گذاشت؟ در ادامه حتما بخوانید

بریتانیا: پیش از استفاده از AI، سیاست داده ابزار را بررسی کنید

راهنمای عمومی دولت بریتانیا درباره استفاده هوش مصنوعی عمومی در آموزش به این سوال‌ها که ابزار چه داده‌هایی جمع‌آوری می‌کند، داده‌ها چگونه پردازش و ذخیره می‌شوند، اطلاعات برای آموزش مدل استفاده می‌شود یا خیر، ابزار مورد استفاده توسط دانشگاه تایید شده است یا خیر و در آخر آیا استفاده از اطلاعات شخصی با سیاست حفاظت از داده سازمان سازگار است یا خیر. با این اوصاف، دولت بریتانیا ریسک‌های استفاده از هوش مصنوعی در آموزش را فقط در اشتراگ‌گذاری متن یا فایل دانشجو در چت‌بات نمی‌داند. از این جهت که ابزارهای عمومی هوش مصنوعی ممکن است اطلاعات دیگری مانند IP، اطلاعات سیستم، مرورگر و داده‌های مرتبط با استفاده را هم پردازش کند.

آمریکا؛ حفاظت از اطلاعات دانشجویان در خدمات آنلاین

وزارت آموزش آمریکا نیز از طریق دفتر حفاظت از حریم خصوصی دانشجویان، چارچوب‌هایی برای استفاده از خدمات آنلاین آموزشی ارائه کرده است. بر این اساس، یکی از وظایف موسسات آموزشی در زمان استفاده از خدمات شخص ثالث این است که نحوه جمع‌آوری، استفاده و انتقال از اطلاعات شخصی دانشجویان را مشخص کند. همچنین قراردادها و کنترل‌های لازم برای حفاظت از داده‌ها کاربران ایجاد کند.

استرالیا؛ استفاده از هوش مصنوعی باید برای دانشجو شفاف باشد

آژانس تضمین کیفیت آموزش عالی استرالیا (TEQSA) هم یکی از جامع‌ترین مجموعه‌های سیاستی درباره استفاده هوش مصنوعی عمومی در آموزش عالی را تدوین کرده است. بر این اساس، دانشجو باید درباره موارد مجاز و غیرمجاز استفاده از هوش مصنوعی اطلاع داشته باشد. در صورت استفاده از هوش مصنوعی نیز باید آن را اعلام کند.

هشت اصل برای استفاده ایمن از هوش مصنوعی در دانشگاه‌ها

بررسی چارچوب‌های بین‌المللی استفاده از هوش مصنوعی در حوزه آموزش عالی نشان‌دهنده هشت اصل کلیدی مشترک یعنی حریم خصوصی، محرمانگی، شفافیت، راستی‌آزمایی، مالکیت فکری، تمامیت علمی، نظارت انسانی و یادگیری واقعی است. به عبارت دیگر، دانشجویان برای حفاظت از داده‌‌های شخصی و عمومی باید در زمان استفاده از هوش مصنوعی، اطلاعات شخصی را وارد نکنند، داده‌های محرمانه و پژوهشی را به ابزار عمومی نسپارند، در موارد مجاز، استفاده از هوش مصنوعی را اعلام کنند، هیچ کدام از پاسخ‌های هوش مصنوعی را بدون بررسی معتبر نپذیرند، منبع و حقوق صاحب اثر را بررسی کنند، نوشتن کامل تکالیف، مقاله و پایان‌نامه را به هوش مصنوعی واگذار نکنند، مسئولیت نتیجه نهایی را برعهده بگیرند.