با گسترش ابزارهایی مثل ChatGPT، پرسشی که برای بسیاری از دانشجویان و پژوهشگران پیش آمده این است: اگر بخشی از مقاله‌ام را با هوش مصنوعی بنویسم، آیا دانشگاه یا ژورنال متوجه می‌شود؟ پاسخ ساده نیست. تشخیص دقیق، مشکلات فنی دارد و سیاست‌ها هم بین ناشران و دانشگاه‌ها فرق می‌کند. در این مطلب توضیح می‌دهیم بررسی‌ها واقعاً چگونه انجام می‌شود، ابزارها تا چه حد قابل اعتمادند و چطور می‌توان از این فناوری بدون دردسر استفاده کرد.
دانشگاه‌ها و ژورنال‌ها از چه روش‌هایی استفاده می‌کنند؟
در عمل، بررسی ترکیبی از سه چیز است: نرم‌افزار تشخیص، بررسی انسانی و سیاست‌های اعلام‌شده. نرم‌افزارها متن را تحلیل می‌کنند و احتمال تولید توسط ماشین را تخمین می‌زنند. اما تصمیم نهایی معمولاً با داور، سردبیر یا استاد است. بسیاری از سردبیران می‌گویند نشانه‌های ضعف متن، مثل ارجاع‌های ساختگی، جمله‌های کلی و بی‌ارتباط با داده‌ها و ناهماهنگی میان بخش‌ها، گاهی بیشتر از خروجی نرم‌افزار آن‌ها را مشکوک می‌کند.
ژورنال‌ها علاوه بر این، فرم اعلام استفاده از هوش مصنوعی از نویسندگان می‌گیرند. این فرم‌ها دلیل مهمی دارند: اگر استفاده پنهان شود و بعداً کشف گردد، مشکل از «شفاف نبودن» هم ایجاد می‌شود، نه فقط از خود استفاده.
ابزارهای تشخیص چطور کار می‌کنند؟
بیشتر این ابزارها الگوهای آماری متن را بررسی می‌کنند. مدل‌های زبانی معمولاً کلماتی را انتخاب می‌کنند که از نظر آماری محتمل‌ترند و به همین دلیل متنشان الگوی یکنواخت‌تری دارد. ابزارهایی مثل Turnitin، GPTZero، Originality.ai و Copyleaks به همین شیوه درصدی از متن را «احتمالاً تولید ماشینی» علامت می‌زنند.
نکته مهم این است که این درصد، اثبات نیست. خروجی، یک تخمین احتمالاتی است و حتی خود سازندگان این ابزارها توصیه می‌کنند نتیجه را تنها مبنای تصمیم‌گیری قرار ندهید. به همین دلیل هر دانشگاه یا ناشری که منصف باشد، یک گزارش مشکوک را به بررسی انسانی ارجاع می‌دهد.
دقت تشخیص چقدر است؟ خطاهای رایج
تشخیص هوش مصنوعی از تشخیص سرقت علمی دشوارتر است. در سرقت علمی، متن با منبعی مشخص مقایسه می‌شود. اما در تشخیص هوش مصنوعی، منبعی برای مقایسه وجود ندارد و فقط الگوی متن بررسی می‌شود. نتیجه این است که هم خطای مثبت کاذب داریم و هم خطای منفی کاذب.
خطای مثبت کاذب یعنی متنی که انسان نوشته به اشتباه ماشینی تشخیص داده شود. پژوهش‌هایی منتشر شده که نشان می‌دهند متن نویسندگان غیربومی انگلیسی، که معمولاً ساده‌تر و منظم‌تر می‌نویسند، بیشتر در معرض این اشتباه است. این موضوع برای پژوهشگران ایرانی که به انگلیسی مقاله می‌نویسند اهمیت دارد. خطای منفی کاذب هم زمانی رخ می‌دهد که متن ماشینی با کمی بازنویسی یا ویرایش دستی از چشم ابزار پنهان بماند. شرکت OpenAI هم ابزار تشخیص خودش را به دلیل دقت پایین متوقف کرد. به همین دلیل بعضی دانشگاه‌ها قابلیت تشخیص هوش مصنوعی در ابزارهایشان را غیرفعال کرده‌اند.
سیاست ناشران بزرگ درباره هوش مصنوعی چیست؟
ناشران بزرگ مثل Elsevier، Springer Nature و Wiley در یک نکته هم‌نظرند: هوش مصنوعی نمی‌تواند نویسنده مقاله باشد، چون مسئولیت علمی و اخلاقی را نمی‌پذیرد. همچنین در بیشتر موارد استفاده از آن برای بهبود زبان و خوانایی متن مجاز است، به شرط آنکه نویسنده در بخش مناسب، مثلاً تشکر یا روش‌ها، آن را اعلام کند. اما تولید داده، نتایج یا تصویر با هوش مصنوعی بدون افشا مشکل‌ساز است. نهادهایی مثل کمیته اخلاق انتشارات (COPE) هم همین رویکرد را توصیه می‌کنند. دقیق‌ترین کار این است که پیش از ارسال، دستورالعمل «Instructions for Authors» همان ژورنال را بخوانید، چون سیاست‌ها به‌روز می‌شوند.
وضعیت در ایران؛ همانندجو و تشخیص هوش مصنوعی
در ایران سامانه‌هایی مثل همانندجو بیشتر برای سنجش شباهت متنی با منابع موجود استفاده می‌شوند. این ابزارها کار اصلی‌شان تشخیص کپی از منابع است، نه شناسایی متنی که ماشین تولید کرده. با این حال، با گسترش ابزارهای هوش مصنوعی، دانشگاه‌ها و ناشران داخلی هم در حال تدوین و به‌روزرسانی مقرراتند و ممکن است در آینده نزدیک سخت‌گیری بیشتری دیده شود. بنابراین استفاده بی‌ضابطه از هوش مصنوعی در پایان‌نامه یا مقاله، حتی اگر امروز شناسایی نشود، می‌تواند در آینده یا هنگام دفاع و داوری مشکل‌ساز شود.
پیامد استفاده پنهان از هوش مصنوعی چیست؟
پیامدها از رد مقاله در مرحله اولیه تا برخورد جدی‌تر متفاوت است. ژورنال ممکن است مقاله را بدون داوری رد کند، یا اگر بعد از چاپ مشکوک شود، درخواست توضیح و در موارد شدید ابطال بدهد. در محیط دانشگاهی هم ممکن است موضوع به کمیته انضباطی برسد. جدی‌ترین ریسک، ارجاع‌های ساختگی است: مدل‌های زبانی گاهی مرجعی را اختراع می‌کنند که وجود ندارد. وجود حتی یک مرجع جعلی می‌تواند اعتبار پژوهشگر را زیر سؤال ببرد، حتی اگر ابزار تشخیص چیزی نشان ندهد.
چطور از هوش مصنوعی درست و ایمن استفاده کنیم؟
استفاده مسئولانه یعنی هوش مصنوعی ابزار کمکی باشد، نه جایگزین پژوهش. می‌توانید برای ایده‌پردازی، خلاصه‌سازی منابعی که خودتان خوانده‌اید و بهبود زبان از آن بهره بگیرید، اما تحلیل، نتیجه‌گیری و ارجاع‌ها باید از خودتان باشد. هر مرجعی را که پیشنهاد می‌شود، خودتان در پایگاه معتبر پیدا و بررسی کنید. به سیاست ژورنال هدف توجه کنید و در صورت نیاز، استفاده را در متن اعلام کنید. و مهم‌تر از همه، نتیجه نهایی باید بازتاب فهم و داده‌های واقعی شما باشد.
اگر در بخشی از کار، مثل ساختاردهی مقاله، تحلیل داده یا نگارش علمی، به کمک انسانی و متخصص نیاز دارید، مجموعه‌هایی مثل مقالیتو این امکان را فراهم می‌کنند که کار توسط کارشناس هم‌رشته‌ای انجام شود و ارجاع‌ها و داده‌ها قابل بررسی باشند. هر مجموعه‌ای را قبل از سفارش بررسی کنید و درباره روش کار، اصالت متن و نحوه ارجاع‌دهی سؤال بپرسید.
نکته‌هایی برای کاهش ریسک خطای مثبت کاذب
اگر خودتان متن را نوشته‌اید و نگران هستید ابزار اشتباه تشخیص دهد، چند کار می‌تواند کمک کند. پیش‌نویس‌ها و یادداشت‌های خود را نگه دارید، چون سابقه نگارش یکی از بهترین مدارک است. از سبک شخصی خود استفاده کنید و متن را فقط برای «فرار از ابزار» دستکاری نکنید. اگر ژورنال یا دانشگاه ایراد گرفت، محترمانه درخواست بررسی انسانی کنید و سوابق را ارائه دهید. بسیاری از ناشران چنین فرایند تجدیدنظری را قبول دارند.
جمع‌بندی
تشخیص مقاله تولیدشده با هوش مصنوعی ترکیبی از نرم‌افزار، قضاوت انسانی و سیاست‌های ناشر است و هیچ‌کدام به‌تنهایی کامل نیستند. ابزارها خطا می‌کنند، اما این به معنای مجاز بودن استفاده پنهان نیست. بهترین راه، استفاده شفاف و مسئولانه است: هوش مصنوعی را برای کمک به زبان و ایده بگیرید، تحلیل و ارجاع‌ها را خودتان انجام دهید و سیاست ژورنال هدف را پیش از ارسال بخوانید.