نویسنده: Nature        مترجم: مرجان بختیاری        ۲ فروردین ۱۴۰۴

معلمان باید پتانسیل ChatGPT را بررسی کنند

بسیاری از دانش‌آموزان اکنون از چت‌بات‌های هوش مصنوعی برای انجام تکالیف خود استفاده می‌کنند. معلمان باید نحوه گنجاندن این ابزارها در فرآیند تدریس و یادگیری را مطالعه کنند و در عین حال، خطرات آن را به حداقل برسانند. 

---

این مطلب سرمقاله‌ای است که در تاریخ ۱۵ نوامبر ۲۰۲۳ با عنوان
Why teachers should explore ChatGPT’s potential — despite the risks
در وب‌سایت  Natureمنتشر شده است.

---

زمانی که ChatGPT یک سال پیش معرفی شد، معلمان را نگران کرد. این چت‌بات هوش مصنوعی می‌تواند مقاله‌هایی واضح و به ظاهر پژوهش‌شده را در پاسخ به سؤالات تکالیف بنویسد، و این امر معلمان را در سراسر جهان وادار کرد تا روش‌های ارزیابی خود را بازنگری کنند. برخی کشورها امتحانات قلم و کاغذی را دوباره به کار گرفتند و برخی مدارس مدل «کلاس وارونه» را اجرا کردند، به این معنا که دانش‌آموزان پس از یادگیری یک موضوع در خانه، تکالیف خود را در مدرسه انجام می‌دهند. 

اما پس از شوک اولیه، معلمان شروع به بررسی مزایای بالقوه این چت‌بات‌ها کردند. همان‌طور که در یک گزارش خبری اشاره شده است، آزمایش‌هایی برای استفاده از ChatGPT در آموزش در بسیاری از مدارس و دانشگاه‌ها در حال انجام است. اگرچه خطراتی وجود دارد، برخی معلمان معتقدند که ChatGPT و دیگر مدل‌های زبانی بزرگ (LLM) می‌توانند ابزارهای یادگیری قدرتمندی باشند. این فناوری می‌تواند با ارائه تجربه‌ای آموزشی شخصی‌سازی‌شده که در هر زمان در دسترس است و شاید برای دانش‌آموزان بیشتری نسبت به معلمان خصوصی قابل دسترسی باشد، به یادگیری کمک کند. همچنین می‌تواند با تسهیل دسترسی و درک مفاهیمی که معمولاً در کتاب‌های درسی محدود هستند، هم برای معلمان و هم برای دانش‌آموزان مفید باشد. 

هنوز مشکلاتی وجود دارد که باید برطرف شوند. این پرسش مطرح است که آیا مدل‌های زبانی بزرگ می‌توانند به اندازه‌ای دقیق و قابل اعتماد شوند که بتوان به عنوان دستیارهای آموزشی به آن‌ها اتکا کرد. هنوز برای پیش‌بینی تأثیر نهایی آن‌ها بر آموزش زود است، اما لازم است که مؤسسات آموزشی بیشتری مزایا و چالش‌های ChatGPT را بررسی کرده و یافته‌های خود را به اشتراک بگذارند؛ در غیر این صورت، دانش‌آموزان ممکن است از یک ابزار ارزشمند بی‌بهره بمانند. 

بسیاری از دانش‌آموزان از همین حالا در حال استفاده از ChatGPT هستند. تنها چند ماه پس از معرفی آن، گزارش‌هایی منتشر شد که نشان می‌داد دانش‌آموزان از این چت‌بات برای انجام تکالیف و نوشتن مقالات خود استفاده می‌کنند. معلمان اغلب از کیفیت خروجی‌های این چت‌بات چندان تحت تأثیر قرار نگرفتند. مشکل اساسی این بود که چت‌بات مراجع و استنادات جعلی می‌ساخت. علاوه بر این، در حالی که در برخی آزمون‌های ریاضی عملکرد خوبی داشت، در برخی دیگر چندان موفق نبود. این مسئله به این دلیل است که ChatGPT به طور خاص برای حل مسائل ریاضی آموزش ندیده است، بلکه بر اساس میلیاردها متن که دیده است، کلمات محتمل را برای تکمیل یک جمله یا پاسخ به یک پرسش انتخاب می‌کند. 

در یک مقاله پژوهشگران شرح دادند که در مجموعه‌ای از مسائل ریاضی نسبتاً ساده که معمولاً توسط دانش‌آموزان ۱۲ تا ۱۷ ساله پاسخ داده می‌شود، ChatGPT تقریباً نیمی از پرسش‌ها را درست جواب داده است. اما زمانی که مسائل پیچیده‌تر می‌شدند—یعنی مسائلی که به چهار یا بیشتر عمل جمع و تفریق در یک محاسبه نیاز داشتند—احتمال خطای چت‌بات به‌طور چشمگیری افزایش می‌یافت. 

همچنین در مطالعه‌ای دیگر، محققان دریافتند که مهارت‌های ریاضی مدل زبانی که پایه و اساس ChatGPT است، ممکن است کاهش یافته باشد. در ماه مارس ۲۰۲۳، نسخه GPT-4 این چت‌بات توانست در ۸۴ درصد موارد اعداد اول را از اعداد مرکب تشخیص دهد، اما تا ماه ژوئن این میزان به ۵۱ درصد کاهش یافت. نویسندگان این مطالعه اشاره کردند که «بهبود عملکرد مدل در برخی وظایف، مثلاً با تنظیم دقیق آن بر روی داده‌های اضافی، می‌تواند اثرات جانبی غیرمنتظره‌ای بر رفتار آن در وظایف دیگر داشته باشد.» 

با وجود این خطرات، معلمان نباید از استفاده از مدل‌های زبانی بزرگ اجتناب کنند. در عوض، آن‌ها باید به دانش‌آموزان نقاط قوت و ضعف این چت‌بات‌ها را آموزش دهند و از تلاش‌های مؤسسات برای بهبود مدل‌های آموزشی پشتیبانی کنند. این کار می‌تواند شامل توسعه نسخه‌های ویژه‌ای از مدل‌های زبانی باشد که نقاط قوت آن‌ها در گفتگو و خلاصه‌سازی را به کار گیرد و در عین حال خطرات ارائه اطلاعات نادرست یا تسهیل تقلب را به حداقل برساند.

دانشگاه ایالتی آریزونا ASU، برای مثال، در حال راه‌اندازی یک پلتفرم است که به اعضای هیئت علمی امکان می‌دهد از مدل‌های هوش مصنوعی مولد، از جمله GPT-4 و Bard گوگل [یک چت‌بات دیگر مبتنی بر مدل‌های زبانی بزرگ (LLM)] استفاده کنند. این پلتفرم در دوره‌های ASU از تکنیکی به نام «تولید تقویت‌شده با بازیابی» استفاده می‌کند. در این روش، ChatGPT یا Bard دستور می‌گیرند تا پاسخ‌های خود را از مجموعه داده‌های مشخصی، مانند مقالات علمی یا یادداشت‌های درسی، جست‌وجو کنند. این رویکرد نه‌تنها قدرت مکالمه‌ای چت‌بات‌ها را به کار می‌گیرد، بلکه احتمال بروز خطا را نیز کاهش می‌دهد. 

یکی از بزرگ‌ترین خطرات این است که مدل‌های زبانی بزرگ ممکن است نگرانی‌های دیرینه اجتماعی، مانند تعصبات و تبعیض را تثبیت یا حتی تشدید کنند. برای مثال، هنگام خلاصه‌سازی ادبیات علمی موجود، این مدل‌ها احتمالاً تحت تأثیر داده‌های آموزشی خود قرار می‌گیرند و به دیدگاه‌های افراد متعلق به گروه‌های کمتر نمایان‌شده وزن کمتری می‌دهند. ASU اعلام کرده است که پلتفرم این دانشگاه به رفع چنین نگرانی‌هایی کمک می‌کند، زیرا مدل‌های زبانی بزرگ را ملزم می‌سازد منابعی را که برای تولید پاسخ‌های خود استفاده کرده‌اند ارائه دهند، و این امکان را به دانشجویان می‌دهد که درباره دیدگاه‌هایی که چت‌بات‌ها ارائه می‌دهند به‌طور انتقادی بیندیشند. 

دانشگاه وندربیلت در نشویل، تنسی، ابتکاری با عنوان «آینده یادگیری و هوش مصنوعی مولد» دارد. دانشجویانی که در دوره‌هایی مانند علوم کامپیوتر نیاز به استفاده از ChatGPT دارند، به نسخه پولی این چت‌بات دسترسی پیدا می‌کنند. این نسخه پیشرفته می‌تواند از برنامه‌های دیگر برای اجرای کدهای رایانه‌ای استفاده کند و در نتیجه قابلیت‌های ریاضی آن را بهبود ببخشد. 

با افزایش درک از قدرت و محدودیت‌های مدل‌های زبانی بزرگ، بی‌تردید طرح‌های گسترده‌تری در سطح دانشگاه‌ها پدیدار خواهند شد. استفاده از این مدل‌ها بدون در نظر گرفتن نقاط ضعف آن‌ها غیرسازنده است. برای بسیاری از اهداف آموزشی، ابزارهایی که مستعد خطا هستند، در بهترین حالت بی‌فایده‌اند و در بدترین حالت، توانایی یادگیری دانشجویان را تضعیف می‌کنند. اما برخی مؤسسات، مانند ASU، در تلاش هستند تا این ضعف‌ها را کاهش دهند—و حتی آن‌ها را به نقاط قوت تبدیل کنند، برای مثال با استفاده از این فناوری‌ها برای تقویت مهارت‌های تفکر انتقادی دانشجویان. 

معلمان باید شجاع باشند تا از این فرصت بزرگ غافل نشوند—و در عین حال هوشیار باشند تا اطمینان حاصل کنند که مؤسسات آموزشی در سراسر جهان مدل‌های زبانی بزرگ را به شیوه‌ای به کار می‌گیرند که جهان را به جای بهتری تبدیل کند، نه بدتر.