رویداد کاسپین – ارسال یک کلیپ از روند رشد و تکامل دانش‌آموز ۸ ساله به عنوان تکلیف درس علوم، برای یک مادر به محرومیت سه روزه دسترسی به پیام‌رسان «شاد» انجامید؛ محدودیتی که بنا بر توضیح پشتیبانی با بررسی هوش مصنوعی و به دلیل تشخیص «محتوای نامناسب» اعمال شده اما نه برای این مادر و نه معلم روشن شد دقیقاً کدام بخش از کلیپ مشکل داشته و نه پشتیبانی توانست توضیح مشخصی درباره علت این تصمیم ارائه کند؛ تجربه‌ای که در کنار بار تکالیف بر دوش والدین، پرسش‌هایی درباره شفافیت و امکان بازبینی تصمیم‌های خودکار در بسترهای آموزشی ایجاد می‌کند.

به گزارش رویداد کاسپین به نقل از ایرنا، ماجرا از یک تکلیف درسی شروع شد؛ تکلیفی برای درس علوم که قرار بود روند رشد و بزرگ‌شدن دانش‌آموز را از دوران نوزادی تا ۸ سالگی به تصویر بکشد. مادر، پس از رسیدگی به تکالیف دیگرِ فرزندش، عکس‌های سال‌های مختلف زندگی او را کنار هم گذاشت، کلیپی ساخت و با استفاده از آهنگی مجاز، آن را برای معلم در پیام‌رسان شاد فرستاد.

تهیه چنین کلیپی، برخلاف ظاهر ساده آن، زمان‌بر است؛ باید عکس‌های مناسب پیدا شوند، ترتیب زمانی آنها رعایت شود و تصاویر در قالب فیلمی کوتاه کنار هم قرار بگیرند. این کار برای خانواده‌هایی که والدین، به‌ویژه مادران شاغل در کنار مسئولیت‌های روزمره با وظایف مدرسه فرزندانشان نیز سروکار دارند، می‌تواند به معنای صرف وقت قابل‌توجه برای انجام تکلیفی باشد که قرار است در نهایت به یادگیری دانش‌آموز کمک کند.

به گفته این مادر، معلم پس از دریافت کلیپ از کار او تشکر کرده و واکنش مثبتی نشان داده بود؛ بنابراین، در ابتدا نشانه‌ای از بروز مشکل دیده نمی‌شد اما بعد از یک ربع هنگامی که مادر در حال تبادل نظر با معلم مربوطه بود متوجه شد حساب کاربری‌اش با محدودیت مواجه شده است و دیگر نمی تواند پیامی ارسال کند و بلافاصله یک پیامک و یک پیام از سامانه شاد دریافت کرد با چنین مضمونی؛ «کاربر گرامی، به دلیل ارسال محتوای نامناسب، تعاملات حساب شما در سامانه شاد از تاریخ ۱۴ مهر ۱۴۰۵ به مدت ۳ روز محدود شد». عبارت «محتوای نامناسب» در این پیام، بدون اشاره به مصداق یا توضیح بیشتر، برای کاربر پرسش‌برانگیز بود. مادر این دانش آموز ابتدایی می‌گوید؛ در شاد، جز همان کلیپ مربوط به تکلیف علوم فرزندش، محتوای دیگری ارسال نکرده بود و نمی‌دانست کدام بخش از فیلم یا بر اساس چه معیاری، نامناسب تشخیص داده شده است.

این محدودیت به معنای قطع کامل دریافت پیام‌ها نبود؛ به گفته مادر، او همچنان می‌توانست پیام‌ها را دریافت کند اما امکان ارسال پیام و محتوا را نداشت. به این ترتیب، محدودیت اعمال‌شده یک‌طرفه بود و او با وجود دسترسی به پیام‌های دریافتی، نمی‌توانست از طریق این بستر برای دیگران پیام یا مطلبی ارسال کند؛ مسئله‌ای که می‌توانست ارتباط او با مدرسه و پیگیری امور آموزشی فرزندش را با دشواری روبه‌رو کند.

یک تکلیف درسی و دغدغه‌ای برای خانواده

در کنار مسئله محدودیت حساب، این ماجرا پرسش دیگری را نیز مطرح می‌کند؛ اینکه تکالیف مدرسه تا چه اندازه باید به کمک و صرف وقت والدین وابسته باشند؟ ساخت کلیپ از عکس‌های دوران نوزادی تا ۸سالگی برای برخی خانواده‌ها کاری ساده و در دسترس است اما برای برخی دیگر، پیدا کردن تصاویر، تدوین فیلم و آماده‌سازی خروجی مناسب، زمان و امکانات می‌خواهد. این مسئله به‌ویژه برای مادران شاغل که باید میان کار، امور خانه و همراهی تحصیلی فرزندان تعادل برقرار کنند، اهمیت بیشتری دارد. هدف از طرح این موضوع، نادیده گرفتن نقش خانواده در آموزش نیست؛ همراهی والدین با فرزندان بخشی از روند یادگیری است.

با این حال، بهتر است تکالیف تا حد امکان به شکلی طراحی شوند که دانش‌آموز بتواند متناسب با سن و توانایی خود آنها را انجام دهد و نقش والدین بیشتر به راهنمایی و نظارت محدود بماند نه اینکه بخش اصلی تولید و آماده‌سازی کار بر عهده خانواده قرار گیرد. در این ماجرا، مادر برای انجام تکلیف فرزندش وقت گذاشت و کلیپ را برای معلم فرستاد اما پس از آن با پیامی درباره ارسال محتوای نامناسب روبه‌رو شد، بی‌آنکه توضیح روشنی درباره علت محدودیت دریافت کند. به گفته این شهروند با دیدن کلیپ‌های ارسال سایر والدین متوجه شده که برخی از کلیپ ها واقعا نیازمند تذکر بوده و در تعجب است چرا کلیپی که به عنوان اولین کلیپ ارسال شد با چنین بازخوردی از سوی «شاد» مواجه شده است.

پشتیبانی چه توضیحی داد؟

مادر پس از مشاهده پیام محدودیت، با پشتیبانی شاد تماس گرفت. به گفته او، کارشناس پاسخگو با احترام و حوصله به توضیحاتش گوش داد اما علت دقیق اعمال محدودیت برای این حساب مشخص نشد. به روایت مادر، توضیحات ارائه‌شده نیز نتوانست ابهام او درباره دلیل این تصمیم را برطرف کند.

این مادر می‌گوید از برخورد محترمانه کارشناس رضایت داشت اما مسئله اصلی‌اش همچنان بی‌پاسخ مانده بود، اینکه اگر محتوایی نامناسب تشخیص داده می‌شود، چرا مصداق آن به کاربر اعلام نمی‌شود تا بتواند دلیل تصمیم را بفهمد و در صورت نیاز، از تکرار آن جلوگیری کند و موارد اعلام شده را نیز به مسئولان مدرسه منتقل کرده تا دیگر چنین درخواست‌هایی از والدین نداشته باشند؟

وی همچنین بر ضرورت وجود راهی روشن برای بازبینی انسانی تصمیم‌های سامانه تأکید دارد، راهی که کاربر بتواند در صورت اعتراض، موضوع را توضیح دهد و درخواست بررسی دوباره کند. به باور او، صرف اعلام محدودیت بدون مشخص کردن دلیل، امکان دفاع یا اصلاح را از کاربر می‌گیرد و هوش مصنوعی نمی‌تواند در تمامی این موارد پاسخگو باشد.

پیام معلم؛ سرنخی درباره مشکل ارسال کلیپ

در ادامه ماجرا، پیام معلم دانش‌آموز نیز به این موضوع بُعد تازه‌ای داد. معلم در پیامی خطاب به مادر از بروز مشکل در شاد خبر داد و پرسید آیا مشکل حساب او برطرف شده است یا خیر. او همچنین توضیح داد که خودش نیز هنگام ارسال کلیپ با مشکل مواجه شده و احتمال می‌دهد سامانه به دلیل بخشی از ابتدای فیلم، محتوا را نامناسب تشخیص داده باشد. معلم در ادامه پیام خود از تماس با پشتیبانی شاد خبر داد و گفت مشکل ارسال کلیپ برای او برطرف شده است.

او ضمن تعریف از کیفیت فیلم و تشکر از زحمات مادر، توضیح داد که برای ارسال کلیپ در گروه، ناچار است بخش ابتدایی آن را حذف کند. معلم همچنین با اشاره به اینکه مادر پیش‌تر اعلام کرده بود تکالیف را از طریق پیام‌رسان بله ارسال کند از برنامه خود برای فرستادن تکالیف از آن مسیر خبر داد.

این پیام از چند جهت اهمیت دارد؛ نخست اینکه معلم نیز هنگام ارسال همان کلیپ با مشکل مواجه شده بود و دوم اینکه او احتمال می‌داد بخش ابتدایی فیلم از سوی سامانه نامناسب تشخیص داده شده باشد.

در عین حال، معلم از کیفیت کلیپ ابراز رضایت کرده و برای انتشار آن در گروه، حذف ابتدای فیلم را راه‌حل موقت خود قرار داده بود. البته این پیام به‌تنهایی علت قطعی محدودیت سه‌روزه حساب مادر را مشخص نمی‌کند؛ معلم از احتمال نقش ابتدای کلیپ صحبت کرده است نه از نتیجه بررسی رسمی سامانه درباره حساب مادر.

با این حال، تجربه مشابه او این پرسش را تقویت می‌کند که سامانه بر پایه هوش مصنوعی بر چه اساسی محتوای مربوط به یک تکلیف درسی را نامناسب تشخیص می‌دهد و چرا توضیح روشنی درباره علت این تشخیص به کاربران داده نمی‌شود.

هوش مصنوعی؛ تشخیص خودکار و ضرورت پاسخ‌گویی

استفاده از سامانه‌های خودکار برای بررسی محتوا می‌تواند به مدیریت حجم بالای پیام‌ها کمک کند اما هر تصمیم خودکار به‌ویژه تصمیمی که دسترسی کاربر به یک خدمت آموزشی را محدود می‌کند باید امکان توضیح و بازبینی داشته باشد.

اگر محتوایی به اشتباه نامناسب تشخیص داده شود، کاربر باید بداند کدام بخش از آن موجب محدودیت شده است. همچنین لازم است مسیر مشخصی برای اعتراض و درخواست بررسی انسانی وجود داشته باشد؛ به‌خصوص در مواردی که کاربر معتقد است محتوای ارسالی، بخشی از فعالیت آموزشی دانش‌آموز بوده است صرفا راه اندازی مرکزی به عنوان پشتیبانی «شاد» که از تماس شما تشکر کند و درخواست را تنها ثبت کند، اثربخش نیست.

از سوی دیگر در چنین شرایطی، اعلام یک عبارت کلی مانند «ارسال محتوای نامناسب» ممکن است برای کاربر کافی نباشد. بدون ذکر مصداق نه امکان اصلاح محتوا به‌روشنی فراهم می‌شود و نه کاربر می‌تواند بفهمد چگونه از تکرار مشکل جلوگیری کند، وقتی یک پیام‌رسان برای ارتباط خانواده و مدرسه به کار می‌رود، محدودیت ارسال پیام فقط یک مسئله فنی نیست، این محدودیت می‌تواند پیگیری تکالیف، هماهنگی با معلم و انجام امور روزمره آموزشی را نیز دشوار کند. به همین دلیل، شفافیت در اعلام علت محدودیت و سرعت رسیدگی به اعتراض‌ها اهمیت ویژه‌ای دارد.

یک تکلیف، چند پرسش بی‌پاسخ

ماجرای این مادر با یک تکلیف علوم آغاز شد؛ تکلیفی که برای نمایش روند رشد یک دانش‌آموز ۸ ساله طراحی شده بود. او برای آماده کردن کلیپ وقت گذاشت، آن را برای معلم فرستاد و در ابتدا نیز واکنش مثبتی دریافت کرد اما بعدتر با محدودیت سه‌ روزه ارسال پیام و محتوا در شاد مواجه شد، در حالی که این روند به گفته مادر، موجب ناراحتی و سردرگمی فرزندش نیز شده است چرا که این اتفاق فراتر از یک محدودیت فنی بر روحیه کودک نیز تأثیر گذاشته است.

وقتی کودکی با گریه می‌پرسد چرا تکلیفش پذیرفته نشده و چرا سامانه «شاد» برای مادرش بسته شده است، انتظار می‌رود مسئولان این بستر آموزشی، علاوه بر بررسی فنی موضوع، درباره معیارهای تشخیص محتوای نامناسب و راه‌های پیگیری اعتراض کاربران نیز توضیحی روشن و قابل‌فهم ارائه کنند.

پیام معلم نیز از تجربه مشکلی مشابه در ارسال همان کلیپ حکایت دارد؛ هرچند برای مشخص شدن علت دقیق محدودیت حساب مادر، توضیح رسمی و بررسی سامانه ضروری است.

پرسش اصلی این است؛ اگر محتوایی که برای یک تکلیف درسی تهیه شده، نامناسب تشخیص داده می‌شود، کاربر چگونه باید از دلیل آن مطلع شود؟ آیا صرف اعلام محدودیت، کافی است یا لازم است سامانه، مصداق محتوای مورد اعتراض را مشخص کند و امکان بازبینی انسانی را در اختیار کاربر قرار دهد؟

در کنار این پرسش‌ها، ماجرای پیش‌آمده بار دیگر ضرورت بازنگری در نوع تکالیفی را یادآوری می‌کند که بخش مهمی از اجرای آنها بر دوش والدین قرار می‌گیرد، به‌ویژه زمانی که انجام تکلیف به تهیه فیلم، تدوین و استفاده از ابزارهای دیجیتال نیاز دارد. در نهایت، آنچه این تجربه را از یک اختلال ساده فراتر می‌برد، نه صرفاً تشخیص خودکار یک محتوا، بلکه نبود توضیح روشن درباره دلیل تصمیم و دشواری پیگیری آن است؛ موضوعی که پاسخ‌گویی شفاف مسئولان شاد درباره معیارهای تشخیص، روند اعتراض و امکان بازبینی انسانی را ضروری می‌کند.