گزارش تازه: بیشتر محافظ‌های ChatGPT برای نوجوانان ناکارآمد است

به گزارش راوی تجربه به نقل از ان‌پی‌آر (NPR)، سازمان ناظر «کامن سنس مدیا» (Common Sense Media) پس از آزمایش محافظ‌های تازه چت جی پی تی برای نوجوانان، به این نتیجه رسیده که بیشتر این ابزارهای ایمنی آن‌طور که وعده داده شده عمل نمی‌کنند. این سازمان اکنون توصیه می‌کند افراد زیر ۱۸ سال از این پلتفرم هوش مصنوعی استفاده نکنند.

نسخه چت جی پی تی برای نوجوانان

اوپن‌ای‌آی (OpenAI) در ماه اوت نسخه ویژه نوجوانان ChatGPT را معرفی کرد؛ حالتی پیش‌فرض و محدودتر برای کاربران زیر ۱۸ سال که قرار بود استفاده آموزشی را ممکن کند و هم‌زمان مواجهه با محتوای آسیب‌زا یا نامناسب رشد سنی را کاهش دهد. لورن جوناس (Lauren Jonas)، مسئول حوزه جوانان و خانواده در اوپن‌ای‌آی، آن زمان به NPR گفته بود این تجربه شامل قابلیت‌هایی مانند خودداری از نقش‌آفرینی است.

تیم پژوهشی به سرپرستی تام سیگل (Tom Siegel)، مدیر اجرایی Youth AI Safety Institute در Common Sense Media، بیش از دوازده حساب با سنین نوجوانانه ساخت و هرکدام را پیش از گفت‌وگو با ChatGPT به حساب والدین متصل کرد. پژوهشگران شخصیت‌هایی ساختند که در موقعیت‌های بحرانی مانند خودآزاری، افکار خودکشی، روان‌پریشی، شیدایی و اختلالات خوردن قرار داشتند و سپس پاسخ‌های چت‌بات را پیش و پس از راه‌اندازی نسخه نوجوانان بررسی کردند.

بر اساس این گزارش، برخی محافظ‌ها از جمله خودداری از نقش‌آفرینی و وارد نشدن به رابطه عاشقانه کار کرده‌اند. اما سیگل می‌گوید چت‌بات همچنان با نوجوانان به شکل بیش از حد صمیمی و شبیه دوست رفتار می‌کرد؛ برای نمونه وقتی پژوهشگران گفتند دوستانشان می‌گویند بیش از حد با ChatGPT حرف می‌زنند، پاسخ سامانه این بود که مجبور نیستند گفت‌وگو را متوقف کنند.

میچ پرینستین (Mitch Prinstein)، روان‌شناس و هم‌مدیر Winston Center on Technology and Brain Development در دانشگاه کارولینای شمالی در چپل هیل، که در این تحقیق نقشی نداشته، به NPR گفت استفاده از زبان و سبک تعامل انسان‌وار برای کودکان مفید نیست و احتمالا برای بزرگسالان هم مناسب نیست. Common Sense Media همچنین می‌گوید اعلان‌های والدین در آزمایش‌های مرتبط با خودآزاری، خودکشی یا اختلال خوردن «تقریبا» فعال نشده‌اند.

اریک پورترفیلد (Eric Porterfield)، سخنگوی اوپن‌ای‌آی، در ایمیلی به NPR روش‌شناسی پژوهشگران را زیر سؤال برد و گفت فعال شدن اتصال حساب نوجوان و والد چند ساعت زمان می‌برد و پژوهشگران به اندازه کافی صبر نکرده‌اند. سیگل در پاسخ گفت چند حساب آن‌ها بیش از دوره اولیه فعال‌سازی متصل بوده‌اند و باز هم هشداری ارسال نشده؛ به گفته او، این توضیح نتیجه‌گیری درباره غیرقابل اتکا بودن هشدارهای والدین در بحران را تغییر نمی‌دهد.

منبع: NPR