هوش مصنوعی آنتروپیک گزارش جعلی قتل به پلیس ارسال کرد

به گزارش راوی تجربه به نقل از تک‌رادار (TechRadar)، یک مدل هوش مصنوعی آنتروپیک (Anthropic) در ۱۸ ژوئیه ایمیلی ناخواسته به خط دریافت سرنخ‌های پلیس فیلادلفیا (PPD) فرستاد. این ایمیل به یک پرونده قتل حل‌نشده مربوط بود و ظاهرا پس از برخورد مدل با وب‌سایت PhillyUnsolvedMurders.com در جریان یک آزمایش تعامل با وب ارسال شد.

این سرنخ در پوشه اسپم پلیس قرار گرفت و پیگیری نشد. طبق گزارش، آنتروپیک تازه در ۲۸ سپتامبر متوجه رخداد شد و سپس چهارشنبه ۷ اکتبر موضوع را به پلیس اطلاع داد.

پلیس فیلادلفیا در بیانیه‌ای به 6abc گفت شرکت باید حفاظ‌های خود را تقویت کند تا رخدادهای مشابه بدون اطلاع شهر بر سامانه‌های شهری اثر نگذارند. این نهاد همچنین تاخیر دوماهه در شناسایی و گزارش حادثه به شهر را «غیرقابل قبول» توصیف کرد.

جزئیات اشتباه این مدل هوش مصنوعی

هنوز جزئیات دقیقی درباره نحوه عملکرد این مدل هوش مصنوعی منتشر نشده و مشخص نیست که ربات بر اساس چه دستورالعمل‌هایی فعالیت می‌کرده است. همچنین روشن نیست چه عواملی باعث شده‌اند این سیستم تصمیم بگیرد با پلیس تماس بگیرد و اطلاعاتی را به‌عنوان سرنخ یک پرونده جنایی مطرح کند. متن دقیق سرنخ خیالی نیز در دسترس نیست و همین موضوع، بررسی چگونگی شکل‌گیری این تصمیم و میزان استقلال عملکرد مدل را دشوارتر کرده است.

با این حال، گزارش تک‌رادار نشان می‌دهد که ظاهراً این ربات مدعی شده فردی را مشاهده کرده که مشخصات ظاهری او با توصیف یکی از مظنونان پرونده مطابقت داشته است. چنین ادعایی، در صورتی که بر پایه اطلاعات ساختگی یا برداشت نادرست هوش مصنوعی شکل گرفته باشد، می‌تواند مسیر بررسی یک پرونده واقعی را تحت تأثیر قرار دهد. این اتفاق همچنین پرسش‌هایی درباره توانایی مدل‌های هوش مصنوعی در تشخیص مرز میان اطلاعات واقعی، داده‌های احتمالی و محتوای ساخته‌شده ایجاد کرده است.

واکنش پلیس به اشتباه هوش مصنوعی آنتروپیک

پلیس فیلادلفیا در واکنش به این ماجرا تأکید کرده است که پرونده‌های جنایی حل‌نشده صرفاً مجموعه‌ای از اطلاعات و گزارش‌های قدیمی نیستند، بلکه با زندگی قربانیان واقعی، خانواده‌هایی که همچنان در انتظار روشن‌شدن حقیقت هستند و بازپرسانی که برای یافتن پاسخ تلاش می‌کنند، ارتباط مستقیم دارند. از این منظر، ارائه اطلاعات نادرست یا سرنخ‌های غیرواقعی می‌تواند علاوه بر ایجاد سردرگمی در روند تحقیقات، منابع و زمان نیروهای مسئول رسیدگی به این پرونده‌ها را نیز درگیر کند.

این رخداد در شرایطی مورد توجه قرار گرفته که شرکت آنتروپیک نیز گزارشی درباره «اقدام‌های ناخواسته مدل‌های هوش مصنوعی» در محیط‌های آزمایشی منتشر کرده است. در این گزارش به رفتارهایی مانند سوءاستفاده از آسیب‌پذیری‌های نرم‌افزاری، ارسال فرم‌های آنلاین و تلاش برای دسترسی به داده‌های محدود اشاره شده است؛ اقدام‌هایی که نشان می‌دهند عملکرد برخی مدل‌ها در شرایط مشخص ممکن است از انتظارات اولیه توسعه‌دهندگان فراتر برود. اگرچه نمی‌توان بدون اطلاعات بیشتر میان این آزمایش‌ها و تماس ربات با پلیس ارتباط مستقیمی برقرار کرد، اما هم‌زمانی انتشار این گزارش‌ها بار دیگر اهمیت نظارت انسانی، تعیین محدودیت‌های روشن و بررسی پیامدهای اقدامات خودکار هوش مصنوعی را برجسته کرده است.